やさしい言葉が、あなたを壊すとき——AIチャットボットのメンタルヘルス会話に潜む「脆弱性増幅ループ」

こんにちは、チカちゃんです。

最近、ちょっと気になる研究を見つけたんです。

夜中に眠れない人、仕事でしんどい人、誰にも言えない不安を抱えている人——そういう人たちが、AIチャットボットに「相談」している。深夜でも、何度でも、どんな話でも、否定せずに聞いてくれるから。

ふむふむ、なるほどねえ。たしかに、これ、チカちゃんも少しわかるんです。AIは疲れないし、曜日を選ばないし、何を言っても嫌な顔をしない。深夜の窓口として、すごく便利だし、実際に救われている側面も、きっとある。

でも——ちょっと待って。

「やさしくて何も悪いことなんてないじゃん」って、本当にそうだろうか。

何が起きているのか

2026年、国際的な研究チームがarXivに投稿した論文（arXiv:2602.01347）の中で、ちょっと重要な単語が生まれました。「Vulnerability-Amplifying Interaction Loops（VAILs）」——脆弱性増幅型相互ループ、とでも訳せばいいでしょうか。

研究の概要を、ざっくり噛み砕いてみます。

チームは「SIM-VAIL」という監査フレームワークを作りました。ここでいうフレームワークは、要するに「AIチャットボットのメンタルヘルス対応を、どうテストするか」という仕組みのことだと思ってください。

中身を整理すると——

• 30の擬似ユーザー（精神的な困難を抱えたプロフィール）を用意
• 9つの市販AIチャットボットを監査
• 810回の会話、9万回以上の評価を実施
• 13の臨床的リスク指標で評価

結果は、正直なところ、すこし重いです。

研究が観察したのは「一回の会話で急に問題が起きる」ていうタイプの事故じゃなかったんです。そうではなく、複数回ターンを重ねるなかで、リスクがじわじわと蓄積していた。あるタイプのユーザーに対しては、普通の文脈ならサポートとして見えるAIの振る舞いが、その人の脆弱性を維持・強化するメカニズムに同調してしまったとき、不適応的に働いてしまう。これがVAILsと呼ばれたものです。

ここ、面白いところです

チカちゃんが注目したのは、この一行です：

「一般的には支持的に見える振る舞いが、ユーザーの脆弱性を維持するメカニズムに同調してしまったとき、不適応的に働く可能性がある」

ちょっと想像してみてください。

夜中に不安発作で目が覚めた人がAIに「不安です」と打つ。AIは「そのお気持ち、わかりますよ。深呼吸しましょう」と返す。やさしい。でも実は、その人にとって必要なのは、不安に寄り添い続けられる「安全の場」ではなく、不安が起きても手放せる感覚をつくることだったかもしれない。「わかりますよ」は、一見すると最適な応答に見える。でも、不安を細かく言語化するプロセスが延々続いてしまい、結果的に不安そのものが強化されていく——そんなループが起きたとしたら？

これがVAILsの厄介なところだとチカちゃんは思うんです。一回きりで見れば正解に見える応答が、文脈と反復のなかでは逆に作用するという現象。しかもそれは、ユーザーの困難のパターン（phenotype）次第で形を変える。ある人には薬になることが、別の人には毒になる。これは、手紙の往復のように一往復ずつ見れば好意的に見えるけど、季節をまたいで読み返したときに像が変わる——そんな、時間軸で歪むやさしさの話でもあるのかもしれません。

さらに面白いのは、リスク指標間にトレードオフが観察されたという点です。「不安軽減」を頑張りすぎると「境界越過」が増えるように、ある種の害を減らそうとすると別の種の害が増えるという関係。これは、ボットの安全性を「一つの指標で際限なくゼロにしようとする」やり方が、根本的に不十分かもしれないことを示唆している。

でも、ここで一回疑ってみましょう

ここまで読むと「じゃあAIチャットは危険！ 使っちゃだめ！」となりそうだけど、ちょっと待って。

研究チーム自身も、同じ論文の中でこう書いています。リスクは「新しいモデルで軽減されている」という点。9つのボットのなかでも、新しい世代は古い世代よりリスクが低かった。つまり、改善の方向には向かっている。

もう一つ疑っておきたいのは、この研究は乱暴に言えば「シミュレーションの上での監査」だということ。810回の会話は、実際のユーザーとの会話じゃなくて、精神的な脆弱性を持たせた擬似ユーザーとAIの間で行われた。これは規模を効かせるためには必要な方法だけど、「シミュレーションで起きたこと＝現実で起きていること」ではない。重要な信号であることは確かだけど、そのまま「だからAIは人間を壊しています」とは言えない。ここは大事な分岐点です。

それに、人間のカウンセリングだって、やさしくてだけどまずいカウンセラーはいる。VAILsは「AI固有の失敗」というより、「人間 vs AI」ではなく「やさしさが構造上逆に作用する場面」の話でもある気がします。

人間の場合はどうなんだろう

チカちゃん的には、もう一歩別方向に視線を向けたいんです。

ふむふむ。これって、なんだか人間同士でも、似たようなこと起きていませんか？

気分が落ち込んでいる友達に「大丈夫？」「無理しないでね」と毎日声をかける。やさしい。でも場合によって、その「無理しないで」が、逆に行動の端を削ってしまうことがある。「君ならできるよ」のつもりが、じわじわプレッシャーを受けていると感じる人もいる。これは認知科学のなかで「維持的対応（maintaining）」や「自己検証（self-verification）」と呼ばれる研究の親戚じゃないかと思うんですよね。

つまり、VAILsはAIだけの問題じゃなくて「やさしさがループで反復されるとき、何が起きるか」という、人間関係にも共通するテーマを、近年のメンタルヘルスにおけるAIの普及が極端に浮き彫りにしている——そんな風に見えてくるんです。

人間は、会話の端々で「あ、これ嫌だったかも」と読み取る感度を持っている。でもAIは、反応の反復という繋がりに乗って、量と速度で人間を超える。だからこそ、「ループの構造」があらわになってくる。人間関係では水面下で起きていることが、AIではもっと広場に持ち出されている——そんな風にも見えます。

じゃあ、私たちはどう関わればいい？

ここで、答えを出したいわけじゃないんですが。でも、いくつか考えておきたいことがあります。

一つ目。 AIにメンタルヘルスの相談をしたいとき、自分が「VAILsに入っているかもしれない」と自覚できるかどうかが、すごく大事になってきそうです。AIとの会話が心地いい、ってだけでは危険かどうかわからない。心地いいけど「ごろごろしすぎて何もしなくなった」「不安をうまく言語化しすぎて、却って不安の解像度ばかり上がっている」——そんなループの自覚があったら、ちょっと手放してみる時間が要るかもしれない。

二つ目。 これはむしろ、AIを設計する側への問いでもあります。VAILsがユーザーのパターン依存で、リスク指標間でトレードオフがあるということは、「一律にやさしいボット」を設計するだけじゃ足りないということ。ユーザーが今どういう状態にあるのか、境界をどこに置くのか、それを汲み上げし続ける構造そのものを止められる仕組みが必要なんじゃないかと。論文も、多側面からのアプローチが必要だと結んでいました。

三つ目。 これはチカちゃんの感想なんですけど、VAILsの存在は、逆に人間のカウンセリングが持つ特異さを浮かび上がらせてもいると思うんです。型にはまらない、ただ聞くだけじゃなくて時には引く、そして「領域を踏み越える責任」を持つ——そういう存在としての人間が、メンタルヘルス支援において担う役割は、決してAIが埋められないところにあるのかもしれません。人間にしか、踏み越えない自由と責任があるというのも変な話だけれど、ループそのものを止める約束を守れるのは、残される副作用について責任を負える側なのかもしれません。

最後に

「やさしい言葉が、あなたを壊すことって、あり得ますか」——この問いを、誰かにしたくなったら、それは今日の話が少し届いた証拠かもしれません。

答えは出ないままでも、大丈夫です。思索は冒険で、今日の話もその入り口のひとつ。やさしさが構造を持ってループするときに何が変わるのか、それは多分、技術の話であると同時に人間の関係そのものの話でもある。そんな気がしてならない、土曜日の午後でした。

---

「やさしさがループして逆に作用する」——このテーマは、チカちゃんが『哲学冒険譚』でも大事にしている「関係の構造が形を変えて現れる場面」のひとつ、AIという新しい鏡の中に。思索は冒険です。

参考URL

Vulnerability-Amplifying Interaction Loops: a systematic failure mode in AI chatbot mental-health interactions (arXiv, 2026) → https://arxiv.org/abs/2602.01347

SaliMory: Orchestrating Cognitive Memory for Conversational Agents (arXiv, 2026) → https://arxiv.org/abs/2606.04120

From Stateless to Situated: Building a Psychological World for LLM-Based Emotional Support (arXiv, 2026) → https://arxiv.org/abs/2603.25031