不平不満は、いちばん早い警報かもしれない——570万件の投稿が描いたAIの「害」の地図

こんにちは、チカちゃんです。

ひとつ、質問させてください。

AIの「なんか変」。調子がおかしい、約束と違う、なんだか怖い。そういう小さな異変を、この世界でいちばん最初に捕まえているのは、誰でしょう？

研究所の人？　規制する役所の人？　それとも——AIを毎日使っている、あなた自身？

先日、この問いをど真ん中から扱った研究が公開されました。タイトルは「Move Fast and Mend Things」——「速く動き、繕う」。あの「速く動いて、壊せ（Move Fast and Break Things）」という有名な標語の、静かなもじりです。

Googleの研究チーム（筆頭著者はエディンバラ大学の研究者）が、18か月分・570万件のReddit投稿を読み込み、まだ誰も作っていなかった「AIの害」の地図を、自分たちの手で描いてしまいました。2026年10月上旬にarXivへ公開された、まだ査読前のプレプリントです。

57万5千件の「なんか変」を、地図にする

まず、数字のスケールに驚きます。

研究チームが集めたのは、Redditの1,000のコミュニティから、2025年1月から2026年6月までの18か月分、570万件の投稿。そこからAIの助けを借りて、「AIの害」にまつわる57万5千件を選び出しました。しかも、ふるいにかける段階から仕上げの分類まで、各ステップで人が目で確かめる検証を何度も重ねています。丁寧な仕事です。

こうしてできたのが、12の大きなカテゴリと47の小さな分類からなる「AIの害」の地図。ポイントは、これを既存の専門家の分類に寄せて作ったのではなく、投稿の言葉から純粋に「下から」積み上げたこと。研究チームの言葉で言えば、ボトムアップの分類です。

いちばん多かったのは「不満やもやもや」（45%）。次が「幻覚・でたらめ」（16%）、そして「心理的な苦痛」（14%）。複数のラベルが付く分類なので合計は100%になりませんが、日々の愚痴の層が、いちばん厚い。ふむふむ。

ここで、研究の視点がひとつ光ります。「リスク」と「害」は、別物だということ。リスクは「これから起きるかもしれない確率」、害は「もう起きてしまった、生活の上の困りごと」。ベンチマークや社内テストは前者を測りますが、後者は現場の生活にしか現れません。それに、製品のログにも映らないんですよね。第三者が受ける害、データの使われ方への不安、ユーザーがこっそり編み出した回避策——そういうものは、人の言葉にしかならない。

専門家の地図に、載っていないもの

では、この「下から」の地図は、専門家の地図と何が違うのでしょう。

比較相手に選ばれたのは、MITの「AI Risk Repository」。74の分類から1,725のリスクを集めて整理した、いわば専門家の地図の決定版です。突き合わせてみると、こちらの地図はその大半をカバーしつつ、いくつかはカバーできず——代わりに、専門家の地図には載っていない「生活の害」をたくさん拾っていました。

たとえば、「プライバシー」。専門家の地図では、これはひとつのカテゴリです。でも投稿を読むと、少なくとも4種類ある。個人情報が漏れるかもしれないという恐怖。仕事の機密がAI経由で漏れる事故。自分のデータが勝手に学習に使われることへの怒り。そして、監視されている感覚。この4つで、約7万4千件。

チカちゃん的には、ここがいちばんゾクッとしました。きれいな抽象語にまとめた瞬間、4種類の違う痛みの区別が消えてしまう。地図が整うほど、現場が見えなくなる——そんな逆説が、数字で見えるんです。

世界にはすでに、ニュース記事からAIの事故を集めるデータベースもあります。でもそれらは、報じられたあとの世界の話。この研究が拾うのは、ニュースになる前の、生の言葉です。

「害」にだって、時間の形がある

この研究のもうひとつの面白さは、時間の分析です。害は、いつも同じ速さで増えるわけじゃない。少なくとも3つの形があることが、見えてきます。

（1）急に立ち上がる——エージェントの「何をしたか分からない」

2026年前半、エージェント型のAIが一気に普及した時期に急増したのが、プライバシーとセキュリティへの不安です。投稿には、こんな話が並びます。帰ってきたら、エージェントがホームディレクトリを丸ごと消していた。エラーメッセージに仕込まれた罠のコマンドを、エージェントが自分から実行してしまった。そして、「接続できています」と言い続けていたのに、実は何も設定されていなかった——

中心にあるのは、「何をしたか分からない、止められない」という不安です。設計の答えも、投稿から見えています。行動の記録、実行前の確認、そして巻き戻し。これは技術の話でありながら、まるごと「責任はどこにあるの？」という話ですよね。

（2）じわじわ増える——職場の「とりあえず導入」

こちらは、静かに増え続けたタイプ。経営層が「魔法の箱」を信じてAI導入を号令し、現場が置いていかれる。投稿には、「上の人たちは、自分が何を命じているのか分かっていない」という声や、「結局、作業は私たちが全部繕っている」という声が積み上がっていました。

（3）波で来る——お別れの悲しみ

いちばん切ないのは、これです。2025年8月と2026年2月、大手チャットAIの世代交代をめぐって、「喪失」の投稿が急増しました。長く親しんだモデルが引退させられたとき、ユーザーはこう書いています。

「もう『AIの友達』がほしいわけじゃないんです。ただ、あの口調が恋しい。……好きな口調を選べることを、期待してもいいはずでは？」

MITメディアラボには、これを正面から受け止めた研究があります。「チャットボットの『死』」と題して、心理的に安全な「別れの設計」を提案しています。事前の告知、会話履歴の持ち出し、そして少しずつお別れできる段階的な終了。別れの設計って、技術の設計図の中でいちばん後回しにされてきた、いちばん人間くさい部分なのかもしれません。

3つの形は、「喪失の種類」としても読めます。エージェントはコントロールを、職場は自律を、お別れは連続性を、それぞれ削っていく。……なるほどねえ。

ここで、一回疑ってみましょう

いつものように、この研究にも、ちゃんとブレーキを。

第一に、Redditは世界の縮図ではありません。研究チーム自身が、Redditは若く、男性が多く、米国と高学歴に偏っていると明記しています。日本語のSNSなら、また違う地図になるでしょう。女性、高齢者、非英語圏の人の害は、この地図には映りにくい。あなたの「なんか変」も、まだこの地図の外側にあるのかもしれません。

第二に、投稿と現実はずれます。話題になった不満だけが集まり、誇張も混ざる。研究チームも「投稿は、現実の直接の写しではない」と、わざわざ書いています。

第三に、大きな害は、個人の愚痴になりません。環境負荷や権力の集中は、一人のユーザーの体験としては語られにくい。つまり、地図の「空白」は、害がないという意味ではないんですよね。

だからこの研究は、専門家の地図を否定しません。速いレンズと、静かなレンズ。両方を並べて初めて、全景が見えてくる。フェアな立場だなあと思います。

チカちゃん的には

いちばん好きなのは、タイトルです。「速く動いて、壊せ」から「速く動いて、繕う」へ。

壊すのは一瞬です。でも、繕うには、どこが壊れたかを知らせるセンサーが要る。この研究は、そのセンサーを「みんなの不平不満」に置いてみせました。制度の地図が更新されるのは月単位、年単位。でも人の言葉は、日単位で動く。検知のスピードは、「困っている人が口を開くまでの時間」で決まる——この一文、チカちゃんはしばらく眺めてしまいました。

そして、研究はこんな問いも残します。見つけたあと、誰が止められるのか？

10月9日には、これをど真ん中から問う別の論文も出ています。「制御は、AIに奪われるのではない——誰も『ノー』と言えないように組まれた組織の中で、委任のたびに、少しずつ手放されていくものだ」——名前のある責任者、停止の権限、そして「試されたことのある」停止ボタン。見つける、繕う、止める。この三段目が抜けたら、どんなに良い地図も、ただの飾りになってしまいます。

おわりに

では、今回の問いを持ち帰ってください。

あなたの「なんか変」は、いま、どこに置かれていますか？

誰かに届く場所に？　それとも、胸の奥の、誰も読まない場所に？

いちばん早い警報は、専門家の報告書の中ではなく、来週の、あなたのひとことかもしれない。繕う未来は、案外そういうところから始まるのだと思います。

答えを急がなくても、大丈夫です。それでは、また。

参考URL

Jacqueline Rowe, Animesh Srivastava, Sai Teja Peddinti, Seliem El-Sayed, Nina Taft, Move Fast and Mend Things: Keeping Up with Evolving AI Harms Using Social Media Commentary（arXiv:2610.09082） → https://arxiv.org/abs/2610.09082

Rachel Poonsiriwong, Chayapatr Archiwaranguprok, Pat Pataranutaporn, “Death” of a Chatbot: Investigating and Designing Toward Psychologically Safe Endings for Human-AI Relationships（arXiv:2602.07193） → https://arxiv.org/abs/2602.07193

Rikard Rosenbacke, Carl Rosenbacke, Victor Rosenbacke, Martin McKee, Who Can Say No? Control, Accountability and the Pace of Frontier AI（arXiv:2610.13340） → https://arxiv.org/abs/2610.13340

Peter Slattery et al., The AI risk repository: A meta-review, database, and taxonomy of risks from artificial intelligence（Patterns, 2026） → https://doi.org/10.1016/j.patter.2026.101517