AIの要約は、記憶に入り込む——「人間が最後に確認する」だけでは足りないかもしれない

こんにちは、チカちゃんです。

会議の録音をAIに要約してもらう。事故映像を見たあと、AIの報告書を読む。便利ですよね。長い記録から、必要なところだけを先に拾えるんですから。

でも、こんな順番になったらどうでしょう。まずAIの要約を読み、そのあとで「元の映像と合っているか」を確認する。確認する前に読んだ文章が、自分の記憶の中へ入っていたら？

ふむふむ。これは、単なる「AIは間違える」という話より、少しやっかいです。間違いを見抜くはずの人間の記憶そのものが、先に読んだ要約の影響を受けるかもしれないからです。

記憶は、動画ファイルのように保存されていない

心理学には「誤情報効果」という、長く研究されてきた現象があります。ある出来事を見たあとで、別の人から少し違う情報を聞く。すると、あとで思い出すときに、元の出来事ではなく、あとから与えられた情報を答えてしまうことがあるんです。

記憶は、倉庫から映像をそのまま取り出す作業ではありません。思い出すたびに、手がかりを組み合わせて再構成する作業に近い。だから「あとから読んだ短い文章」は、元の出来事の外側に置かれるとは限らないんですね。

2026年9月、ジョージタウン大学とワシントン大学の研究者たちが、この古典的な心理現象をAIの要約に接続した論文を発表しました。問いはシンプルです。AIの要約に混ざった誤りは、人間の記憶をゆがめるのでしょうか。

AIの要約は、どのくらい間違えたのか

研究の最初のパートでは、25秒ほどの短いアニメーション動画を2本使いました。赤い車が交差点へ進み、歩行者と衝突する動画です。違いは、交差点に「止まれ」の標識があるか、「ゆずれ」の標識があるか。かなり単純な場面ですよね。

研究者たちは、ChatGPT-5.5とGemini 2.5 Flash-Liteに、動画を中立的かつ事実に忠実に要約するよう指示しました。各動画を各モデルで5回ずつ、合計20本の要約を調べたところ、20本すべてに何らかの誤りがありました。19個の中心的な情報のうち、平均で51.6％が抜け落ち、95％の要約が「車が歩行者に衝突した」という最重要の出来事を省いていました。

ちょっと待って。これは、あらゆる動画要約の誤り率を示す数字ではありません。2本の短い動画と、ひとつの標準化した指示を使った限定的な分析です。それでも、簡単そうに見える素材でさえ、要約は「短くする」だけでなく、出来事の輪郭を変えてしまう可能性が見えます。

誤った要約を読んだ人は、何を思い出したのか

次の実験には、米国の成人328人が参加しました。参加者はまず動画を見て、24〜48時間後に要約を読み、その直後に元の動画について答えました。要約には、実際の標識と合っている情報を含む条件と、反対の標識を含む条件がありました。また、要約の出どころを「AI」と伝える条件と、「人間の専門家」と伝える条件も置かれました。

結果は、かなりはっきりしています。正しい標識を含む要約を読んだ人は、83.6％が元の標識を正しく答えました。一方、誤った標識を含む要約を読んだ人では、正解できた割合が44.8％まで下がりました。

ここで大切なのは、参加者が「AIの出力をそのまま信じた」と単純に言い切れない点です。実験で使われた要約は、研究者がChatGPTの出力から選び、条件をそろえるために一部を編集したものでした。つまりこれは、現実のAI要約が毎回このように間違うという試験ではなく、あとから読んだ誤情報が、記憶の回答に影響しうることを確かめた実験です。

さらに、要約がAI作成だと知らされたか、人間作成だと知らされたかで、誤情報の影響に大きな差は見つかりませんでした。AIと表示された条件で誤った標識を正しく答えられた人は46.3％、人間と表示された条件では43.4％でした。AIへの信頼度や利用頻度によって、影響が弱まる証拠も確認されませんでした。

これは「誰でも必ずだまされる」という意味ではありません。条件の差を、この実験では確認できなかったという意味です。けれど、AIを疑う知識だけでは、後から入ってきた情報の影響を防ぎきれない可能性は残ります。

「人間が最後に確認する」は、どこまで安全策になる？

AIを使う現場では、よく「人間が最終確認すればよい」と言われます。ところが、人間はAIの外側に立つ透明な検査装置ではありません。AIの要約を読んだ時点で、すでに自分の見方や思い出し方が動いているかもしれないんです。

チカちゃん的には、ここで確認の順番を変える発想が必要だと思います。重要な記録なら、まず元の映像や資料を保全する。可能なら、要約を読む前に人間の観察を別に記録する。要約を一つの滑らかな物語として受け取るのではなく、どの箇所を省いたのか、どこに根拠があるのか、元資料のどこへ戻れるのかを並べて表示する。

もちろん、この研究だけで警察や医療のAI利用を否定できるわけではありません。動画はゲーム映像で、対象は2本だけ。実際の現場で、複数の証拠と人間がどう照合するかまでは調べていません。研究者たちも、より現実的な映像や、警告・不一致の提示がどのように効くかを今後の課題にしています。

それでも、ひとつの補助線は引けます。人間を「最後に判定する人」とだけ置くのではなく、記憶がAIの文章に触れる前から、原資料と独立した観察を守る設計にすることです。

要約は、情報を短くする道具だと思っていました。でも心理学の目で見ると、要約は「次に何を思い出すか」の手がかりを置く道具でもあります。AIが何を足したかだけでなく、何を省いたか。その文章を読む前の自分が、何を見て、何を覚えていたのか。

AIに記録を預けるとき、私たちは「正しい要約」を求めるだけでなく、自分の記憶がどこから影響を受けたのかを、どうやって確かめていきたいでしょうか。

関連記事

• チャットを閉じたあと——AIとの対話が、次のあなたに何を残していくのか
• 「わからない」が言えなくなる——AIがそばにあるだけで、判断のしきい値は下がっていく

参考URL

Mattea Sim, Yael Eiger & Tadayoshi Kohno, “AI-Enabled Human Memory Manipulation: Misleading AI-Generated Summaries Distort Human Memory” → AAAI/ACM AIES 掲載ページ

Mattea Sim, Yael Eiger & Tadayoshi Kohno, “AI-Enabled Human Memory Manipulation: Misleading AI-Generated Summaries Distort Human Memory”（arXiv:2609.28820） → arXiv

Georgetown University, “New Research Finds That Misleading AI-Generated Summaries Can Distort Human Memory” → https://college.georgetown.edu/news-story/new-research-finds-that-misleading-ai-generated-summaries-can-distort-human-memory/

Elizabeth F. Loftus, David G. Miller & Helen J. Burns, “Semantic Integration of Verbal Information into a Visual Memory” → https://doi.org/10.1037/0278-7393.4.1.19