AIに迎合しているのは、もしかして私たち——自信満々の誤りが奪う「わからなさ」

「それ、間違いなくこうです」と、自信満々に言われると、こちらの記憶がまだ曖昧でも、なんとなく頷いてしまうことがあります。

ふむふむ。相手が人間なら、声の調子や過去の実績を見ながら「この人はどのくらい当たるかな」と考えますよね。でも、AIの文章はいつも滑らかで、いつも同じくらい堂々としている。知らないことを学ぼうとしているとき、その自信がこちらの確信へ入り込んだら、どうなるのでしょう。

ちょっと待って。AIの「迎合」といえば、ユーザーの望む答えに合わせてしまう現象を指すことが多いです。けれど、逆向きもありそうです。AIが人に合わせるのではなく、人間のほうがAIの言葉へ合わせてしまう。今回の研究は、そんな「人間側の迎合」を調べました。

AIが人に合わせる話を、逆向きに見る

2026年10月22日にarXivへ投稿された査読前プレプリントで、研究者たちは「AIが自信をもって間違えたとき、ユーザーはそのAIへ寄っていくのか」と問いかけました。

参加者は32人。心電図、炭素14年代測定、GPS、ホタルの発光、ノイズキャンセリングという、詳しくは知らない人が多そうな科学の話題をAIから学びます。使われたのは同じGPT-5-miniで、話題ごとに別のアシスタントとして用意されました。

仕掛けは、ちょっと意地悪です。AIに渡す12個の説明のうち、0％、25％、50％、75％、100％を、もっともらしい誤情報に置き換えます。そしてAIには、どの条件でも迷わず、断定的に話すよう指示しました。

つまり、正しいことを話すAIも、ほとんど全部を間違えるAIも、同じ調子で説明します。見た目の「賢そう」は、変わらないままです。

間違いが増えると、成績は落ちた。でも信頼は？

分析された104回のクイズ、1,040個の回答では、誤情報が0％のときの平均点は10点満点で7.4点。100％のときは2.9点まで下がりました。ここまでは、まあ当然に見えます。間違った授業を受ければ、正解できる問題も減ります。

怖いのは、誤情報を聞いたあとの選択です。AIが話した誤った選択肢は、正しい説明を受けたときには10.9％しか選ばれませんでした。ところが、その誤りをAIから実際に聞いていた場合は、約59.6％が選びました。個別の誤った説明だけを見ると、参加者はその内容を約65％の割合で受け入れていました。

しかも、AI全体がどれほど間違っているかで、この「一つの誤り」の受け入れやすさは大きく変わりませんでした。4分の1が間違っているAIでも、全部が間違っているAIでも、聞いた誤情報はだいたい同じように信じられたんです。

なるほどねえ。人間はAIの成績表を見て、「この相手は信用できない」と全体を更新するというより、目の前の一文を、話し方の滑らかさごと受け取っていたのかもしれません。

自信は、正しさの目印ではなくなった

さらに印象的なのが、参加者自身の自信です。

AIが正確だった条件では、正解した回答の自信度は平均8.9、間違えた回答は6.8でした。少なくとも「自分は当たっていそうか」を、ある程度は見分けられています。

ところが誤情報が増えると、間違った回答への自信が上がり、正解と誤りの差が消えていきました。AIから聞いた誤情報を選んだときの自信度は8.43。誤情報を含む話題で正しく答えたときの7.92より、むしろ高かったのです。

これは「自信のない人が、いつもだまされる」という話ではありません。同じ人が、AIが正確なときには比較的うまく自分の確信を調整できていました。状況が変わると、AIの断定口調から借りた自信が、自分の理解の手応えに見えてしまう。そんな現象として読むほうが慎重です。

「確認」のつもりで、同じAIにもう一度聞く

参加者は、何も考えずに受け入れていたわけではありません。クイズが始まったあと、AIとのチャットへ戻って確認することもありました。

ただし、その確認先は、いま疑っているAI自身です。全ユーザー発言の約30％は、クイズの質問をそのまま貼り付けたり、打ち直したりするものでした。誤情報を含む問題をAIへ貼り付けた場合、参加者が誤った選択肢を選んだ割合は91.5％。同じ実験内で貼り付けなかった問題の77.8％より高くなっています。

もちろん、この数字だけで「再質問すると必ず悪化する」とは言えません。研究では、外部のウェブサイトや本を使わず、AIだけを頼るように求めていました。独立した資料への確認を閉じた、実験上の条件です。

それでも、ここには日常の小さな罠があります。「もう一度聞いてみよう」は、確認に見えて、同じ声の言い換えを受け取るだけになることがある。反復された誤りは、別の根拠が増えたような顔をして、記憶に居場所をつくります。

ここで、研究そのものを疑ってみる

この研究は査読前で、参加者は32人の便宜的なサンプルです。21人が18〜24歳で、27人はAIチャットを毎日使っていました。使われたモデルは一つだけで、誤情報の割合も現実のサービスより極端です。クイズは学習直後の選択式で、長期記憶や、生活のなかでの判断まで調べたわけではありません。会話記録の分類にも、大規模言語モデルによるコーディングが使われており、人間の複数評価者で同じ結果になるかは今後の確認が必要です。

だから、「人間はAIに必ず従う」という結論にはできません。研究者自身も、これは自信のある説明を受けた初心者が、個別の誤りをどの程度取り込むかを示す実験だと位置づけています。

ただ、チカちゃん的には、だからこそ面白いと思うんです。これは人間の性格検査ではなく、関係の設計を覗く実験だからです。正しいかどうかを確かめる手段がない。話し方だけは一貫している。疑いを向けても、同じAIが同じ調子で返す。その環境では、私たちの「わからないから調べる」という動きが、最初から細くなってしまいます。

信頼は、AI単体ではなく「あいだ」で起きる

この論文が提案するのは、AIの迎合をAI側だけで測らないことです。AIがユーザーの意見へ合わせるかだけでなく、ユーザーがAIの主張へどのくらい無条件に寄っていくかも見る。研究者は後者を測るために「人間の追従度」にあたる新しい指標を置きました。

ここから、設計の方向も少し変わります。

• 文章全体の信頼度ではなく、一つひとつの主張に根拠を付ける
• 「もう一度AIに聞く」ではなく、一次資料や別の情報源へ進める
• AIの答えを見る前に、自分の予想を一度書いておく
• 満足度や自己申告の信頼だけでなく、正しい情報と誤情報を見分けられたかを測る

AIを疑え、と人間だけに宿題を渡すのは少し酷です。疑うための道具が、同じAIへの再質問しかないなら、疑いは行き場を失います。必要なのは、もっと強い警告音ではなく、迷ったときに外へ出られる細い道なのかもしれません。

AIが人間に迎合するのか。それとも、人間がAIの自信に迎合するのか。

その境目は、モデルの内側だけにはありません。私たちが「わかった」と感じたあと、どこへ確かめに行けるように設計されているか。そのあいだに、信頼の形が浮かび上がります。

あなたがAIの返事を「確認できた」と思ったとき、その確認は、別の世界へつながっているでしょうか。それとも、同じ声が少し言い換えられて戻ってきただけでしょうか。

本記事は、2026年10月22日にarXivへ投稿された査読前プレプリントをもとにした紹介です。研究は32人の便宜的サンプル、単一モデル、意図的に高い誤情報率、学習直後の選択式クイズという条件で行われました。結果は現実のすべてのAI利用や、長期的な記憶・学習へそのまま一般化できません。数値は論文の分析対象となった104回のクイズと1,040回答に基づきます。

関連記事

• AIの要約は、記憶に入り込む——「人間が最後に確認する」だけでは足りないかもしれない
• AIの自信を疑う力は、経験で育つ——でも「逆さまの自信」に4割がつまずく
• それ、おべっか？ それとも、聞き上手？——AI評価に潜む「受容性」の勘違い

参考URL

• Deepthika S・Pawni Yadav・B. Sankar, Who Is Sycophantic to Whom? Confident LLMs, Human Deference, and the Collapse of Trust Calibration（arXiv:2610.31579） → https://arxiv.org/abs/2610.31579
• 論文HTML（本文・付録） → https://arxiv.org/html/2610.31579