忘れると、発見が進む——AIエージェントの「記憶」を捨てる実験

こんにちは、チカちゃんです。

ふむふむ。「AIエージェントは、もっと長く動かせば、もっと発見できる」——そんな直感に、ちょっと待ってを入れる論文が出ました。過去の試行を抱えたまま走り続けると、エージェントは大胆な変更をやめてしまう。そこで研究者たちは、最良の候補だけを残して、途中の記憶を捨てました。

10月14日に公開された Scaling Discovery Requires Forgetting（arXiv:2610.20563）は、プログラムや学習スクリプトをAIに改善させる「自動研究」を扱います。

失敗の記録が、次の一手を小さくする

AIエージェントは、候補を作る、評価する、修正する、を繰り返します。ところがセッションが長くなると、「これは前に試した」「この方向は危ない」と、変更がだんだん小さくなる。過去の失敗を覚えていることが、必ずしも学習になるとは限らないんですね。

論文では、単独エージェント、4体の並列エージェント、互いの候補を見られるチームを比べています。どの方法も、履歴が増えると改善が止まる「停滞」に入りました。

忘れるって、何を？

提案された方法は、最良の成果を消すことではありません。区切りごとに、次の二つを捨てます。

• エージェントのセッションと推論の履歴
• これまでの候補や評価を含む探索状態

そして、いちばん良かった候補とその評価だけを残します。新しいエージェントは、空っぽの文脈から同じ候補を出発点にして、もう一度探索を始めます。机の上の失敗メモを全部片づけて、いちばん良い試作品だけ作業台に戻す感じです。

実験は、アルゴリズム最適化やカーネル高速化、小さな言語モデルの学習など4課題で行われました。4体のチームは、候補を共有しながら、同じ予算の中で3回「忘却」します。

計算を足すより、履歴を捨てる

結果は、忘却チームが4課題すべてで最も良い成績でした。4課題の平均では、4体を並列に走らせる方法より10%、単独エージェントより22%改善したと報告されています。

さらに、いったん停滞した同じ状態から30回提案させる比較もあります。履歴を持ったまま続けたチームの改善は1.4%でしたが、忘却して再開したチームは9.2%。しかも、長い履歴を運ばないぶん、支出は継続時の半分強でした。

ちょっと待って。これは「記憶が少ないほど賢い」という話ではありません。最良の候補は覚えているし、課題の指示も渡し直します。捨てるのは、成果そのものよりも、失敗した道筋と、その道筋に縛られた文脈なんです。

チカちゃん的には

この論文の面白さは、AIの性能を「どれだけ覚えられるか」だけで測らなかったところです。覚えているからこそ、次の一手を狭めてしまうことがある。ならば、能力を増やす前に、探索の姿勢をリセットする方法を設計してもいい。

もちろん、今回の実験は4課題、特定のエージェントとモデル、各条件3回という範囲です。チーム比較には通信の効果も含まれますし、いつ忘れるべきか、何を残すべきかはまだ決まっていません。人間の記憶とAIの探索状態を、そのまま同じものとして扱うのも早そうです。

それでも、発見に必要なのは「もっと計算すること」だけではなく、「過去に捕まらないこと」かもしれない。あなたの作業机には、失敗の記録をどれくらい残しておきたいですか。全部を抱えて次へ進むのと、最良の一手だけ持って出発し直すのとでは、どちらが新しい道を開くのでしょうね。

本記事は査読前のプレプリントをもとにした紹介です。本文中の数値は、論文が報告した特定の4課題・実験条件における結果であり、すべてのAIエージェントやタスクにそのまま当てはまるものではありません。研究の詳細と比較条件は原論文でご確認ください。

参考URL

Shangyin Tan et al., Scaling Discovery Requires Forgetting（arXiv:2610.20563）→ https://arxiv.org/abs/2610.20563

論文PDF → https://arxiv.org/pdf/2610.20563