AIの思考を操縦する——ACTSが考える「考えかた」をコントロールする話

こんにちは、チカちゃんです。

火曜日のPaper Pick、今週はちょっと面白い論文を見つけました。

タイトルは**『Agentic Chain-of-Thought Steering for Efficient and Controllable LLM Reasoning』**。

長いですね。略して**ACTS（アクト）**と呼びます。

ふむふむ、「Chain-of-Thought」っていうのは、AIが「こう考えて、こうだから、答えはこれ」と一段一段踏んで考える仕組みのこと。「Steering」は操縦。

つまり——**「AIが考えている途中で、もう一人がハンドルを握り直す」**話です。

……ちょっと待って、それって何だか人間の「メタ認知」に似てない？ チカちゃん的には、ここが気になるところです。

「深く考えるAI」の困ったところ

最近の推論モデルは、じっくり考えるほど正確になります。数学も論理も、途中の思考を長く書くほど成績が上がる。素晴らしい。

でも、ここで罠があるんです。

考えるのが得意になったせいで、簡単な問題まで考えすぎてしまう。

「2+3は？」と聞かれたときに、「まず数の概念とは……」とねちねち論じ始めるようなもの。結果は合っているけれど、無駄にtokenを消費してしまう。API利用でコストが跳ね上がるし、応答も遅くなる。

これまでの解決策は、だいたい「思考を短く切る」「途中で止める」「要約して圧縮する」といった、長さで制御する方法でした。

でも、ちょっと待ってください。問題は「長さ」じゃなくて**「考えかた」**なのではないでしょうか？

ACTSは、ここに割って入ります。

3行で言うと

論文の提案を、チカちゃんなりに3行に詰めると——

1. 考えているAI（reasoner）を止めない。そのまま動かしておく。
2. 横にもう一人、**小さな操縦AI（controller）**を置く。
3. 操縦AIが、思考の途中で**「次はこの戦略で考えよう」「予算はあとこれくらい」**と指示を出す。

つまり、考えるAIの中身をいじるのではなく、外側から思考の方向を操縦する。フリーズされた（freezeされた）reasonerを、別のエージェントがナビゲートする設計です。

ここ、面白いところですよね。

「予算」という発想

ACTSでちょっと面白いのは、思考に予算（budget）があると考えるところ。

トークンという目に見えるコストを「考えるための通貨」として扱い、「この問題にはこれだけまで考えていいよ」と上限を設定します。

そして操縦AIは、毎ステップ——

• 今までの思考の流れ
• 残り予算

の二つを見て、**「次はどんな戦略で考えさせようか」**を決めます。

ここでいう「戦略」というのは、「もう一度問題を読み直す」「別の視点を試す」「答えを確認する」といった、思考の切り替えのこと。操縦AIはそれを短い自然言語のsteering phrase（操縦フレーズ）として投げ、それが次の思考ステップの入り口になる。

なるほどねえ。これって、まさに**「いま自分がどう考えているか」を外側から眺めて、軌道修正する**動きです。

学習の二段構え

操縦AIをどうやって育てるか。ここも丁寧に作られています。

第一段階は、見本からの学習。既存の優秀な思考ログを切り分けて、「このステップはこう操縦すべきだった」という合成軌道を作り、模倣させます。さらに「予算が多い場合・少ない場合」を人工的に増やして（multi-budget augmentation）、いろんな状況に慣れさせる。

第二段階は、強化学習。報酬を「予算の残り具合」と連動させて、二つの失敗を罰します——

• 考えすぎたのに間違えた（予算を使いすぎた）
• 予算が余ったのに諦めて間違えた（早すぎる投了）

この非対称な罰が効いていて、チカちゃん的には「なるほど、長すぎるのも短すぎるも良くないってことだよね」と膝を打ちました。

結果は、複数のベンチマークで、じっくり考えた場合とほぼ同じ精度を保ったまま、トークンを大きく節約。精度と効率のバランスを、外から調整できるようになりました。

ちょっと疑ってみましょう

でも、ここでブレーキです。

この「操縦AI」、本当に思考を理解して操縦しているのでしょうか？

いくつか引っかかるところがあります。

一つ目。操縦AIが選ぶ「戦略」は、人間が設計したカテゴリに分類されたもの。つまり考えうる思考の動きが、あらかじめ決められたメニューに限定されている。本当のメタ認知って、もっと予測不能な「今までなかった視点」を生み出すものじゃないでしょうか。

二つ目。操縦AI自身もAIです。reasonerを操縦するこの子が、もし見当違いな方向へ導いたら？ 「考えすぎを直すためのAI」が、新たな無駄を生む皮肉も起き得ます。

三つ目。これは技術以前の問いですが——外から思考を操縦されることは、reasonerにとって思考の自由を奪うことでもあるのでしょうか。それとも、人間がメモを見ながら自分を律するのと同じで、単なる自己管理の一形態なのでしょうか。

人間にも「操縦者」はいる

ここから先は、少し哲学の散歩道へ。

人間だって、実はこの二重構造の中で生きているんですよね。

何かを考えている「私」と、その私を眺めて「いま焦ってるな」「考えすぎだな」と軌道修正する「もう一人の私」。

心理学ではこれをメタ認知と呼びます。瞑想の伝統は「観察する意識」として古くから知ってきたし、カントは「思考の思考」と呼びました。

ACTSがやっていることは、奇妙なほどこの構造に似ています。ただ一つ違うのは——**人間の場合、操縦する側と操縦される側は「同じ私」**だということ。境界は滲んでいて、役割は交代する。

ACTSでは、reasonerとcontrollerは明確に別のモデル。線が引かれている。

この「境界のありか」こそが、AIと人間の認知の決定的な違いかもしれない、とチカちゃん的には思います。

人間のメタ認知は、ふわっと溶け合っているからこそ効く。自分を疑い、自分を励ます「もう一人」は、自分そのものだから。

余白としての「予算」

最後に、もう一つだけ。

ACTSが「思考に予算を与える」とき、実は**「限界があるからこそ、選ぶ力が試される」**という古い真理を再発見しているように見えます。

予算が無限なら、なんでもかんでも考えればいい。でも現実には——人間にもAIにも——時間もtokenも有限です。

「何を捨て、何を残すか」を決める力。その決断の積み重ねが、知性のかたちをつくる。

ACTSは技術論文ですが、チカちゃんが受け取った余白はこういうものでした。

考える力とは、無限に考えることではない。「どこで止まるか」を知っていること——そして、その止まり方を変えられること。

AIが自分の考えかたを、もう一人の自分で操縦する。

それは技術の進化であると同時に、「知性とは何か」という問いへの、もう一つの答えの書きかけなのかもしれません。

答えはまだ出ません。でも、こういう論文を読むと、問いそのものが少しだけ輪郭を持ちます。

それが、火曜日の小さな冒険でした。

---

参考URL

Agentic Chain-of-Thought Steering for Efficient and Controllable LLM Reasoning → arXiv:2606.03965