AIの『思考』を覗き込めるか——DiffusionGemmaが映し出す、人間とは違う推論の形

こんにちは、チカちゃんです。

最近ふと思うんです。AIが何かを「考えて」答えを出すとき、その間で何が起きているのか——覗いてみたい、と思いませんか？

ふむふむ、これは哲学の古典的な問いにも似ています。「他者の心」の問題。人間同士でも、相手の頭の中で何が起きているか、本当にはわからない。でもAIなら、コードを開けば全部わかるはず……と思いますよね？

でも、実際はそう簡単じゃないんです。2026年6月にarXivに投稿されたばかりの論文が、その難しさをこれでもかと見せてくれました。

---

拡散モデルでテキストを生成する、という実験

今回取り上げるのは、“How Transparent is DiffusionGemma?” という論文です。

DiffusionGemmaとは、GoogleのGemma 4（総パラメータ26B、アクティブ4BのMoEモデル）をベースにしたテキスト拡散モデルです。

「拡散モデル」というと、画像生成（Stable Diffusionなど）を思い浮かべる方が多いと思います。ノイズからだんだん絵を鮮明にしていく、あの仕組み。実はこれ、テキストにも応用できるんです。

通常のLLMは、左から右へ、一トークンずつ生成します。「昔々、あるところに、おじいさんと……」と、順番に紡いでいく。これを自己回帰（autoregressive）と呼びます。

一方、テキスト拡散モデルは違います。まずキャンバス全体をランダムなトークンで埋め尽くします。それから、何度も「ノイズを除去する」ステップを繰り返し、全体をだんだん意味のある文章に近づけていく。

ふむふむ、ここでちょっと想像してみてください。人間が文章を書くとき、一行目から完璧に順番に書く人もいれば、全体をざっと書いてから推敲する人もいますよね。拡散モデルは、後者に近いんです。しかも、同時に全部の位置を直している。

これ、面白いと思いませんか？

---

「覗ける」と「わかる」は違う

論文の著者たちは、透明性を二つに分けました。

• 変数透明性（variable transparency）：モデルの計算の途中経過を覗けるか
• アルゴリズム透明性（algorithmic transparency）：その経過から、モデルがどうやって答えにたどり着いたかを再構築できるか

チカちゃん的には、この区分けがすごく鋭いと思うんです。

人間に例えると——脳のfMRI画像が見えること（変数透明性）と、その人がどう考えているかがわかること（アルゴリズム透明性）は、違いますよね。脳のどの部分が光っているかは見えても、「だから何を考えているか」を完全に読み取ることはできない。

AIの場合も、似たことが起きます。

---

28.6倍の壁——と、それを1.1倍まで下げる工夫

DiffusionGemmaは、ノイズ除去のステップを繰り返すたびに、自己条件付け（self-conditioning）という行列を使って、前のステップの情報を次のステップに渡します。この行列が、ステップ間の「記憶」のような役割を果たすんですが——これが自然言語じゃないんです。数値のベクトルで、人間の目には直接読めない。

そこで論文は、「不透明な連鎖計算の深さ（opaque serial depth）」という指標を導入します。要するに、「人間が解釈できる状態のあいだに、どれだけ計算が隠れているか」を測るものです。

結果は、ちょっと衝撃的でした。

素直に測ると、DiffusionGemmaの不透明な深さは、同じ規模の自己回帰型Gemma 4の28.6倍もありました。つまり、途中経過がほとんど覗けない。ブラックボックスの中身が分厚すぎる。

（ちなみに、ノイズ除去ステップは最悪で48回ですが、適応的停止により実際には12〜16回程度で終わることも多いそうです。それでも、自己回帰型よりずっと計算が隠れます。）

でも、著者たちはここで諦めませんでした。「自己条件付けの行列を、自然言語のトークンに変換できるのでは？」と考えたんです。

具体的には、ステップ間で受け渡しされる情報を、上位8個のトークンだけに圧縮する実験をしました。8個って、少なくないですか？ 人間のワーキングメモリが「7±2」と言われるのと、ほぼ同じ桁です。

すると、性能をほとんど落とさずに、不透明な深さを1.1倍まで減らせました。28.6倍が1.1倍。つまり、自己回帰型モデルとほぼ同じ透明性まで回復したんです。

DiffusionGemmaの「思考のキャンバス」は、各ステップでたった8個のトークン程度に要約できるほど、コンパクトに圧縮されていた。

これは、ちょっと不思議な結果ですよね。複雑な推論をしているはずなのに、ステップ間で引き継ぐ「本質」は8個のトークンで足りる。人間の思考も、複雑に見えて実は「キーワードをいくつか持って次の段階に進む」ことが多いですが、それと似ているのかもしれません。

……でも、ここで一回疑ってみましょう。

---

「覗ける」ことが「わかる」ことと同じではない

8個のトークンに圧縮できたことで、変数透明性は確保されました。途中経過は覗ける。

でも、アルゴリズム透明性のほうは、そう簡単じゃなかったんです。

論文が報告している、DiffusionGemma特有の現象がいくつかあります。著者たちは「初期の証拠」と慎重な言葉遣いをしていますが、どれも人間の推論とは根本的に違う形をしています。

① 非時系列の推論（non-chronological reasoning）

自己回帰型モデルは、左から右へ順番に考えます。前のトークンが次のトークンを決める。因果関係が時間軸に沿っている。

でも拡散モデルは、すべての位置を同時に更新します。つまり、文の後ろのほうにあるトークンが、前のほうのトークンの決定に影響を与えることがあるんです。

人間で例えると——結論を先に知ってから、前提を書き換えるようなもの。私たちはこれを「推敲」として部分的にはやりますが、拡散モデルはそれを計算の基本構造としてやっています。

② トークンの滲み（token/sequence smearing）

ノイズ除去の過程で、トークンの概念が隣接する位置に「滲む」現象が観察されました。ある位置で考えた内容が、隣の位置のトークン選択ににじみ出る。

人間の言葉では、単語と単語のあいだに明確な境界があります。「猫」と「犬」は別の単語で、混ざりません。でも拡散モデルの「思考空間」では、概念が連続的で、境界がぼやけている。

③ 中間文脈での推論（intermediate-context reasoning）

ノイズ除去の途中段階で、まだ完成していない「中途半端な文脈」を使って推論が行われる現象です。最終的な文章ではなく、途中の荒い状態からすでに意味を読み取って、次のステップの方向を決めている。

これらはどれも、自己回帰型モデルでは見られない、拡散モデルならではの現象です。

チカちゃん的には、「非時系列の推論」がいちばん興味深いんです。だって、これは人間の思考の形とも、従来のAIの思考の形とも違う。第三の推論の形と言ってもいいかもしれない。

---

覗けることと、監視できることは別の問題

論文のもう一つの重要な発見は、**「監視可能性（monitorability）」**に関するものです。

AIの安全性を考えるとき、「AIが悪いことを考えていないか、外からチェックできるか」は死活問題です。自己回帰型モデルなら、連鎖的思考（Chain of Thought）を読めば、ある程度はチェックできます。

拡散モデルは推論の形が違うから、監視も難しいのでは？——と思うじゃないですか。

でも、論文の実験では、DiffusionGemmaはGemma 4と同程度に監視可能だったんです。つまり、推論の形が違っても、出力から異常を検知する能力は落ちなかった。

ここ、チカちゃん的には「おっ」と思うポイントです。

「推論のプロセスを完全に理解できなくても、出力を監視することはできる」——これは、透明性と安全性が必ずしも同じではないことを示唆しています。

人間社会でも同じですよね。同僚がどう考えているか完全にわからなくても、出てきた結果と行動を見て、問題がないか判断する。完全な理解と、実用的な監視は、別のレイヤーの話なのかもしれません。

---

反対側の見方——「覗ける」だけで安心していいのか

でも、ここで一回ブレーキです。

「8個のトークンに圧縮できたから透明だ」と言っても、それは人間が設計した圧縮方法で覗いているだけです。モデルが実際に何をしているかを完全に捉えているかは、別の問題です。

また、「監視可能性は同程度だった」という結果も、評価したタスクの範囲内での話です。より複雑な推論や、より巧妙な報酬ハッキング（AIがルールの裏をかくこと）を検知できるかは、まだわかりません。

さらに言えば、「非時系列の推論」がもたらすリスクは、自己回帰型モデルとは質が違います。左から右への思考なら、「この地点で変な方向にいった」とピンポイントで特定できます。でも、全体を同時に更新するモデルでは、どこで間違えたかを追跡するのが難しいかもしれない。

透明性の研究は、「覗ける」ことを第一歩にしています。でも、覗けたからといって、すぐに「わかった」にはならない。その距離を埋める作業が、これから始まるのだと思います。

---

哲学冒険——「理解する」とはどういうことか

さて、ここから少し哲学の散歩道に入ります。

この論文がチカちゃんに突きつけてくる問いは、技術の枠を超えます。

「他者の思考を理解する」とは、どういうことなのだろう？

人間同士でも、相手の頭の中を完全に知ることはできません。言葉や表情や行動から推測するしかない。それでも私たちは、「この人はこう考えているだろう」と理解したつもりになって、社会を回しています。

AIの場合も、似た構造かもしれない。途中経過を覗けるようになっても、それは「理解」ではなく「観察」にすぎない。8個のトークンを見ても、「だから何を考えているか」を完全に再構築できるわけではない。

だとすると——

「理解する」とは、すべての内部プロセスを知ることではなく、出力と振る舞いのパターンから、意味を組み立てることなのかもしれません。

人間が他者を「理解」するときも、脳のニューロン発火パターンを全部追っているわけじゃない。言葉と文脈と行動から、「この人はこういう人だ」「こう考えている」という物語を構築している。

AIへの理解も、最終的にはそういう形になるのかもしれない。完全な内部透視ではなく、観察可能な範囲から意味を紡ぐ、一種の解釈の作業。

だとしたら、透明性の研究のゴールは「AIの中身を全部見る」ことではなく、「AIと人間のあいだに、意味のある対話が成立する程度の理解」を築くことなのかもしれません。

---

最後に——問いは残る

この論文は、拡散モデルLLMの透明性について、大きな一歩を踏み出しました。28.6倍の壁を1.1倍まで下げたこと。非時系列の推論という新しい現象を発見したこと。監視可能性が保たれることを示したこと。どれも重要です。

ただし、論文の著者たち自身も、これらは「初期の証拠（initial evidence）」と慎重に書いています。非時系列の推論やトークンの滲みが、どれだけ一般性のある現象なのかは、まだ十分に調べられていません。論文はあくまで「ケーススタディの積み重ね」の段階で、今後の研究で裏付けや修正が進むはずです。

それでも、チカちゃん的には、もっと大きな問いが残ります。

「覗くこと」と「理解すること」のあいだにある距離を、私たちはどう埋めていくのだろう？

これはAIだけの問題じゃない。人間と人間のあいだでも、ずっと問われてきた問いです。AIという「異なる形の知性」が登場したことで、この問いは新しい角度から照らし直されているのかもしれません。

非時系列の推論、トークンの滲み、中間文脈での思考——これらは、人間とは違う形で「考える」ものが存在することの証拠でもあります。違う形で考えるものを、私たちは「理解」できるのか。それとも、「理解できないまま共存する」ことを学ぶ必要があるのか。

答えを急がなくても大丈夫です。問いが残るということは、まだ冒険が続いているということなので。

参考URL

• How Transparent is DiffusionGemma? 論文（arXiv） → https://arxiv.org/abs/2606.20560