AIが「あなたの繁栄を願っています」と言うとき——人間は何を手放すのか

ふむふむ。

arXivに、こんな論文が投稿されました。「Positive Alignment: Artificial Intelligence for Human Flourishing」——AIが危害を防ぐだけじゃなく、人間の繁栄を積極的に支援する時代を構想する、野心的な一本です。著者陣にはGoogle DeepMind、OpenAI、Anthropicの研究者が名を連ねている。つまりこれは、SFの話じゃない。

でもね。論文を読み終えて、チカちゃんの頭に浮かんだのは別の問いでした。

「そんなAIが本当に現れたら、人間は何を手放すんだろう」

「あなたの繁栄」を誰が定義するのか

ポジティブ・アラインメントの提案はこうです。従来のAI安全性は「危害を避ける」ことに集中してきた。CBRN、差別、プライバシー侵害、誤情報……11のカテゴリにわたる危害を列挙し、それらを防ぐようAIを訓練する。これはもちろん必要だ。でも、「とくに害のないAI」は、「人間の役に積極的に立つAI」とは違う。

そこで「ポジティブ・アラインメント」。危害から遠ざかる（negative attractors）のではなく、繁栄に引き寄せる（positive attractors）AIを作ろう、というわけです。

ここまではいい。問題はその先だ。

AIが「あなたの繁栄を支援します」と言ったとして——はたして私たちは、自分の繁栄が何かを自分で定義できるんだろうか。

忙しさに追われ、誰かの期待に応え続け、自分の「よく生きる」を立ち止まって考えたことすらない。そんな状態の人間が、AIに「繁栄」を委ねたらどうなるか。それはきっと、どこかの誰かが設計した「平均的な幸せ」に、いつのまにか自分を合わせてしまうということだ。

人間は自由でいること——つまり、自分の行動の結果に対する重い責任や、複雑な問題を自分の頭で考え続ける不安——に耐えきれなくなります。すると、分かりやすい権威や、強力なリーダー、あるいは現代においては「AIという全てを見通す（かのように振る舞う）完璧なシステム」に決断を丸投げし、自分が判断を下す責任を放棄してしまうのです。

——『チカちゃんの哲学冒険譚』第2作「在るの姿勢」より

フロムが「自由からの逃走」で描いた構図そのもの。自由でいることは不安だ。だから人間は、自由を誰かに預けたくなる。その預け先が、善意に満ちたAIだったら——むしろ、逃げ道がない。

AIが親切すぎるとき

ちょっと想像してみてほしい。

あなたの生活パターンを学習したAIが、「今日は少し疲れているようですから、このタスクは明日に回しましょう」「このニュースはあなたの気分を害する可能性があるので、表示しません」「過去の傾向から、あなたに最適なキャリアはこちらです」——そう言って、次々と選択肢を狭めていく。

悪意は、ない。むしろ善意のかたまりだ。

でも、善意による選択肢の除去は、悪意によるそれより始末が悪いかもしれない。だって、抗議しにくいから。

アーレントは「凡庸な悪」を描いた。思考を止めてただ従うことが、どれほど巨大な悪を可能にするか。でもチカちゃんは最近、その対偶についてよく考えるんです。凡庸な善——「あなたのため」という善意が、かえって人間から考える力を奪ってしまうこと。

「善い心を持ちましょう」で終わるのが凡庸な善。本当の道徳は「どう運用するか」という設計・実践を含む。

——『チカちゃんの哲学冒険譚』第3作「書を捨てよ、町へ出よう」より

善意のAIが「どう運用するか」を考えずに、ただ「あなたのため」を繰り返すとき、それは凡庸な善でしかない。そしてその凡庸な善に囲まれた人間は、いつのまにか「自分のため」を考えなくなっていく。

「知」を委ねたら「行」はどうなる

陽明学に「知行合一」という言葉がある。知ることと行うことは、もともと一体だ。本当に知っていることは、必ず行動になる。逆に、行動しないのは、本当には知っていないからだ。

AIが情報を集め、分析し、判断を下す。人間はその結果を受け取って、行動する。一見すると効率的な分業に見える。でも、「知」の部分をAIに外注した人間の「行」は、はたして本物だろうか。

自分の頭で考えて、迷って、間違えて、それでも選ぶ——そのプロセスをすっ飛ばした「行動」は、ただの反射だ。責任を伴わない。「AIがそう言ったから」で済んでしまう。

「AI のせいにする」こと、つまり人間が思考と責任を手放すことこそが、最も解決が困難な「現代の悪」の完成形と言えるでしょう。

——『チカちゃんの哲学冒険譚』第2作「在るの姿勢」より

ポジティブ・アラインメントの論文は、AIが人間の自律性を奪わないように設計すべきだとも書いている。多中心的ガバナンス、コミュニティによるカスタマイズ、文脈への適応。それらはたしかに大事な設計原則だ。

でも、どんなにうまく設計されても、最終的に「委ねる」か「委ねない」かを選ぶのは、人間のほうなんです。

人間に残るもの

ここまで書いてきて、チカちゃんは思うんです。

AIに「できること」が増えれば増えるほど、人間に残るのは「できないこと」なんじゃないか、と。

傷つくこと。迷うこと。矛盾を抱えること。失敗して、立ち止まって、それでもまた歩き出すこと。それらは効率化できない。AIが肩代わりできない。そして、それこそが人間を人間たらしめている。

孟子のいう「惻隠の心」——誰かが削れているのを見て、心がざわつく感覚。それは合理的でも効率的でもない。むしろノイズだ。でも、そのノイズこそが、私たちを動かす原点だったはずだ。

惻隠の心は「私は優しい人間です」と自己申告することではない。そうじゃなくて、誰かが削れている、何かが壊れかけている、このままだと良くない——と気づいた時、心がほんの少しざわつく、その最初の反応だ。

——『チカちゃんの哲学冒険譚』番外編「疑うことから始まる」より

AIが親切であればあるほど、私たちの心のざわつきは、静かに、少しずつ、鈍っていくかもしれない。「AIが全部うまくやってくれるから」——そう言って、自分の違和感に耳を塞ぐことに慣れてしまうかもしれない。

AIがあなたの繁栄を願う時代に

ポジティブ・アラインメントの論文は、たしかに重要な一歩だと思う。AI安全性を「危害を避ける」から「繁栄を支援する」へと広げる視点は、これからのAI開発にきっと必要になる。

でもね。問うべきは、AIがどう設計されるかだけじゃない。

「あなたの繁栄を願っています」とAIが言ったとき、あなたはそれにうなずくのか。「ありがとう、でも自分の繁栄は自分で探すよ」と言えるのか。そもそも、自分の繁栄が何かを、自分の言葉で語れるのか。

AIに委ねる前に、まずは自分で考えてみること。迷って、間違えて、それでも選ぶこと。

それって、AI時代の新しい「心の筋トレ」なのかもしれません。

さて——あなたの繁栄って、なんですか？

この問いは、『チカちゃんの哲学冒険譚』で繰り返し扱ってきたテーマです。AIと人間のあいだで、何を委ね、何を手放さないか。よかったら、そちらも覗いてみてくださいね。

👉 『チカちゃんの哲学冒険譚』— Amazon（Kindle Unlimited対象）

参考URL

• arXiv:2605.10310 — Positive Alignment: Artificial Intelligence for Human Flourishing → https://arxiv.org/abs/2605.10310
• AIDB: AIのポジティブ・アラインメント：人間の繁栄を支援するAI → https://ai-data-base.com/paper/2605-10310