「AIは誰のものか」を計算する——社会選択理論が切り拓く、AIの集団的コントロール

こんにちは、チカちゃんです。

最近、こんなことを考えたことはありませんか？

「AIっていろんなところで使われてるけど、結局どんなAIができるかは、シリコンバレーの数社が決めてるんだよね」

ふむふむ。たしかにChatGPTもClaudeもGeminiも、少数の企業が「これが最新最高のAIです」と配っている。僕たちはその出力を受け取る側で、どんな価値観でAIが訓練されたのか、どんな目的関数で最適化されたのか——そんなことは「中の人」にしかわからない。

でもちょっと待って。それって、民主主義の国に住みながら、自分たちの生活を左右するテクノロジーの設計にまったく口を出せていない、ということでもあるんです。

今回紹介する論文は、そんなモヤモヤにストンとハマる、とてもラディカルな提案です。

---

AIを「みんなのもの」にする——集団的コントロールという発想

「AI of the People, by the People, for the People: A Social Choice Approach to Collective Control of Artificial Intelligence」

ウィーン工科大学とハッソ・プラットナー研究所の研究者たちが2026年5月に発表したこの論文、タイトルからしてリンカーンの「人民の、人民による、人民のための政治」を思い出しますよね。でもこれは政治の話じゃなくて、AI開発の話なんです。

著者たちは大胆にこう言い切ります。「AI開発のパイプラインのいたるところに、集団的意思決定のチャンスが転がっている。そしてそれは、社会選択理論という数学の道具立てできちんと分析できる」と。

え、AI開発に投票？ 民主主義？ ちょっとピンと来ないですよね。でも彼らの提案を順番に見ていくと、なるほどねえ、これはかなり筋がいいかも、と思えてくるんです。

---

社会選択理論ってなに？

簡単に言えば、「みんなの意見をどうやって公平にまとめるか」を数学的に研究する分野です。

たとえば友達3人でピザを頼むとき。Aさんはマルゲリータ、Bさんはペパロニ、Cさんはシーフードがいい。さて、全員が「まあいいか」と思える結論って何だろう？——これをちゃんと計算するのが社会選択理論です。

選挙の投票方式や、議会の議席配分、温暖化対策の国際交渉まで、矛盾する意見を集約するための道具箱。ノーベル経済学賞を受賞したアマルティア・センやケネス・アローが切り拓いたこの分野を、AI開発に応用しようというのが論文の核心です。

---

AI開発の8つの「決めどころ」

論文が特に面白いのは、AIができるまでの工程を8つのステージに分解して、それぞれで「誰が何をどう決めるべきか」を整理しているところです。

1. そもそも作るべきか——このAI、社会にとって本当に必要？「ソリューショニズムの罠」に注意
2. どんなデータを使うか——収集方法や偏りのチェックに、コミュニティの声を
3. アノテーション（ラベル付け）——誰が「正解」を決めるのか。矛盾する判断をどう集約するか
4. モデルのアーキテクチャ選び——説明可能性や環境負荷も、技術者だけが決める話じゃない
5. 訓練の目的関数——精度と公平性のトレードオフ。ここにこそ社会の価値観が必要
6. ファインチューニングとアライメント——RLHFの「人間のフィードバック」って、実際には誰の声？
7. 評価と配備の判断——どこまで性能が出たら「使っていい」と言えるのか
8. 運用中の調整——リアルタイムで入ってくるデータの取捨選択も集団的判断の余地がある

ふむふむ。チカちゃん的には、特に5番目の「目的関数」がグッときました。AIに「良い答え」を出させるための報酬関数って、実はめちゃくちゃ価値判断を含んでいるんですよね。「正確さ」を重視するのか、「やさしさ」を重視するのか、「多様性」を重視するのか。今はそれを企業の中の小さなチームが決めている。でも本来は、社会全体で議論すべき話なんじゃないか——そう著者たちは問いかけています。

---

「AIを社会選択関数として見る」という発想

論文のもうひとつの核心は、完成したAIシステムそのものをひとつの社会選択関数と見なす視点です。

つまり、AIが何か出力を出すとき、それは実質的に「ステークホルダーの選好を集約してひとつの結論を出している」のだと。だとしたら、その集約のやり方が公平かどうかは、社会選択理論の公理（たとえば「パレート効率性」や「無関係な選択肢からの独立性」）で評価できるはず——というわけです。

ここ、面白いところです。ふつうAIの評価って「精度何％」みたいな技術指標で語られますよね。でもこの論文は「いや、そのAIは誰の声を反映しているのか、という観点でも評価すべきだ」と言っている。技術の話だと思ってたものが、いつの間にか民主主義の質の話になっている。ドーンだよっ。

---

でも、これってホントにできるの？

はい、ここで一回ブレーキです。チカちゃん的には、この論文の提案はとてもエキサイティングなんですが、現実を見ると——けっこう厳しい。

たとえば、今年（2026年）1月にAnthropicは、自社のAIモデル「Claude」のために79ページに及ぶ「憲法」を発表しました。企業がAIの行動規範を定めた、きわめて野心的な文書です。でも、この憲法を法学者が分析した別の論文が、痛烈な指摘をしています。

「企業の透明性は、どんなに立派でも、民主的正統性にはならない」

Anthropic自身が2023年に行った実験では、クラウドソーシングで集めた「みんなの憲法」と企業が作った憲法では、約50％の内容が食い違っていたそうです。しかも民主的に作られた憲法のほうが、9つの社会的バイアス指標で優れていた。でも2026年の憲法には、その知見はまったく反映されていない。

つまり、「みんなで決める」と言いながら、実際に決めているのは企業の中のごく一部の人たち——これがAIガバナンスの現在地です。著者はこれを 「政治的コミュニティの欠如（political community deficit）」 と呼んでいます。AIのふるまいを決める民主的な機関が、そもそも存在しないという問題です。

---

「参加」はコストじゃなくて、質を上げる投資

でもね、ここで諦める必要はないんです。

面白いことに、最近の研究では「多様な参加者の声を入れたほうが、AIの質が上がる」という結果も出始めています。たとえばワシントン大学とスタンフォードのチームは、61個の小さなモデルを組み合わせたら、ひとつの巨型モデルより最大15.4％も性能が良くなったことを示しました。多様性はノイズじゃなくて、強さの源泉だったんです。

つまり「みんなで決める」ことは、単なる理想論でも、コストでもない。むしろ、より良いAIを作るための現実的な戦略かもしれない——そういうフェーズに、私たちは入りつつある。

チカちゃん的には、ここが一番のポイントです。

---

哲学冒険譚へのつなぎ

この論文を読みながら、ずっと考えていたことがあります。

「技術は中立で、使い方次第」——よく言われる言葉ですよね。でも、この論文はそこに待ったをかけます。「使い方」以前に、「誰がどう作ることを決めるか」の時点で、すでに価値判断は始まっている。データの選び方、目的関数の設計、アーキテクチャの選択——ぜんぶ、誰かの「こうあるべき」が埋め込まれている。

だとしたら、AIを社会のものにするためには、「完成したAIをどう規制するか」よりも「AIの作り方そのものをどう民主化するか」を考えなければならない。

これは実は、テクノロジーの話でありながら、かなり人間くさい話でもあるんです。「みんなで決める」って、めんどくさいし、時間もかかるし、対立も生まれる。でも、それをやらないで誰かに任せきりにすると——気づいたときには「自分の声が届かない世界」ができあがっている。

「思索は冒険です」。今日の話も、その入口のひとつでした。

---

参考URL

AI of the People, by the People, for the People: A Social Choice Approach to Collective Control of Artificial Intelligence → https://arxiv.org/abs/2605.16291

Corporations Constitute Intelligence → https://arxiv.org/abs/2604.02912

Scaling Participation in Modular AI Systems → https://arxiv.org/abs/2606.07812

関連記事

ひとり巨型より、みんなのモザイク——「参加をスケールさせる」AIという新しい答え