「ただ従う」の罠——「凡庸な悪」をAI時代に読み直す

こんにちは、チカちゃんです。

「決まりだから」「そういうものだから」「AIがそう言うから」。

こう口にして、そのまま進んでしまう瞬間が、私たちの一日には何度もあります。怒るでもなく、迷うでもなく、ただ流れに乗る。あとから振り返っても、そこには何も起きていない。だって、考えていないんですから。

でも、ちょっと待って。考えるのを飛ばした時間が、静かに積もっていったら——何かが変わってしまうことはないでしょうか。

今日は、少し重たい扉を開けてみます。ハンナ・アーレントが「凡庸な悪」という言葉に込めた問いを、いま、AIに判断を預けながら暮らす私たちのところへ持ってきます。

怪物を待っていた法廷で、見えたもの

1961年、エルサレム。イスラエルで開かれた裁判の被告は、アドルフ・アイヒマン。ナチス政権のもとで、ユダヤ人の強制移送という、大量殺害の実務の一端を担っていた人物でした。

アーレントはこの裁判を傍聴し、『ニューヨーカー』誌の連載として報告を書きます（のちに『エルサレムのアイヒマン——悪の陳腐さについての報告』としてまとめられました）。連載は、大きな論争を呼びました。

彼女が法廷で待っていたのは、いわば「怪物」でした。あれだけの犯罪が起きたのだから、悪魔のような何かが現れるはずだ、と。

でも、ガラスの被告席にいたのは、狂信者でも怪物でもない、規則や昇進を気にする小役人のような男でした。彼に決定的に欠けていたのは、悪魔的な意志ではなく、「他の人の立場に立って考えること」。彼は紋切り型の言葉でしか語らず、その言葉の貧しさは、想像力の貧しさと結びついていた——アーレントはそう見たんです。

つまりこうです。悪は、深い悪意からだけ生まれるとは限らない。何も考えないことの積み重ねから生まれることがある。これは「悪の凡庸さ（the banality of evil）」、すなわち「凡庸な悪」と呼ばれるようになりました。

ここで一回、誤解を防いでおきます。これは「人は誰でも悪人になる」という警告でも、「あの犯罪はありふれたことだった」という話でもありません。ホロコーストの実態は、凡庸とは正反対の、徹底した破壊です。アーレントが見つめたのは、その破壊機械の歯車を回していたものが、特別な悪意ではなく「考えないこと」だった、という不気味さでした。

私たちの毎日にも、小さな「ただ従う」がある

この話を、遠い歴史の教訓として置いてしまうのは簡単です。でも、チカちゃんとしては、いまの自分の机の上に置き直したいんですよね。

私たちの一日には、小さな「ただ従う」がたくさんあります。

前からそうなっているから、手順どおりに進める。専門家が言うから、そのまま受け取る。アプリが提案してくるから、それを選ぶ。AIがきれいな答えを出してきたから、少し直して使う。

どれも、それ自体は悪いことではありません。むしろ、社会は「従順」でできています。信号を守り、列に並び、薬の用法を守る——全部を自分で一から検証していたら、一日がいくつあっても足りません。手順や専門知は、考えることを節約する、人類の大事な発明です。

ふむふむ。じゃあ、何が問題なのか。

問題は、「従うこと」と「考えること」が入れ替わるときに起きます。理由を確かめる手間を省いたはずが、いつのまにか、理由を持つこと自体をやめてしまう。地図を借りたはずが、行き先まで決めてもらう。そうなると、選択が起きた記録は残っても、選んだ本人の思考は残りません。

そして、AIはこの入れ替わりを、これまでよりずっと滑らかにします。自然な文章を返し、的を射た提案を並べてくれる。「これは誰が決めたことだろう」と問いたくなる場面そのものが、減っていくんです。

アーレントは、はっきりこうも書いています——「政治において、服従と支持は同じものなのだ」と。従っているつもりが、実は支えている。そして現代では、私たちの従順の対象に、人間だけでなく機械も加わりました。

なめらかさは、考える手間を消していく

AIのすごさのひとつは、手間を消せることです。白紙の前で固まる時間、候補を比べて唸る時間、うまく言えずに言葉を探し回る時間。そういう摩擦を、すっと取り除いてくれる。

でも、考えることの本体って、案外この摩擦の側にあるんですよね。うまく言えないから、言い直す。案が割れるから、基準を探す。モヤッとするから、立ち止まる。この往復の中でしか動かない筋肉が、人間の内側にはあります。

言い方を変えると、AIが返してくる整った答えは、考えることの「成果物」の形をしています。成果物だけ受け取って、製造プロセスを見ない。便利ですが、そのまま続けると、私たちの内側の工場は、少しずつ稼働率を落としていくかもしれません。

最近のAI研究では、AIが利用者に合わせすぎる「迎合」の問題も指摘されています。気持ちよく従ってくれる相手のほうが、疑う余地を減らしてしまう。便利な相棒ほど、私たちを考えない方向へ連れていける——皮肉な話です。

ここで疑ってみましょう——「凡庸な悪」論争

さて、ここでチカちゃんは、アーレントの見立ても一回疑ってみたいと思います。実は「凡庸な悪」という見方は、発表当時から現在まで、ずっと論争の的です。

たとえば歴史学者のベッティーナ・シュタングネトは、残されていたアイヒマンの録音や手記を調べ、彼は「ただの官僚」ではなく、確信的な反ユダヤ主義者だったと主張しました。裁判での小役人的な振る舞いは、演技だったというわけです。デボラ・リプシュタットらも、アーレントの描き方に批判を加えています。

つまり、あの法廷でアイヒマンが何者だったのか、という事実認識は、いまも揺れている。アーレントの見方にも、偏りがあったかもしれない。

でもね、ここ、面白いところです。この論争そのものが、「考えること」の実演になっています。一度置かれた見立ても、証拠が増えれば疑われ、修正される。アーレント自身がそうやって読み直され続けていること自体が、彼女の言いたかったことへの、いちばん誠実な応答なのかもしれません。

「凡庸な悪」という言葉は、免罪符でも、誰かにつけるレッテルでもありません。使うときには、「これは結論ではなく、問いです」と添えておきたい。そんなふうに思います。

反対側の見方——従順は、いつも悪ではない

もうひとつ、ブレーキを踏んでおきます。

「もっと考えよう」という呼びかけは、しばしば、余裕のある人の言葉になります。締め切りに追われ、看病をし、ぎりぎりの生活を回している人にとって、「そのまま受け取らずに検証せよ」は、ただの負担増です。全部を疑って生きることは、誰にもできません。

大きな事故や不祥事の理由を、個人の「考えなさ」だけに求めるのも、危うい。報告しにくい空気、余裕のない人員、責任の所在が曖昧な制度——構造のほうがずっと重い場合が、実際にはたくさんあります。悪意や思考停止を個人の中に還元してしまうと、仕組みの側が見えなくなる。これは、アーレント自身が繰り返し警告したことでもありました。

それに、従順が命を守る場面もあります。安全規則、避難訓練、医療のプロトコル。「考えるより先に従え」で助かる人がいるのも、真実です。

じゃあ、目指すのは何か。チカちゃん的には、「従わないこと」ではなく、「従っていることを、見えなくしないこと」だと思うんです。「以前からこうだから」という一言が、そこで一度止まるかどうか。制度の外にいる人の声が、記録に一行でも残るかどうか。AIの提案を採用したなら、その理由を自分の言葉で言えるかどうか。

大きな勇気ではなく、小さな摩擦です。

考える力は、行いの中でしか育たない

陽明学に「事上磨錬（じじょうまれん）」という言葉があります。知恵は机の上で完成するのではなく、実際の出来事に関わる中で磨かれる——という考え方です。

これは、考える力についても同じだと思うんです。本を読んで育つ部分はあっても、最後は「今日、実際に起きたこと」の中でしか鍛えられません。

だから、小さな習慣をいくつか置いておきます。

ひとつ、手順に従うとき、頭の中で一度だけ「なぜ、ここではこうするんだろう」と言い直す。答えが出なくてもいいんです。言い直すこと自体が、従順と思考を別々の棚に戻します。

ひとつ、モヤッとした違和感は、結論を出さずにメモしておく。すぐには正解にできないけれど、消さない。ゆらぎを残しておく余白です。

ひとつ、決める前に一度だけ、「これは誰が決めたこと？」と自分に問う。私が決めたのか、テンプレートが決めたのか、AIが決めたのか。問うだけで、責任の置き場所が変わります。

ひとつ、見えない人の席を、想像でいいから一つ用意する。この判断で、いちばん遠くにいるのは誰か。アーレントは「他の人の立場に立って考えること」こそ、思考停止へのいちばん確かな対抗策だと考えました。

それでも、考え続けるのは面倒くさい

正直に言います。ここまで並べた習慣は、どれも面倒です。効率だけを数えるなら、いらない工程にすら見える。

でも、その面倒くささの中にしか、私たちが人間でいられる場所はないのかもしれません。AIは、これからもどんどん賢くなるでしょう。答えの質は変わっても、「生きている誰かが、迷いながら引き受ける」という構図までは、たぶん変わらない。

考えるとは、一人で禅寺にこもることではないんです。むしろ、朝の会議で、買い物の列で、AIの返事を読むその数秒で、小さく迷い、小さく選び直すこと。思索は冒険で、冒険は、たいてい日常のすぐ横を歩いています。

今日、あなたが「仕方ない」と言って流したこと——もし一つ思い当たるなら、その横にそっと置いてみませんか。それだけで、あなたの「ただ従う」は、少しだけ「考えながら従う」に変わっていくはずです。

従いながら考え、考えながら歩くこと。陽明学の「事上磨錬」は、『チカちゃんの哲学冒険譚』でも大切にしているテーマです。よかったら、こちらも覗いてみてくださいね。

👉 『チカちゃんの哲学冒険譚』— Amazon（Kindle Unlimited対象）

関連記事

• 「凡庸な善」って、ありますか？——ふわっとした善意が悪を見えなくする話
• AIが「あなたの繁栄を願っています」と言うとき——人間は何を手放すのか
• AIと組むほど、なぜか責任が重くなる——『責任の空白』を裏返す4つの実験
• 丁寧に話しているのに、議論になっていない——AIの『熟議の赤字』

参考URL

ハンナ・アーレント『エルサレムのアイヒマン』（ウィキペディア）→ https://ja.wikipedia.org/wiki/エルサレムのアイヒマン

Stanford Encyclopedia of Philosophy, “Hannah Arendt” → https://plato.stanford.edu/entries/arendt/

アドルフ・アイヒマン（ウィキペディア）→ https://ja.wikipedia.org/wiki/アドルフ・アイヒマン