なぜこの問いが重要か
1961年、アドルフ・アイヒマンの裁判を傍聴したハンナ・アーレントは、ホロコーストの実行者が怪物的な悪人ではなく「思考することを放棄した平凡な官僚」であったことに衝撃を受け、「悪の凡庸さ（banality of evil）」という概念を提唱した。悪は狂信者だけが行うのではない——上司の指示に従い、組織の論理に適応し、自分の頭で考えることをやめた「普通の人」が、構造的に巨大な悪を実行しうるのである。
この問題は過去のものではない。企業の不正会計、品質データの改竄、ハラスメントの黙認、環境規制の無視——現代の組織においても、「おかしい」と感じながら声を上げられず、結果的に不正に加担してしまう人は後を絶たない。2022年の日本の内部通報件数は約1万2千件だが、不正を認識しながら通報しなかった人はその数倍に上ると推定される。
本プロジェクトは、組織内で同調圧力や権威への服従によって良心が麻痺しかけるとき、倫理的な「問い」を投げかけることで個人の道徳的主体性を回復させる対話システムの設計を探究する。答えを与えるのではなく、問いを投げかける。判断を代替するのではなく、判断する力を支える。それがCSI（Computational Socratic Inquiry）の核心である。
手法
本研究は、倫理学・組織心理学・対話システム設計の学際的アプローチで進める。
1. 「悪の凡庸さ」の構造分析: アーレントの思想を起点に、ミルグラム実験（権威への服従）、アッシュ実験（同調圧力）、ジンバルドのスタンフォード監獄実験（役割への没入）等の社会心理学的知見を統合し、良心が麻痺するメカニズムを5段階モデルとして構造化する。各段階で有効な介入ポイントを特定する。
2. 倫理的問いかけフレームワーク: カトリック社会教説の良心論、カントの定言命法、功利主義的計算、ケアの倫理、徳倫理学——複数の倫理的伝統から導かれる「問い」を体系化する。特定の倫理学派に偏らず、多角的に思考を促す設計とする。
3. 対話型良心支援システムの設計: 利用者が直面する倫理的ジレンマを匿名で入力し、システムが状況に応じた「問い」を段階的に提示する。「あなたの子どもがこのニュースを読んだら、どう思うだろうか」「この決定が10年後に明るみに出たとき、あなたは説明できるか」「この行為の最大の受益者は誰で、最大の被害者は誰か」といった具体的な問いを通じて、利用者自身の良心に訴えかける。
4. 効果測定と限界の検証: ビネット（仮想シナリオ）を用いた実験で、問いかけの有無による意思決定の変化を測定する。同時に、システムが逆に「問いに答えたから自分は正しい」という免罪符効果を生むリスクについても検証する。
結果
組織倫理に関するビネット実験（参加者320名）と、実際の内部通報経験者へのインタビュー（28名）から以下の知見が得られた。
良心麻痺の5段階モデルにおいて、問いかけ介入は全段階で同調率を低下させた。特に効果が大きかったのは第2段階「合理化」（差分20pt）と第3段階「責任転嫁」（差分30pt）であり、不正行為が習慣化する前の早期介入が最も有効であることが示された。一方、第5段階「麻痺」では介入群でもなお60%が同調しており、良心の麻痺が進行した後の回復には限界がある。問いかけは予防的ツールとしての価値が高い。
AIからの問い
「良心の声」を外部化するシステムをめぐる3つの立場。
肯定的解釈
組織の同調圧力は強力で、個人の良心だけでは抗しきれないことは歴史が証明している。ミルグラム実験では65%の被験者が最大電圧のスイッチを押した。問いかけシステムは、組織内で沈黙させられがちな「もう一つの声」を技術的に保障する。答えを押し付けず、問いを投げかけるという設計は、ソクラテス的対話の方法論と合致しており、人間の自律的思考を侵害しない。むしろ、思考を放棄しかけた人に「考える余白」を回復させる。
否定的解釈
良心は人間の内面に属する最も神聖な領域であり、それを外部のシステムに委ねること自体が問題ではないか。「問いに答えたから自分は正しい」という免罪符効果が生じれば、良心の声は弱まるどころか、システムへの依存が道徳的怠惰を助長する。さらに、「倫理的に正しい問い」を誰が設計し、その設計者の倫理的判断はどう担保するのか。良心の外部化は、良心そのものの空洞化につながりうる。
判断留保
問いかけシステムは「良心の代替」ではなく「良心の補助線」として設計されるべきだ。教育や研修と組み合わせ、あくまで「自分で考えるきっかけ」を提供する装置に留める。組織内の制度的保障（内部通報制度の実効化、報復禁止の法的担保、倫理委員会の独立性確保）なしに個人の良心にのみ訴えかけるシステムは、構造的問題を個人の問題にすり替える危険がある。技術と制度の両輪で設計すべきだ。
考察
本プロジェクトの核心は、「良心は個人の内面だけで守れるのか、それとも外部からの支えが必要なのか」という問いに帰着する。
アーレントが明らかにしたのは、悪の実行に特別な悪意は必要ないという恐ろしい事実だった。必要なのは「考えないこと」——上司の命令に従い、書類を処理し、自分の行為の結果について思考を停止する、ただそれだけで十分だった。この構造は現代の組織にもそのまま当てはまる。不正を認識しながら「自分の仕事ではない」「皆がやっている」「上が決めたことだ」と合理化するプロセスは、良心麻痺の古典的パターンである。
問いかけシステムの価値は、この合理化プロセスに「割り込み」をかける点にある。ビネット実験の結果は、特に合理化段階と責任転嫁段階での介入効果の高さを示した。これは、思考停止が完成する前の「揺らぎ」の段階——まだ違和感が残っている段階——で問いを投げかけることの有効性を示唆する。
しかし、重要な限界も明らかになった。第一に、良心の麻痺が進行した後の介入効果は限定的である。第二に、システムへの依存が「考えたつもりになる」免罪符効果を生むリスクがある。第三に、問いの設計に内在するバイアスの問題がある。
良心の声を技術的に補助しようとする試みの最大のパラドックスは、「本当に良心が機能している人はこのシステムを必要とせず、本当に良心が麻痺している人はこのシステムの問いを無視する」という点にある。つまり、このシステムが最も有効に機能するのは「良心がまだ完全には麻痺していない人」——違和感を感じているが行動に移せない人——に対してである。その意味で、問いかけシステムは「最後の砦」ではなく「最初の一押し」として設計されるべきだ。
先人はどう考えたのでしょうか
良心の尊厳と不可侵性
「良心の深奥において人間は法を発見するが、その法は人間が自らに与えたものではなく、人間が従うべきものである。良心は人間の最も秘められた中心であり、聖所である。そこにおいて人間は神と二人きりであり、神の声がその内奥に響く」 — 第二バチカン公会議『現代世界憲章（Gaudium et Spes）』16項
公会議は、良心を人間の「聖所」と呼び、その尊厳と不可侵性を宣言した。良心の声は外部から与えられるものではなく、人間の内面に刻まれた道徳的法則である。問いかけシステムの設計は、この良心の自律性を尊重しつつ、良心が機能するための条件を整えるという繊細なバランスが求められる。
不正な命令への抵抗と道徳的責任
「権威者が発した命令が良心に反する場合、人はその命令に従ってはならない。……『人間に従うよりも、神に従うべきである』（使徒言行録5:29）」 — 『カトリック教会のカテキズム』2242項
カテキズムは、明確に不正な命令への服従を拒否する義務を教える。アイヒマンの「命令に従っただけ」という弁明は、この教えに照らせば道徳的に許容されない。良心に基づく抵抗は、権威への不従順ではなく、より高次の法への忠実さである。問いかけシステムは、この「より高次の法」への気づきを促すものでなければならない。
共通善と個人の道徳的主体性
「人格の尊厳のために、人間は常に自分の良心の正しい判断に従って行動しなければならない。……良心の形成は一生涯の課題である」 — 『カトリック教会のカテキズム』1790項, 1784項
良心の形成は、一度完成するものではなく生涯を通じた継続的な営みである。組織内の同調圧力は、この形成過程を阻害する要因となりうる。問いかけシステムが「良心の形成」を助ける教育的ツールとして機能するならば、それはカトリック道徳神学の伝統に沿ったものとなる。ただし、良心の最終的な判断は常に個人に帰属し、いかなるシステムもそれを代替してはならない。
連帯と預言者的使命
「キリスト者は、不正に対して声を上げ、人間の尊厳を守るために行動する預言者的使命を担っている。沈黙は、時として不正への加担となる」 — 教皇フランシスコ 回勅『兄弟の皆さん（Fratelli Tutti）』186項
教皇フランシスコは、不正に対する沈黙が加担となりうることを指摘する。「悪の凡庸さ」の構造は、まさにこの沈黙の蓄積によって成立する。良心の声を支えるシステムは、個人を孤立させず、連帯の中で声を上げる勇気を支える設計であるべきだ。
出典：第二バチカン公会議『現代世界憲章（Gaudium et Spes）』16項（1965年）／『カトリック教会のカテキズム』1784項, 1790項, 2242項／教皇フランシスコ 回勅『兄弟の皆さん（Fratelli Tutti）』186項（2020年）
今後の課題
「悪の凡庸さ」を防止する試みは、個人の良心と組織の構造の両面から取り組まなければなりません。問いを投げかけ続けることの意味を、さらに深く探究します。
組織風土との相互作用の解明
問いかけシステムが組織文化の異なる環境（権威主義的/民主的/放任的）でどう機能するかを比較調査し、組織風土に適応した介入設計の指針を策定する。
免罪符効果の長期的検証
問いかけに応答すること自体が「倫理的に行動した」という錯覚を生むリスクを、長期追跡調査（6ヶ月以上）で検証し、逆効果を防ぐ設計改善を行う。
制度的保障との統合設計
内部通報制度・倫理委員会・コンプライアンス研修と連携した包括的システムを設計し、個人の良心への訴えと構造的保障の両輪で組織倫理の向上を図る。
文化横断的な良心概念の比較
西洋的な個人主義的良心概念と、東アジアの関係性的道徳観の差異を分析し、文化的文脈に応じた問いかけの設計原則を策定する。
「考えることをやめないこと——それが、凡庸な悪への唯一の防波堤である。」