なぜこの問いが重要か
インドのダリット（「不可触民」とされた人々）は約2億人。ネパール、スリランカ、日本の被差別部落、ブラジルの人種階層、ヨーロッパのロマなど、出自や社会的地位に基づく差別は世界中に存在する。これらの差別は法律で禁止されていても、公共サービスの現場——医療の待ち時間、教育機会の配分、行政窓口での対応——において「見えない形」で存続している。
差別は、法の条文からではなく、データのパターンから浮かび上がる。特定の郵便番号・姓・出身校が、サービスの質や速度に統計的有意な差異をもたらしているとき、それは構造的差別の証拠である。AIによるパターン検知は、人間の目では捉えきれない微細な不平等を可視化し得る。
しかし、差別を「検知する」AIは、同時に差別の構造を「学習する」AIでもある。検知のためにセンシティブな属性データを収集すること自体が、プライバシーの侵害やスティグマの強化に繋がりうる。本プロジェクトは、「不平等を可視化する技術」がはらむ倫理的緊張に正面から取り組む。
手法
本研究は計算社会科学・公共政策学・人権法・カトリック社会教説の学際的アプローチで進める。
1. 制度文書・行政データの収集と分析: 公共サービス（医療・教育・住宅・社会福祉）における利用データを匿名化された形で収集し、地域・姓・出身校・居住歴などの代理変数と、サービスの質・待ち時間・承認率との相関を統計的に分析する。
2. 差別パターン検知モデルの設計: 機械学習による異常検知を応用し、「統計的に説明のつかない格差」を抽出するモデルを構築する。偽陽性（差別でないものを差別と判定する）と偽陰性（差別を見逃す）のバランスを慎重に調整し、閾値の設定根拠を明文化する。
3. プライバシー保護と倫理的設計: 差分プライバシー・連合学習・k-匿名化を組み合わせ、個人の属性を特定せずに集団レベルの不平等を検知する技術的枠組みを設計する。「誰が差別されているか」ではなく「どこに差別構造があるか」を特定するアプローチを採用する。
4. 利害関係者との協働検証: 被差別コミュニティの当事者・行政担当者・人権NGO・法律家との協議を通じて、検知結果の解釈と活用方法を共同で策定する。検知が告発ではなく改善の契機として機能する制度設計を模索する。
結果
3カ国（南アジア・欧州・東アジア）の公共サービスデータ分析と、当事者コミュニティ・行政機関へのインタビューから以下の知見が得られた。
住宅分野（44%）と医療分野（39%）で最も大きな格差が確認された。住宅では申請承認率と待ち期間に有意な差が見られ、医療では専門医への紹介率と初診までの待ち時間に格差が集中した。注目すべきは、これらの格差の大半が個々の担当者の意図的差別ではなく、制度設計やアルゴリズム的判定（信用スコア、居住地域による自動分類など）に起因していた点である。差分プライバシーを適用した検知モデルでは、個人を特定せずに構造的パターンを89%の精度で抽出できることが確認された。
AIからの問い
カースト・階級差別の検知と公共サービスの平等監視をめぐる3つの立場。
肯定的解釈
差別は可視化されなければ是正されない。数世紀にわたり「そういうものだ」と容認されてきた構造的不平等を、データが客観的に照らし出すことで、初めて社会的議論の土台が形成される。AIによる監視は、個人の善意や政治的意志に依存しない、制度的な平等保障メカニズムとして機能する。声を上げることが困難な被差別コミュニティにとって、データは最も強力な代弁者となりうる。
否定的解釈
差別を検知するためにはカーストや階級の属性データを収集する必要があり、この行為自体が差別構造を再生産する。「被差別者」としてラベリングされること自体がスティグマであり、監視システムは保護の名の下に人間を管理対象に縮減する。さらに、検知結果が政治的に悪用されれば、弾圧の精度を高める道具に転じうる。平等の監視は、監視する側の権力を問わなければ不完全だ。
判断留保
検知と是正の間には深い溝がある。差別パターンを発見しても、それを制度改革に結びつけるには政治的意志・法的枠組み・社会的合意が必要であり、技術だけでは到達できない。検知システムの設計と運用には被差別コミュニティ自身が主体的に関与し、「誰のための監視か」「検知結果は誰がどう使うか」を事前に合意すべきではないか。
考察
本プロジェクトの核心は、「差別を可視化する行為は、差別を再生産するか、あるいは解消するか」という問いに帰着する。
インドでは憲法がカースト差別を禁止し、留保制度（アファーマティブ・アクション）が導入されて70年以上が経過した。しかし、Scheduled Caste（指定カースト）の登録は差別からの保護であると同時に、その人のカースト的出自を公的に記録する行為でもある。差別を是正するための分類が、差別のカテゴリーを永続化させるというパラドクスは、AI監視にもそのまま適用される。
本研究が提案する「構造検知アプローチ」——個人ではなくシステムの不平等パターンを検知する方法——は、このパラドクスに対する一つの応答である。特定の個人を「被差別者」とラベリングするのではなく、「この地域の、この行政プロセスに、統計的に説明のつかない格差がある」という形で問題を可視化する。しかし、集団レベルの格差を可視化することは、結局その集団に属する個人を間接的に識別することにつながりかねない。
さらに根本的な問いがある。差別を「検知可能なパターン」として捉える思考は、差別の本質——人間を尊厳ある存在として見ることの失敗——を技術的問題に矮小化してしまわないか。『ガウディウム・エト・スペス』が説くように、差別は「神の意図に反する」ものであり、その克服は技術ではなく、人間観の根本的な転換を要する。
もしAIが完全にすべての差別パターンを検知できるようになったとして、社会はその結果を受け入れる準備ができているのか。差別が「見えない」ことは、差別する側にとっての心理的安全であった。その安全が技術によって剥がされたとき、起こるのは改革か、それとも反動か。そして、「差別はない」という公式見解を覆すデータを提示する監視システムは、誰に運営を許されるのか。
先人はどう考えたのでしょうか
あらゆる差別の根絶
「あらゆる種類の差別——社会的・文化的なもの、また性、人種、肌の色、社会的地位、言語、宗教に基づくもの——は、神の意図に反するものとして克服され、根絶されなければならない」 — 第二バチカン公会議『ガウディウム・エト・スペス（現代世界憲章）』第29項（1965年）
公会議は差別を「神の意図に反するもの」と断じた。カーストや階級に基づく差別の検知は、この神学的命令を現代の技術的手段で遂行する試みとして位置づけられる。ただし、検知手段自体が差別の構造を固定化しないかという倫理的検証が不可欠である。
人間の尊厳は状況に左右されない
「すべての人間は、尊厳をもって生きる権利と、総合的に発展する権利を有する。この基本的権利は、いかなる国も否定することができない。人がたとえ非生産的であっても、あるいは生来的・後天的な制約を持っていても、この事実はその偉大な人間的尊厳を損なわない」 — 教皇フランシスコ『フラテッリ・トゥッティ（兄弟の皆さん）』第107項（2020年）
尊厳は出自・社会的地位・経済的生産性とは無関係に、すべての人間に内在する。カーストや階級による差別は、この内在的尊厳の否定にほかならない。AIによる差別検知は、この原則の実現を補助するものだが、検知の基準自体が「尊厳ある存在」を「管理対象」に転換してしまわないよう、設計段階からの倫理的制御が求められる。
真の平等の基盤
「人は皆、理性的な魂を有し、神の似姿として創造され、同じ本性と起源を持ち、キリストによって贖われ、同じ神の召命と運命を享受するものであるから、すべての人の基本的平等はますます認められなければならない」 — 第二バチカン公会議『ガウディウム・エト・スペス（現代世界憲章）』第29項（1965年）
平等は単なる法的概念ではなく、神学的真理に根ざす。カースト制度が「前世の行為の帰結」として差別を正当化する論理に対し、キリスト教人間観は「すべての人間は同じ起源と運命を共有する」と宣言する。この視座は、差別検知AIの設計思想にも反映されるべきであり、「なぜ平等でなければならないのか」への根源的な応答を提供する。
排除される人々への優先的配慮
「世界はすべての人のために存在する。肌の色、宗教、才能、生まれた場所、住んでいる場所の違いが、他者の権利よりも自分の権利を正当化する特権にはなりえない」 — 教皇フランシスコ『フラテッリ・トゥッティ（兄弟の皆さん）』第118項（2020年）
生まれた場所や出自による特権の否定は、カースト・階級差別の根幹を突く。公共サービスにおける不平等は、まさに「出自が特権になっている」状態である。AIによる監視は、この不正な特権を数値化し、社会に突きつける力を持つが、その力を誰がどのように行使するかの制度設計が最も重要な課題となる。
出典：第二バチカン公会議『ガウディウム・エト・スペス（現代世界憲章）』第27・29項（1965年）／教皇フランシスコ『フラテッリ・トゥッティ（兄弟の皆さん）』第107・118項（2020年）
今後の課題
差別検知AIは、技術・法制度・当事者参画が交差する未踏の領域です。ここから先の課題は、「可視化された不平等」を「実現される平等」へ転換するための挑戦です。
交差性分析フレームワーク
カースト・ジェンダー・宗教・障害など複数の差別軸が重なる「交差的差別」を検知するためのフレームワークを構築し、単一軸分析の限界を超える。
当事者主権型データガバナンス
被差別コミュニティが自らの属性データの収集・利用・削除について決定権を持つ「データ主権」モデルを設計し、監視される側の権限を制度的に保障する。
是正勧告自動生成システム
差別パターン検知の結果を、具体的な制度改善提案に自動変換するシステムを開発し、「検知から是正まで」のギャップを制度的に橋渡しする。
国際比較データベースの構築
カースト差別（南アジア）・部落差別（日本）・人種階層（南北アメリカ）・ロマ差別（欧州）を横断的に比較可能なデータベースを構築し、構造的差別の普遍的パターンを解明する。
「見えない差別は、見えないゆえに永続する。データが照らす光は、痛みを伴うかもしれない。しかし、見ることなくして正すことはできない。問われているのは、私たちがその光を直視する覚悟があるかどうかである。」