なぜこの問いが重要か
予測的治安維持（predictive policing）は、過去の犯罪データから「将来の危険地域・危険人物」を特定しようとするシステムである。しかしその基盤となるデータは、過去の警察活動のパターンを反映している。特定の地域が歴史的に過剰監視されてきたならば、そこには当然より多くの犯罪記録が積み上がる。AIはこの偏ったデータを学習し、同じ地域への監視を強化し、さらに多くの記録を生み、偏りをいっそう深める。
この「偏見の自己強化ループ」は、技術的な誤りではなく構造的な不公正である。アルゴリズムは差別を発明したのではない。それは既存の差別を高速で、大規模に、そして「客観的な計算結果」という外見のもとに再生産する。統計的な予測スコアが低い地域に生まれた人は、まだ何も行っていないうちから「リスク」として扱われる。これは、近代法の根幹を成す無実推定の原則と正面から衝突する。
では「AIの自己修正」はこの問題を解決しうるか。バイアスを検出し、分布を調整し、公平性指標を監視するAIが実装されるとき、それは偏見の連鎖を断ち切る道具になりうる。しかし、何をもって「公平」と見なすかは、技術の問題ではなく価値の問題である。精度の公平性か、適合率の公平性か、偽陽性率の均等化か——これらは互いに矛盾しうる。修正の方向を決めるのは、最終的に人間の判断と責任でなければならない。
手法
本研究は、計算機科学・法学・倫理学・カトリック社会教説の学際的視座から、犯罪予測AIにおける自己修正機構の可能性と限界を分析する。
1. 制度文書・判例・統計の収集: 米国・欧州・日本における予測的治安維持システムの導入事例、差別訴訟の判例、公開統計を収集する。バイアスが顕在化した具体的事例（COMPAS、PredPol等）と、その後の是正措置の内容を整理する。
2. 公平性指標の多元的分析: 統計的公平性の主要定義（demographic parity、equalized odds、individual fairness等）を整理し、それぞれがどのような価値的前提に基づくかを明示化する。公平性定義の「選択」が誰によって、どのような手続きで行われるべきかを検討する。
3. 三経路分析: 自己修正AIが「偏見の制度化を防ぐ足場になりうる」「権利の指標化による人間の管理対象化」「AIと人間の判断領域の切り分け」という三つの立場から論点を構造化する。
4. MVPの運用条件と限界の明文化: 最終的な判断を人間が引き受ける前提で、自己修正システムの有効性が成立する条件（説明責任の主体・監査の頻度・不服申立手続き等）と、AIが補助してよい範囲・踏み込むべきでない範囲を明確にする。
結果
予測的治安維持システムの事例分析から、バイアスの発生源と自己修正の効果に関する複数の論点が浮かび上がった。
自己修正後の想定値では、偽陽性率と集団間格差の大幅な低減が期待されるが、全体的な予測精度にはトレードオフが生じる。より深刻なのは「説明可能性」と「人間監督の実効性」の逆転である。バイアス修正の技術が高度化するほど、システムの内部論理は不透明になる傾向があり、現場の担当者が「なぜこのスコアが出たか」を理解し、人間としての判断を介在させる機会が失われる。自己修正AIは、監督を容易にするのではなく、むしろ困難にしうる。
問いの提示
「犯罪予測AIの自己修正」をめぐる、3つの立場。
肯定的解釈
予測的治安維持がすでに広く導入されている現実において、バイアスを放置することこそが最大の害悪である。自己修正機構は、人間の意識的な偏見よりも系統的かつ迅速にバイアスを検出できる。特定の民族・地域への不均衡なスコアリングを可視化し、統計的な格差が閾値を超えた時点でアラートを発し、補正を促す仕組みは、既存の制度的差別に対する透明性の向上をもたらす。見過ごされてきた権利の侵害を数値で示すことで、法的・政策的な対話の根拠が生まれる。
否定的解釈
「自己修正」という表現は、問題の深さを隠蔽する。犯罪予測AIの根本的な欠陥は、データのバイアスではなく、「誰かを将来の犯罪者として事前に分類する」という発想そのものにある。自己修正されたアルゴリズムが出力する「公平なスコア」も、無実の人を監視対象として処遇することに変わりはない。さらに、技術的修正によってシステムに「公正」の外見が与えられると、それがより広く、より深く社会に定着する危険がある。バイアスを修正することは、より洗練された差別の制度化に加担することになりかねない。
判断留保
自己修正機構が有効に機能する条件は、技術の外部にある。第一に、どの公平性指標を優先するかを決定する権限が、影響を受けるコミュニティ自身に与えられているか。第二に、スコアリングの根拠が当事者に説明されるか。第三に、不服申立と再審査の手続きが実質的に機能するか。これらの制度的条件が整わないまま「自己修正AI」が導入されるとき、技術の洗練は免責の口実になる。AIが補助できる範囲と、人間が悩み続けなければならない範囲の切り分けは、常に問い直されるべきである。
考察
本プロジェクトの核心は、「公平性は定義できるか、それとも常に争われ続けるものか」という問いにある。
統計学的公平性には、互いに両立しえない複数の定義が存在する。あるグループの偽陽性率を均等化しようとすれば、別のグループの精度が犠牲になる。個人の公平性（同じ特徴を持つ人は同じ扱いを受けるべき）を追求すれば、集団間の格差是正が難しくなる。これらは「どの定義が正しいか」という技術問題ではなく、「誰が傷つくことを社会は優先的に防ぐか」という政治的・倫理的問題である。アルゴリズムはこの問いに答えることができない。問いを引き受けるのは、説明責任を持つ人間でなければならない。
カトリック社会教説は、正義を「それぞれの者に固有のものを与えること」として定義してきた（教皇庁正義と平和評議会『教会の社会教説綱要』201項）。予測アルゴリズムが「誰かの固有のもの」を奪うとき——まだ犯していない行為に対して自由を制限し、資源へのアクセスを狭め、尊厳に傷をつけるとき——それは制度的な不正義である。技術的な修正は必要条件であるが、十分条件ではない。
また、予測システムが高精度化するほど、人間の側に「AIの判断に従う」という認知的圧力が生まれる。担当者はスコアを覆す「社会的コスト」を避けようとし、アルゴリズムへの服従が常態化する。最終判断を人間が引き受けるという原則は、制度として設計されなければ機能しない。人間の判断責任は、手続き上の形式ではなく、実質的な意味で担保されなければならない。
バイアスを修正されたアルゴリズムが「公平なスコア」を出しても、そのスコアに基づく判断の責任は誰が負うのか。「AIが言ったから」は、制度的差別の免責になりえない。技術の洗練は、問い続ける義務を消滅させない。
先人はどう考えたのでしょうか
無実推定と法的正義
「無実の推定は市民的および刑事的な手続きの中心的原則であり、証明なき断罪は個人の尊厳を根本的に侵害する」 — 教皇庁正義と平和評議会『教会の社会教説綱要（Compendium of the Social Doctrine of the Church）』404項（2004年）
無実推定は、近代法秩序の根幹であると同時に、人間の尊厳の法的表現である。予測AIが統計的リスクスコアに基づいて個人を「将来の犯罪者」として処遇することは、この原則の精神を侵食する。証明されていない行為への制裁——監視の強化、資源の制限、社会的烙印——は、形式的には逮捕でなくても、実質的には断罪の作用を持つ。
差別の禁止と人間の基本的平等
「人種、肌の色、社会的身分、言語、宗教などを理由とするいかなる差別も、神の意図に反し、乗り越えられなければならない。なぜなら、人間の基本的権利において、すべての人は等しく尊厳を持つからである」 — 第二バチカン公会議『現代世界憲章（Gaudium et Spes）』29項（1965年）
『現代世界憲章』の差別禁止規定は、明示的な意図を持つ差別だけでなく、構造的・結果的な差別にも適用される。歴史的に蓄積された過剰監視のデータを学習したアルゴリズムが、特定の地域・民族に高いリスクスコアを与え続けることは、意図の有無にかかわらず差別の再生産である。教会の社会教説は、差別を「神の意図に反する」ものとして明確に位置づける。
共通善と公権力の正当性
「公権力の本来の目的は共通善の実現にある。この目的から逸脱するとき、権力はその基礎を失い、市民はそれに従う良心上の義務を失う」 — 教皇ヨハネ二十三世 回勅『パーチェム・イン・テリス（Pacem in Terris）』65項（1963年）
教皇ヨハネ二十三世は、公権力の正当性を共通善への奉仕に基礎づけた。予測的治安維持が特定のコミュニティを不均衡に監視・統制することで「公共の安全」を追求するとき、犠牲となるコミュニティにとってそれは共通善ではなく、権力による選択的保護である。共通善は全構成員の善であり、一部の人々の安全を他の人々の尊厳の犠牲において達成することは、正義とはいえない。
技術への人間的支配と判断の責任
「技術は人間の全面的発展に奉仕すべきであり、技術が自律的な論理を持って人間を支配し始めるとき、それは人間の自由と尊厳への脅威となる」 — 教皇フランシスコ 回勅『兄弟の皆さん（Fratelli Tutti）』177項（2020年）
教皇フランシスコは、技術の「自律的な論理」が人間を支配する危険を警告した。予測AIのスコアが担当者の判断を事実上拘束するとき、人間は技術の執行者に成り下がる。最終判断を人間が引き受けるという原則は、技術設計の中に「人間が覆せる余地」を意図的に残すことを要求する。AIは補助線であり、裁判官ではない。
出典：教皇庁正義と平和評議会『教会の社会教説綱要』404項（2004年）／第二バチカン公会議『現代世界憲章（Gaudium et Spes）』29項（1965年）／教皇ヨハネ二十三世 回勅『パーチェム・イン・テリス』65項（1963年）／教皇フランシスコ 回勅『兄弟の皆さん（Fratelli Tutti）』177項（2020年）
今後の課題
犯罪予測AIの公平性問題は、技術・法・倫理が交差する未解決の領域です。問いを持ち続ける人々と共に、歩むべき道を探ります。
公平性指標の民主的選択
どの公平性定義を優先するかを、影響を受けるコミュニティが実質的に選択できる参加型設計の枠組みを開発する。技術者と住民・法律家・倫理学者が共同で閾値を設定するプロセスの制度化。
歴史的偏見のデータ消去
過去の過剰監視によって蓄積された偏ったデータの「記憶」をどこまで修正・削除できるか。遡及的公正（retroactive fairness）の技術的・法的な可能性と限界を探る。
説明責任の制度設計
スコアリングの根拠を当事者に開示し、実効的な不服申立手続きを保障する法制度の比較研究。EU AI法の高リスク分類が要求する透明性・監督義務の具体的な実装事例の分析。
「しない」という選択の条件
バイアス修正の技術がどれほど進歩しても、「予測的治安維持そのものを導入しない」という政策判断が正当化される条件を明示化する。技術的解決に先立つ倫理的・政治的選択の枠組みの整備。
「公平なアルゴリズムを求める前に、公平な問いを立てているかを問うべきである。」