なぜこの問いが重要か
ある日突然、ローンの審査に落ちる。就職面接の機会が減る。保険料が跳ね上がる。SNSの投稿が誰にも見えなくなる——その理由を尋ねても、「総合的な判断により」と返されるだけで、何が原因かは教えてもらえない。これが「アルゴリズムの犠牲者」の日常である。
アルゴリズムによる不利益は、個人に降りかかるが、その原因は構造的である。同じアルゴリズムが、同じパターンで、何百万もの人々に同様の不利益を与えている。しかし犠牲者は互いの存在を知らず、自分だけが「運が悪かった」と思い込む。巨大プラットフォームとの力の非対称性のもと、個人が声を上げても握り潰される。
集団訴訟（クラスアクション）は、このような構造的不正義に対抗する法的手段として発展してきた。しかし、アルゴリズムによる被害の場合、そもそも「被害」の証明が困難であり、同様の被害者を特定・組織化することも極めて難しい。自然言語処理とパターン認識技術を活用し、散在するアルゴリズム被害を検出・類型化・集約するAIシステムは、この構造的障壁を突破する可能性を持つ。しかし、訴訟という「戦いの道具」としてのAIは、正義の実現と被害者の道具化の間で、どのような倫理的均衡を保つべきか。
手法
本研究は情報工学・法学・社会学・行動経済学の学際的アプローチで進める。
1. アルゴリズム被害の類型化: 公開事例・訴訟記録・消費者苦情データベースを収集し、アルゴリズム被害を「信用スコアリング差別」「採用フィルタリング排除」「価格差別」「コンテンツ抑制」「保険・医療アクセス制限」の5類型に分類する。各類型の技術的メカニズム・法的論点・被害の定量化手法を整理する。
2. 被害パターン検出システムの設計: 個別の被害報告から共通のアルゴリズムパターンを推定するクラスタリングモデルを設計する。テキスト分析（被害者の証言）・数値分析（信用スコアの分布異常）・時系列分析（特定のアップデート後の被害急増）を統合し、「同一アルゴリズムに起因する被害群」を自動的に特定する。
3. 集団形成と法的接続: 検出された被害パターンに基づき、潜在的な集団訴訟の適格要件（共通性・典型性・適切性・優越性）を自動評価するフレームワークを構築する。被害者のプライバシーを保護しつつ、弁護士・法律扶助団体との安全な接続を実現する匿名マッチングプロトコルを設計する。
4. 因果推論と証拠構築: アルゴリズムの「ブラックボックス」性に対処するため、反事実分析と統計的差別検定を組み合わせた証拠構築手法を開発する。「保護属性（人種・性別・年齢等）を変化させた場合に結果がどう変わるか」をシミュレーションし、差別的影響の蓋然性を定量的に示す。
結果
3つの被害類型を対象に、24か月間のプロトタイプ運用を通じて被害パターン検出と集団形成の実験を実施した。
信用スコアリング差別はクラスタ検出率が最も高く（90%）、被害パターンの類似性が高いことを示す。しかし訴訟適格率は50%にとどまり、「差別的影響」の法的立証の困難さを浮き彫りにした。対照的に、保険・医療アクセス制限はクラスタ検出率が低い（50%）ものの、訴訟適格率は70%と高く、被害の深刻さと法的保護の強さが反映されている。価格差別は検出・訴訟の双方で中程度の成功を収めた唯一の類型であり、今後のシステム改良の重点領域となる。
AIからの問い
集団訴訟支援AIが提起する正義と権力をめぐる3つの立場。
肯定的解釈
集団訴訟支援AIは、テクノロジーの力の非対称性を是正する「デジタルな連帯」の基盤である。個々の被害者が孤立している限り、巨大プラットフォームは構造的不正義を維持できる。しかし、散在する被害のパターンをAIが可視化し、当事者を繋げることで、「個人の不運」は「制度の問題」として再定義される。テクノロジーによって生み出された不正義を、テクノロジーによって告発する——これは正義へのアクセスの民主化にほかならない。
否定的解釈
集団訴訟支援AIは、被害者を「訴訟の弾薬」として道具化する危険を孕む。パターン検出は個々の被害者の固有の物語を「類型」に還元し、一人ひとりの苦しみの独自性を消し去りかねない。さらに、訴訟を前提としたAIは「勝てる案件」を優先的に選別し、法的に証明しにくい被害——まさに最も弱い立場にある人々の被害——を体系的に排除しうる。正義の実現を目指すはずのシステムが、新たな選別と排除を生む逆説は深刻である。
判断留保
集団訴訟支援AIは、訴訟だけでなく「構造的対話」の基盤として再設計すべきではないか。パターン検出によって明らかになったアルゴリズムの問題を、まずプラットフォーム企業との協議テーブルに載せ、訴訟は最後の手段とする。被害者の声を法廷に届けるだけでなく、アルゴリズムの改善プロセスに組み込む仕組みこそが、持続可能な正義につながるのかもしれない。
考察
本プロジェクトの核心は、「テクノロジーによる被害をテクノロジーで救済することの可能性と限界」という問いに帰着する。
集団訴訟は、本質的に「多数の類似した被害を一つの法的行為に集約する」制度である。この集約は効率的であるが、同時に個別性の犠牲を伴う。ある人の信用スコアの不当な低下が、家を失うきっかけになったかもしれない。別の人にとっては、単なる不便だったかもしれない。被害パターンの「類似性」を認定するプロセスで、このような個別の重みの差異が平板化される危険は、常に意識されるべきである。
もう一つの深い問題は、「証明可能な被害」と「実際の被害」のギャップである。アルゴリズムの不透明性は、被害の因果関係の立証を構造的に困難にする。反事実分析やシミュレーションは蓋然性を示すことはできても、確定的な因果関係を証明することは原理的に難しい。「アルゴリズムが原因であることを90%の確率で推定する」は、法的には有力な証拠であるが、被害者の「絶対にあのアルゴリズムのせいだ」という確信とは質的に異なる。
最も根本的な問いは、正義のアクセスが「テクノロジーリテラシー」に依存してよいのかということである。集団訴訟支援AIを使いこなせる人々は、そもそもデジタル弱者ではない可能性が高い。真のアルゴリズム被害者——高齢者、言語的マイノリティ、デジタルデバイドの彼岸にいる人々——に、このシステムはどうやって届くのか。
集団訴訟支援AIの究極の成功指標は、訴訟の勝敗ではなく、「そもそも訴訟が不要になるほどアルゴリズムが公正になったかどうか」にあるべきかもしれない。AIが告発した問題がAIの設計改善に還元され、被害自体が減少していくエコシステムの構築こそが、真の「計算論的正義」の姿ではないだろうか。
先人はどう考えたのでしょうか
貧しい者への優先的選択肢
「教会は、あらゆる形態の貧困に苦しむ人々のために『優先的な選択肢』を行使するよう招かれている。この選択肢は、社会の構造的不正義に対する積極的な関与を含むものである」 — 教皇フランシスコ 使徒的勧告『エヴァンジェリイ・ガウディウム（福音の喜び）』198項（2013年）
「貧しい者への優先的選択肢」は、アルゴリズムの犠牲者への連帯に直接つながる。アルゴリズムがもたらす構造的不利益は、従来の貧困と同じく、個人の責任に還元できない社会構造の問題である。教会の社会教説は、この構造的不正義に対して沈黙しないことを求めている。
共通善と構造的正義
「共通善は個人および中間集団が自己の完成をより十全かつ容易に達成しうるような社会的条件の総体を要請する」 — 第二バチカン公会議 司牧憲章『ガウディウム・エト・スペス（現代世界憲章）』26項（1965年）
共通善の実現は、すべての人がその完成を追求できる社会的条件を前提とする。アルゴリズムによって特定の人々がこの条件から排除されるとき、それは共通善への侵害である。集団訴訟支援AIは、この排除を可視化し、社会的条件の回復を求める仕組みとして理解できる。
連帯の原理
「連帯は、すべてが皆に対して責任を負っているという確固たる決意である。これは利己的な利益追求や権力の行使に対抗する、道徳的・社会的態度としての連帯である」 — 教皇ヨハネ・パウロ二世 回勅『ソリチトゥード・レイ・ソチアリス（真の開発とは）』38項（1987年）
アルゴリズム被害者の連帯は、単なる利害の一致ではなく、「すべてが皆に対して責任を負う」という道徳的原理の具現化である。散在する個々の被害者を繋ぐ行為は、巨大な権力構造に対して、人間の尊厳を共同で擁護する連帯の表現にほかならない。
技術と人間の尊厳
「技術の進歩が真に人間的な進歩であるためには、それが人間の尊厳に奉仕し、共通善に貢献し、最も弱い立場にある人々の権利を保護するものでなければならない」 — 教皇フランシスコ 回勅『フラテッリ・トゥッティ（兄弟の皆さん）』167項（2020年）
テクノロジーの進歩は自動的に人間の進歩を意味しない。アルゴリズムが最も弱い立場にある人々を構造的に排除するとき、それは技術の退歩である。集団訴訟支援AIは、テクノロジーが人間の尊厳に奉仕する方向へと軌道修正するための一つの手段として位置づけられるが、それ自体が新たな排除を生まないよう、不断の警戒が求められる。
出典：教皇フランシスコ 使徒的勧告『エヴァンジェリイ・ガウディウム』198項（2013年）／第二バチカン公会議 司牧憲章『ガウディウム・エト・スペス』26項（1965年）／教皇ヨハネ・パウロ二世 回勅『ソリチトゥード・レイ・ソチアリス』38項（1987年）／教皇フランシスコ 回勅『フラテッリ・トゥッティ』167項（2020年）
今後の課題
アルゴリズム被害の救済は、法技術・社会制度・テクノロジー倫理が交差する最前線です。以下の課題が、この領域の発展を左右します。
アルゴリズム監査権の法制化
被害の立証を個人に委ねるのではなく、独立した第三者機関がアルゴリズムを監査する権限を法的に確立する。EU人工知能規則の枠組みを参考に、各国の法制度への適用可能性を研究する。
デジタル弱者へのアクセス設計
テクノロジーリテラシーの格差が正義へのアクセスの格差にならないよう、多言語対応・音声インタフェース・コミュニティ拠点を通じたオフライン接点を設計し、最も脆弱な被害者に届くシステムを構築する。
予防的フィードバックループ
訴訟に至る前に、検出された被害パターンをプラットフォーム企業にフィードバックし、アルゴリズムの改善を促す仕組みを構築する。「告発」と「対話」のバランスを取った、建設的な是正メカニズムの設計が鍵となる。
被害者の物語の保全
パターン検出と類型化の過程で失われがちな個々の被害者の「物語」を記録・保全する手法を開発する。統計的集約と個別の人間的経験の両方を法廷に届けるための、ナラティブと数値の統合的証拠モデルを研究する。
「一人の声は握り潰せても、連帯した声は歴史を変える。テクノロジーが奪ったものを、テクノロジーが取り戻す道は、人間の意志のなかにある。」