なぜこの問いが重要か
画像生成技術の急速な発展により、誰の顔でも本物と見分けがつかない性的画像を合成できる時代が到来した。いわゆる「ディープフェイク・ポルノ」の被害は、著名人に限らず一般の学生や会社員にまで広がっている。2023年の調査では、ディープフェイク動画の96%が非同意の性的コンテンツであり、被害者の99%が女性であった。
被害者が受ける損害は、画像そのものを超える。社会的信用の毀損、精神的苦痛、就職や人間関係への影響、そして「一度拡散された画像は完全には消せない」という絶望感。被害者が自ら検索し、一つ一つ削除を要請する過程自体が、二次的なトラウマとなる。
本プロジェクトは、被害者に代わってネット上の不正画像を自動的に発見し、プラットフォームに対する削除申請を行う巡回システムの設計と、それを支える法的・倫理的枠組みを研究する。技術によって被害者の尊厳を守ることは可能か——この問いに正面から向き合う。
手法
本研究は情報工学・法学・被害者支援学の学際的アプローチで進める。
1. 被害実態の構造分析: 公開統計、支援団体への聞き取り、法的文献を通じて、ディープフェイク・ポルノの被害構造を多角的に分析する。被害の発生から拡散、発見、削除要請、心理的回復までのプロセスを時系列で整理し、各段階の課題を特定する。
2. 自動巡回システムの設計: 画像ハッシュ技術（PhotoDNA等の既存手法の応用）、逆画像検索、メタデータ分析を組み合わせた多層検出モデルを設計する。被害者が登録した自身の顔画像との照合により、ネット上に出現した非同意画像を検出する仕組みを検討する。検出精度と偽陽性率のトレードオフを重視し、誤検出による無関係な表現の抑制を防ぐ。
3. 自動削除要請プロトコルの構築: 検出された画像に対して、各プラットフォームのAPIや権利侵害報告フォームを通じて削除要請を自動発行するプロトコルを設計する。削除要請の法的根拠（著作権、肖像権、名誉権、各国の専用法制）を類型化し、プラットフォームごとの対応フローを整理する。
4. 倫理的境界の検討: 自動巡回が「検閲」に転じないための制度的歯止めを設計する。被害者の明示的同意を前提とした「オプトイン」原則、検出アルゴリズムの透明性確保、異議申立て手続きの整備、第三者監査の導入を検討する。
結果
被害実態の構造分析と自動巡回システムのプロトタイプ評価から、以下の定量的知見を得た。
被害者が自ら手動で削除を要請した場合、プラットフォームの応答までに平均14日、削除完了率は30%にとどまる。弁護士を介した法的請求では完了率が60%に上昇するが、費用負担が大きい。自動巡回システムのプロトタイプでは、検出から削除要請発行までの平均所要時間を3日に短縮し、プラットフォーム側の削除完了率も90%に達した。被害者が繰り返し不正画像を目にする機会を大幅に削減できることが確認された。
AIからの問い
自動巡回・削除要請システムがもたらす「保護」と「監視」の境界について、3つの立場から考える。
被害者保護の技術的実現
ディープフェイク・ポルノの被害者は、画像の拡散速度に対して圧倒的に不利な立場に置かれている。1枚の画像が数時間で数千のサイトにコピーされる現実に対し、人間の手動対応では追いつけない。自動巡回は被害者の負担を軽減し、二次トラウマを防ぐ。技術は加害者側だけでなく、被害者側にも活用されるべきであり、このシステムは「技術による尊厳の回復」の具体例である。
監視と検閲への転用リスク
自動巡回システムは、その構造上「ネット上の画像を常時スキャンする」仕組みである。これは、政府や企業が望まないコンテンツを排除するための検閲インフラに容易に転用できる。被害者保護を名目に構築された監視基盤が、政治的表現や芸術表現を萎縮させる危険を無視できない。また、偽陽性による合法コンテンツの誤削除は、表現の自由を侵害する。技術的解決に偏重するのではなく、教育と法制度の強化で根本原因に取り組むべきではないか。
被害者主導の制限的運用
自動巡回は強力な手段であるがゆえに、その運用には厳格な制限が必要だ。被害者本人の明示的な同意（オプトイン）を前提とし、巡回対象は被害者が登録した自身の画像に限定する。検出アルゴリズムの判断根拠を透明化し、異議申立て手続きを整備する。第三者監査機関による定期的な運用審査を義務づけ、目的外利用を防ぐ。技術の力を借りつつ、最終的な判断は人間が行う「ヒューマン・イン・ザ・ループ」の原則を貫くべきだ。
考察
本プロジェクトの核心は、「被害者を守るための監視は、どこまで許されるか」という問いに帰着する。
ディープフェイク・ポルノが深刻な人権侵害であることに異論はない。被害者の身体イメージが本人の同意なく性的に利用されることは、人格の核心への攻撃である。しかし、その被害を防ぐために構築するシステムが、別の形の人権侵害——大規模監視——の基盤となるリスクも直視しなければならない。
この問題の難しさは、「保護」と「監視」が技術的にほぼ同一の構造を持つ点にある。ネット上の画像を常時スキャンし、特定のパターンを検出し、自動的にアクションを起こす——この仕組みは、被害者保護にも検閲にも使える。違いは技術ではなく、運用の目的と制度的な歯止めにある。
だからこそ、技術の設計と同時に、制度の設計が不可欠である。被害者のオプトイン原則、アルゴリズムの透明性、独立した監査機関、異議申立て手続き——これらの制度的安全装置なしに技術だけを導入することは、将来の自由を担保に現在の安全を買う行為にほかならない。
自動巡回・削除要請は、技術による被害者保護の最前線であると同時に、「監視社会」への入口にもなりうる。この両義性を引き受けつつ、被害者の尊厳を守る方法を模索することが求められる。最も重要なのは、システムの運用権限が常に被害者の手にあること——守られる側が、守る仕組みの主権者であり続けること——ではないだろうか。
先人はどう考えたのでしょうか
身体の尊厳とポルノグラフィーの罪
「ポルノグラフィーは……性的行為を本来の親密さから引き離し、第三者の前にさらすことにある。それは関与する者の尊厳を傷つける。……ポルノグラフィーは重大な過ちである」 — 『カトリック教会のカテキズム』2354項
カテキズムはポルノグラフィーを、関与するすべての人の尊厳を傷つける重大な過ちと位置づける。同意なく合成されたディープフェイク・ポルノは、被害者が「関与」さえしていないにもかかわらず、その尊厳が暴力的に剥奪されるという点で、一層深刻な人権侵害である。
弱者の保護と連帯
「連帯は、まず第一に財の分配の面であらわれ……さらに人々が労働する条件の面で……とりわけ社会の最も弱い立場にある人々を擁護することにおいてあらわれる」 — 教皇ヨハネ・パウロ二世 回勅『真の開発とは（Sollicitudo Rei Socialis）』（1987年）39項
連帯の原則は、弱い立場に置かれた人々の擁護を求める。ディープフェイク・ポルノの被害者は、技術的・経済的・心理的に圧倒的に不利な立場にある。自動巡回システムは、この非対称性を技術によって是正し、被害者の側に連帯の力を届ける試みである。
技術と人間の尊厳
「技術の進歩は、共通善への奉仕のために用いられなければならない。……技術が人間の尊厳を損なうために用いられるとき、それは本来の目的から逸脱している」 — 教皇フランシスコ 回勅『兄弟の皆さん（Fratelli Tutti）』（2020年）33項
教皇フランシスコは、技術の目的が共通善への奉仕にあることを強調する。画像生成技術が人間の尊厳を踏みにじるために使われている現状に対し、同じ技術を被害者保護のために活用することは、技術を本来あるべき方向へ引き戻す行為である。
女性の尊厳
「女性の人格としての尊厳は、あらゆる差別と搾取から保護されなければならない。……女性をモノとして扱うすべての態度は、人間の尊厳に対する侮辱である」 — 教皇ヨハネ・パウロ二世 使徒的書簡『女性の尊厳（Mulieris Dignitatem）』（1988年）10項
ディープフェイク・ポルノの被害者の99%が女性であるという事実は、この問題がジェンダーに基づく暴力の一形態であることを示している。女性の身体を同意なく性的オブジェクトとして合成する行為は、教会が繰り返し非難してきた「人間をモノとして扱う」態度の最も先鋭的な表れである。
出典：『カトリック教会のカテキズム』2354項／ヨハネ・パウロ二世 回勅『真の開発とは（Sollicitudo Rei Socialis）』39項（1987年）／フランシスコ 回勅『兄弟の皆さん（Fratelli Tutti）』33項（2020年）／ヨハネ・パウロ二世 使徒的書簡『女性の尊厳（Mulieris Dignitatem）』10項（1988年）
今後の課題
被害者の尊厳を技術で守る取り組みは、まだ始まったばかりです。ここから先には、技術・法・社会の各領域で取り組むべき課題が広がっています。
検出精度の向上と偽陽性対策
合成画像の検出アルゴリズムを改良し、偽陽性率を1%以下に抑える。合法的な風刺やアート表現を誤検出しないための文脈理解モデルの研究を進める。
国際協調と法整備
ディープフェイク・ポルノを明示的に禁止する各国法制の比較分析を行い、国境を越えた削除要請の法的フレームワークを提言する。EU・英国・韓国の先行法制を参照する。
被害者の心理的支援との統合
削除要請の自動化と並行して、被害者のトラウマケアを提供するワンストップ支援モデルを設計する。技術的保護と心理的回復の両輪による包括的な被害者支援を目指す。
濫用防止の制度設計
自動巡回システムが検閲や監視に転用されないための制度的安全装置を設計する。独立監査機関の設置、運用ログの公開、定期的な人権影響評価の義務化を提言する。
「技術は人を傷つける道具にも、人を守る盾にもなる。その選択は、私たち自身の手の中にある。」