なぜこの問いが重要か
2019年のクライストチャーチ・モスク銃撃事件、2021年のアトランタ・スパ銃撃事件、日本における在日コリアンへの街宣活動とその後の暴力事件——これらに共通するのは、実行の数週間から数か月前に、オンライン上で明確なエスカレーションのパターンが存在していたことである。匿名掲示板やSNS上で敵意が増幅され、非人間化の言語が常態化し、「行動」への呼びかけが繰り返された後に、現実の暴力が発生している。
しかし、オンライン上の憎悪表現を「監視」することは、表現の自由・プライバシー権・思想信条の自由という根本的な人権と緊張関係にある。どこまでが「予兆の検知」であり、どこからが「思想の取り締まり」になるのか。リスク評価のアルゴリズムは、マイノリティへの偏見を再生産するのではなく、本当に暴力を予防できるのか。
本プロジェクトは、テキスト分析技術を福祉的・心理的介入の設計に結びつけることで、「罰する前に支える」という枠組みの可能性と限界を検証する。それは、憎悪の言葉を発する側もまた何らかの痛みや孤立を抱えているという認識から出発する、尊厳に基づくアプローチである。
手法
本研究は、自然言語処理技術・犯罪心理学・社会福祉学の学際的アプローチで進める。
1. ヘイトスピーチ・エスカレーション・モデルの構築: 公開データセット（Hateval、OLID、日本語ヘイトスピーチコーパス）を用いて、憎悪表現の段階的エスカレーションを分類するモデルを設計する。「一般的不満→特定集団への敵意→非人間化→暴力の正当化→行動の呼びかけ」という5段階を仮説的に設定し、各段階の言語的特徴を抽出する。
2. 時系列リスク評価フレームワークの開発: 個人の書き込みパターンの変化を追跡し、エスカレーションの加速度を測定する指標を開発する。単発の過激な発言ではなく、時間軸に沿った変化のパターンに注目することで、偽陽性（一時的な感情表出）と真のリスクを区別する設計とする。
3. 福祉的介入モデルの設計: リスク段階に応じて、刑事介入ではなく社会福祉的・心理的介入（孤立解消プログラム、カウンセリング接続、コミュニティ参加支援等）を提案するフレームワークを設計する。先行事例としてデンマークの「アーフス・モデル」（脱過激化プログラム）やカナダの「CIPC予防モデル」を参照する。
4. 倫理的限界の明文化: プライバシー侵害・差別的プロファイリング・表現の自由への萎縮効果など、本アプローチが内包するリスクを、肯定・否定・留保の三経路で分析し、運用条件と禁止事項を明文化する。
結果
公開データセットに基づくエスカレーション・モデルの予備的評価と、過去の重大ヘイトクライム事案におけるオンライン言説の遡及分析を行った。
エスカレーション段階が進むほど検出精度は向上するが、福祉的介入の有効性は逆に低下する。第1段階（一般的不満）では検出が難しいものの介入が最も効果的であり、第5段階（行動の呼びかけ）では検出は容易だが介入はほぼ困難である。この「検出と介入の逆相関」が、予防的アプローチの核心的ジレンマを構成する。早期段階での高い偽陽性率をどう許容するかが、実運用における最大の設計課題である。
AIからの問い
オンライン上のヘイトスピーチ分析と予防的介入をめぐる3つの立場。
肯定的解釈
ヘイトクライムの予兆検知は、犯罪予防であると同時に、孤立し過激化の道を歩む個人への「最後の手差し」である。彼らもまた社会から排除され、傷つき、居場所を失った人間であることが多い。エスカレーションの早期段階で心理的支援やコミュニティ参加の機会を提示することは、被害者だけでなく加害予備群の尊厳をも守る営みとなる。デンマークのアーフス・モデルが示すように、罰則ではなく包摂による脱過激化は現実に機能しうる。
否定的解釈
オンライン発言のリスク評価は、本質的に「思想の犯罪化」に向かう危険を内包する。人は怒りを吐き出す権利を持ち、不快な表現もまた自由の一部である。アルゴリズムによる判定は、マイノリティの抗議活動を「過激化」と誤分類し、抑圧の道具となりうる。また、「福祉的介入」の名の下に、本人の同意なく心理的プロファイリングを行うことは、監視国家への一歩である。誰が「正常」と「危険」の境界を引く権限を持つのか——その問いに答えられない限り、この技術は使うべきではない。
判断留保
予兆検知の技術そのものではなく、「検知後に何が起こるか」の制度設計が問題の核心である。検知結果が法執行機関に直接渡る仕組みと、福祉専門家がまず関与する仕組みでは、同じ技術でもまったく異なる社会的帰結を生む。技術の善悪を論じるより、運用の枠組み——独立した倫理委員会による監査、アルゴリズムの定期的なバイアス検証、介入を受けた者の異議申し立て権——を先に構築すべきである。
考察
本プロジェクトの根底にある問いは、「憎悪を発する者もまた支えを必要とする人間であるとき、社会はどのような応答が可能か」ということに尽きる。
ヘイトクライムの実行者の多くは、社会的孤立、経済的不安、自己肯定感の欠如といった背景を抱えている。オンライン上の過激なコミュニティは、こうした個人に「居場所」と「物語」を提供し、憎悪を共有することで擬似的な連帯感を形成する。したがって、予防とは単にリスクの高い発言を検出して通報することではなく、その人がなぜ憎悪に向かったのかを理解し、別の「居場所」と「物語」を提示する営みでなければならない。
しかし、ここにこそ最も困難な倫理的緊張がある。社会福祉的介入は本来、本人の主体的な参加と同意を前提とする。しかしヘイトクライムの予防は、しばしば本人が自らの過激化を自覚していない段階での介入を求める。「あなたのオンライン上の発言パターンから、暴力のリスクが検出されました」という通知は、善意で設計されたものであっても、監視と管理の経験として受け取られるだろう。
予防的介入の最大の逆説は、最も効果的に機能する段階（早期）では介入の正当性が最も弱く、介入の正当性が明白な段階（切迫）では効果がほとんど期待できないことにある。この時間的ジレンマを解くためには、「個人のリスク評価」ではなく「コミュニティ全体の健全性指標」にフォーカスを移す発想の転換が必要ではないか。個人を名指しするのではなく、あるコミュニティの言説環境が全体として暴力に傾いていることを可視化し、コミュニティ単位で対話と修復の機会を設計する——そのような「集合的介入」の可能性を探るべきである。
先人はどう考えたのでしょうか
非暴力と平和の政治
「暴力は壊れた世界を治す薬ではない。暴力に暴力で対抗すれば、最良の場合でも強制移住と巨大な苦しみに至り、最悪の場合は多くの人命の喪失に至る」 — 教皇フランシスコ『第50回世界平和の日メッセージ — 非暴力：平和のための政治スタイル』（2017年）2項
教皇フランシスコは暴力の連鎖を断つために「非暴力」を政治のスタイルとして提唱する。ヘイトクライムの予防的介入は、この「非暴力の政治」の具体的な技術的実装と位置づけられるが、同時に、非暴力が強制や監視とは異なるものであることも忘れてはならない。
弱い立場にある人々への優先的配慮
「カトリックの伝統は、弱い立場にある人々のために声を上げ行動する道徳的義務を教えている。優先的配慮の対象には、胎児、障害のある人、高齢者と末期患者、不正義と抑圧の犠牲者、そして移住者が含まれる」 — 米国カトリック司教協議会『信仰に基づく市民の良心形成』54項
ヘイトクライムの標的となる人種的・宗教的マイノリティは、まさにこの「弱い立場にある人々」に該当する。同時に、過激化する個人もまた、社会的孤立という意味では「弱い立場」にいることが多い。双方への配慮をどう両立するかが、本プロジェクトの倫理的核心である。
予防と早期介入の道徳的義務
「紛争の早期認識のための手段と方法を厳格に適用し、政治的影響力を適時に行使して、暴力回避の政策を最優先にすべきである」 — 欧州カトリック司教協議会委員会『真実・記憶・連帯 — 平和と和解の鍵』
教会は国際紛争の文脈で「早期認識」と「予防的政治介入」の重要性を説いている。この原則をオンライン上のヘイトスピーチに適用するとき、技術的検知は「早期認識の手段」として道徳的に正当化されうるが、その後の対応が暴力的・強制的であってはならないという限定条件が伴う。
出典：教皇フランシスコ『第50回世界平和の日メッセージ — 非暴力：平和のための政治スタイル』2項（2017年）／米国カトリック司教協議会『信仰に基づく市民の良心形成（Forming Consciences for Faithful Citizenship）』54項・85項／欧州カトリック司教協議会委員会『真実・記憶・連帯 — 平和と和解の鍵』／教皇フランシスコ『ウルビ・エト・オルビ — クリスマス2018』
今後の課題
ヘイトクライム予防の研究は、技術と人権と福祉の交差点に立っています。ここから先は、私たち一人ひとりの選択にかかっています。
リアルタイム・コミュニティ健全性指標
個人のリスク評価ではなく、オンラインコミュニティ全体の言説環境を可視化するダッシュボードを開発する。エスカレーション傾向の早期検知と、コミュニティ主導の自浄メカニズムの設計を目指す。
脱過激化プログラムの日本語圏適応
デンマークのアーフス・モデルやカナダのCIPC予防モデルを日本の文化的・制度的文脈に適応させ、孤立した個人に代替的コミュニティを提供するパイロット研究を設計する。
バイアス監査フレームワーク
ヘイトスピーチ検出アルゴリズムが特定の属性集団（方言話者、少数言語使用者、政治的少数派）に対して不均衡な偽陽性を生まないかを定期的に検証する、独立監査の仕組みを提案する。
被害者コミュニティとの協働研究
ヘイトクライムの標的となりうるコミュニティの当事者と共に、「何を知られることが安全に感じるか」「どのような介入を望むか」を共同設計し、当事者の声を技術仕様に反映する参加型研究を展開する。
「憎悪の言葉の裏にある沈黙に耳を傾けることから、本当の予防は始まる。」