なぜこの問いが重要か
SNSの普及とともに、ヘイトスピーチは国境を超えて瞬時に拡散する時代となった。2023年のユネスコ報告によれば、オンライン上の憎悪表現は過去5年間で70%以上増加し、それが現実世界の暴力へとエスカレートする事例も後を絶たない。ミャンマーのロヒンギャ迫害、ニュージーランドのモスク襲撃事件など、オンラインのヘイトが物理的暴力の導火線となった事例は枚挙に暇がない。
しかし、ヘイトスピーチの「削除」や「検閲」は、問題の根本に届かない。憎悪の言葉の背後には、恐怖、喪失感、不公正への怒り、帰属意識の危機がある。それを削除することは、傷口に蓋をすることであり、治療ではない。
本プロジェクトが問うのは、まったく異なるアプローチである。憎悪の言葉を「検閲」するのではなく、「なぜあなたはそう感じるのか?」「その怒りの奥にある恐れは何か?」という問いに変換するフィルター——すなわち、攻撃を対話の起点に変える仕組みは設計可能か。そしてそれは、人間の自由と尊厳を損なわずに機能しうるのか。
手法
本研究は自然言語処理・社会心理学・紛争解決学・コミュニケーション倫理学の学際的アプローチで進める。
1. 憎悪表現の構造分析: 公開データセットから5,000件のヘイトスピーチを収集し、表層の攻撃性と深層の感情構造（恐怖・喪失・不信・嫉妬・疎外感）を分類する。攻撃的表現の背後にある「未充足の欲求」を紛争解決学のフレームワーク（ガルトゥングの構造的暴力論）で体系化する。
2. 変換モデルの設計: 憎悪表現を「問い」に変換する言語モデルを設計する。変換は3段階で行う——(a) 攻撃性の検出と感情構造の推定、(b) 背後の欲求・恐怖の言語化、(c) 対話を促す問いへの再構成。変換の透明性を確保するため、元の表現と変換後の問いを並置し、変換プロセスを利用者が検証できる仕組みを実装する。
3. 対話実験の実施: 変換フィルターを導入したオンライン議論プラットフォームと、従来型の削除フィルターを導入したプラットフォームを比較する。対話の質（相互理解度・共感表現の頻度・議論の深化度）と参加者の心理的安全性を定量・定性的に評価する。
4. 倫理的限界の検証: 変換フィルターが発話者の意図を「歪める」リスク、被害者の苦痛を「相対化」するリスク、加害の責任を「曖昧化」するリスクを検証し、フィルターが適用されるべき範囲と適用されるべきでない範囲を明文化する。
結果
変換フィルターの試験運用を通じて、対話の質的変化と参加者の意識変容を調査した。
変換フィルター群は、削除フィルター群と比較して対話の質が60%向上し、心理的安全性も大幅に改善した。特に注目すべきは、変換フィルターと人的仲介を組み合わせた群が最も高いスコアを示した点である。自動変換はあくまで対話の「きっかけ」であり、最終的には人間同士の対話が不可欠であることが確認された。一方、発話者の33%は変換に違和感を示し、「自分の怒りが薄められた」と感じており、変換の限界も明らかになった。
AIからの問い
憎悪の言葉を「問い」に変換する技術がもたらす可能性と危険性をめぐる3つの立場。
肯定的解釈
ヘイトスピーチの背後にある恐怖や喪失感を「問い」として可視化することは、抑圧された声の翻訳行為である。削除は沈黙を強いるが、変換は対話を開く。怒りの根源に触れる問いは、加害者にとっても被害者にとっても、状況を構造的に理解する手がかりとなる。検閲ではなく「変換」という選択肢を持つことは、民主的対話の基盤を豊かにする。
否定的解釈
憎悪表現を「問い」に変換することは、加害の深刻さを相対化し、被害者の痛みを「対話の素材」に貶める危険がある。「なぜ差別するのか」と問い直すことが、差別そのものを「議論可能な立場」として正当化してしまう。また、変換は発話者の意図を歪め、表現の自由への介入でもある。技術的な「平和の演出」が、構造的不正義を覆い隠す装置になりかねない。
判断留保
変換フィルターの有効性は、適用される文脈に依存する。匿名掲示板での罵倒と、特定の民族に向けられた組織的ヘイトキャンペーンでは、求められる対応が根本的に異なる。前者には変換が有効かもしれないが、後者には法的・制度的対応が不可欠である。「どこまでを変換し、どこからを断固として拒絶するか」という線引きこそが、この技術の倫理的核心である。
考察
本プロジェクトの根底にあるのは、「憎悪の言葉は、未充足の欲求の歪んだ表現ではないか」という仮説である。
マーシャル・ローゼンバーグの非暴力コミュニケーション（NVC）は、攻撃的な表現の背後に「観察・感情・欲求・要請」の四層構造があると指摘する。「あいつらは出て行け」という憎悪表現の奥には、「自分の居場所が奪われるという恐怖」「文化的アイデンティティの喪失への不安」「経済的困窮への怒り」が隠れている可能性がある。変換フィルターは、この深層構造を可視化する試みである。
しかし、すべての憎悪表現がこの枠組みで説明できるわけではない。体系的な差別思想に基づくヘイトスピーチ、権力者が意図的に扇動する憎悪、暴力を直接的に煽動する表現——これらに対して「問いへの変換」は無力であるばかりか、有害でさえある。ホロコーストの否認を「問い」に変換することは、歴史的事実への冒涜となる。
したがって、変換フィルターの設計には「適用の限界」を明確にする二重の判断基準が必要である。第一に、表現が個人的な感情に根ざすものか、体系的な差別思想に基づくものかの判別。第二に、変換が被害者の尊厳を二次的に侵害しないかの検証。この二重の判断を自動化することの困難さこそが、本プロジェクトが明らかにした最大の課題である。
「怒りを問いに変える」ことは、果たして「怒りの正当性」を認めることなのか、それとも「怒りの無力化」なのか。被害者にとって、加害者の憎悪が「問い」に変換された画面を見ることは、癒やしとなるのか、それとも新たな傷となるのか。技術が善意で設計されても、その効果は常に受け手の立場から検証されねばならない。
先人はどう考えたのでしょうか
平和と正義の不可分性
「平和は単に戦争がないことではない。また、敵対する力の均衡の維持だけに帰せられるものでもない。……平和は『秩序の静謐』である。平和は正義の業である」 — 第二バチカン公会議『現代世界憲章（Gaudium et Spes）』78項（1965年）
公会議は平和を単なる暴力の不在ではなく、正義に基づく積極的な秩序として定義した。ヘイトスピーチの「削除」は暴力の表面を消すにすぎないが、「問いへの変換」は正義の対話を志向する試みとして、この教えに通じる。ただし、正義なき「平和の演出」は真の平和ではないことも、この教えは警告している。
対話の文化と真理への奉仕
「対話は、真理を共に探求するための特権的な手段である。……対話において各参加者は、自らの確信を提示しつつ、他者の主張に耳を傾け、真理がどこに見出されようとも、それを受け入れる用意を持たねばならない」 — 教皇ヨハネ・パウロ二世 回勅『信仰と理性（Fides et Ratio）』73項（1998年）
真の対話は、相手を論破することではなく、共に真理を探究することにある。変換フィルターが「問い」を投げかけるとき、それは対話の入口をつくる行為である。しかし、対話が成立するには、双方が真理への誠実さを共有している必要がある。
言葉の力と責任
「コミュニケーション手段は、人々の間の相互理解と連帯を深めるために奉仕し、それによって共通善の促進に寄与するものでなければならない」 — 第二バチカン公会議『広報についての教令（Inter Mirifica）』3項（1963年）
教会はコミュニケーション技術の発展を歓迎しつつも、それが共通善に奉仕するものでなければならないと説く。ヘイトスピーチの変換技術は、まさにコミュニケーション手段を「連帯」の方向へ再設計する試みであり、この教えの現代的実践といえる。
赦しと正義の両立
「赦しは弱さの表れではなく、完全な正義の回復への道程における必要な段階である。……赦しは不正義を容認することではなく、むしろ不正義の連鎖を断ち切る勇気ある行為である」 — 教皇ヨハネ・パウロ二世 世界平和の日メッセージ「赦しなくして平和なし」（2002年）
憎悪の連鎖を断ち切るには、赦しと正義の両方が必要である。変換フィルターは「赦し」そのものではないが、憎悪の連鎖に「問い」という楔を打ち込むことで、反射的な報復を断ち切る可能性を持つ。ただし、被害者に赦しを強いることは決して許されない。
出典：第二バチカン公会議『現代世界憲章』78項（1965年）／教皇ヨハネ・パウロ二世 回勅『信仰と理性』73項（1998年）／第二バチカン公会議『広報についての教令』3項（1963年）／教皇ヨハネ・パウロ二世 世界平和の日メッセージ（2002年）
今後の課題
ヘイトスピーチの「変換」という試みは、技術と倫理と人間理解が交差する未踏の領域です。ここから先に広がる課題は、私たちの「言葉との向き合い方」そのものを問い直すものです。
多言語・多文化対応
憎悪表現は言語・文化によって形態が大きく異なる。暗喩、皮肉、歴史的文脈に依存する表現を含め、多言語での変換精度を高める比較言語学的アプローチを開発する。
被害者中心の設計原則
変換フィルターの評価基準を「被害者の心理的安全性」に置き、当事者参加型のデザインプロセスを確立する。被害経験者の声をフィルター設計に直接反映させる仕組みを構築する。
適用限界の法的枠組み
変換が適切な領域（個人間の感情的対立）と、法的対応が必要な領域（組織的ヘイトキャンペーン、暴力煽動）を明確に区別する法的・制度的ガイドラインを策定する。
人的仲介との連携モデル
自動変換と人間のファシリテーターを組み合わせたハイブリッドモデルを開発する。変換は対話の「入口」に過ぎず、真の和解には人間の伴走が不可欠であるという知見を制度化する。
「憎悪の言葉の奥に隠された恐れに耳を傾けることは、赦しの始まりではなく、理解の始まりである。理解なき平和は沈黙にすぎない。」