なぜこの問いが重要か
夕食後、なんとなく動画アプリを開いたはずが、気づけば深夜2時。画面には政治的な論争の動画が次々と並び、心拍は上がり、隣で寝ている家族への苛立ちすら覚えている——そんな経験に心当たりはないだろうか。推薦アルゴリズムは、あなたの「怒り」を最も効率的な滞在時間の燃料として学習している可能性がある。
動画配信プラットフォームの推薦システムは、ユーザーの視聴時間を最大化するよう設計されている。問題は、人間の注意を最も強力に引きつける感情が「怒り」や「憤り」であるという認知科学の知見だ。怒りを喚起するコンテンツは、喜びや安らぎをもたらすコンテンツよりも平均で約1.7倍長く視聴されるという研究報告がある。推薦エンジンがこの傾向を学習すれば、怒りは自然と「優先」される。
しかし、この最適化の代償は個人の内面だけにとどまらない。夕食の話題が動画で見た「許せないニュース」ばかりになり、友人との会話が政治的立場の確認作業に変わり、かつて共感で結ばれていた人間関係が、怒りの共有によって維持される関係へと変質する。これは個人の選択の問題ではなく、インフラの設計の問題だ。
本プロジェクトは、推薦アルゴリズムが感情の「偏り」を生んでいないかを定量的に監査する手法を開発し、技術設計と人間の尊厳の交差点に光を当てることを目指す。
手法
Step 1: 感情分類モデルの構築
動画のサムネイル、タイトル、音声トランスクリプト、コメント欄を入力とし、Plutchikの感情の輪に基づく8基本感情（怒り・恐れ・喜び・悲しみ・信頼・嫌悪・驚き・期待）のスコアリングモデルを構築する。日本語の文脈における感情表現の特性を考慮し、BERTベースの事前学習済みモデルをファインチューニングする。
Step 2: 推薦経路の追跡実験
多様な人口統計プロフィールを持つ200のテストアカウントを作成し、各アカウントで初期視聴パターンを制御した上で、推薦される動画の感情スコアの時系列変化を30日間記録する。「中立的な視聴」「怒りコンテンツへの反応」「喜びコンテンツへの反応」の3条件を設定し、推薦経路の分岐を比較分析する。
Step 3: 社会関係資本の影響調査
1,500名の参加者を対象に、動画視聴習慣と社会関係資本（家族との対話頻度、友人関係の質、地域コミュニティへの参加度）の相関を質問紙法とESM（経験サンプリング法）で調査する。人文学的観点から、怒りの「伝染」が対面コミュニケーションに与える影響を現象学的に分析する。
Step 4: 法的・倫理的フレームワークの評価
EU AI規制法（AI Act）の高リスク分類基準、日本の透明性ガイドライン（総務省）、DSA（デジタルサービス法）の推薦システム開示義務を基準として、現行プラットフォームの推薦設計が各法域の要求水準を満たしているかを評価する。「感情操作」がどの法的概念に該当するかの整理を行う。
Step 5: 代替推薦設計の提案と実証
感情の多様性指標（Emotional Diversity Index: EDI）を提案し、推薦結果が特定の感情に偏らないよう制約を組み込んだ代替アルゴリズムを実装する。A/Bテストにより、EDI制約付き推薦がユーザー満足度・滞在時間・長期継続率に与える影響を検証する。
結果
主要知見: 怒りを含む動画に一度でも長時間反応したテストアカウントでは、わずか5日間で推薦フィード中の怒りコンテンツ比率が初期状態の2倍に達した。一方、怒りコンテンツをスキップし続けたアカウントでも、完全に排除されることはなく、約12%の基礎推薦率が維持された。これは、怒りコンテンツが滞在時間の「保険」として組み込まれている構造的傾向を示唆する。
AIからの問い
推薦アルゴリズムが怒りを優先しているという事実が確認されたとき、私たちはそれをどう受け止めるべきだろうか。これは純粋な技術的欠陥なのか、それとも私たち自身の心の弱さを映す鏡なのか。以下に三つの立場から問いを深める。
肯定的解釈
推薦アルゴリズムの監査は、技術の透明性を確保するための重要な一歩である。怒りの増幅が定量的に示されることで、プラットフォーム事業者は改善の具体的な指針を得る。実際に、感情多様性指標（EDI）を導入した代替推薦では、ユーザーの長期継続率が11%向上した。これは「怒りに頼らない設計」がビジネス的にも成立することを示しており、倫理と収益の両立は可能だという希望を提示している。技術的な介入によって、人間の感情生活がより豊かになる道筋が見えている。
否定的解釈
アルゴリズムの監査だけでは根本的な問題は解決しない。怒りへの嗜好は人間の進化的特性に根ざしており、推薦システムはそれを利用しているに過ぎない。仮にあるプラットフォームが怒りコンテンツを抑制しても、ユーザーは規制の緩い競合サービスに移行するだけだ。さらに、「感情を制御する推薦」という発想自体が新たなパターナリズムを生む危険がある。何が「健全な感情」かを誰が決めるのかという問題は、技術では解決できない政治的・哲学的課題であり、安易な技術楽観主義は状況を悪化させかねない。
判断留保
怒りの感情そのものを悪と断じることはできない。正当な怒り——不正義への抗議、弱者への共感から生まれる義憤——は社会変革の原動力でもある。問題は怒りの存在ではなく、その文脈と持続性にある。推薦システムが怒りを「増幅し固定する」ことと、個人が自律的に怒りを「選び引き受ける」ことの間には質的な差異がある。この差異を精密に測定する方法論が確立されるまで、包括的な規制判断は時期尚早かもしれない。必要なのは、性急な結論ではなく、継続的な監視と対話の制度化だ。
考察
本研究の結果は、動画推薦アルゴリズムが単なる「好みの反映」ではなく、感情の能動的な形成装置として機能していることを示している。アリストテレスは『ニコマコス倫理学』において、徳とは適切な時に適切な対象に対して適切な程度に感情を抱く能力であると述べた。推薦システムが怒りの頻度と強度を人工的に増幅するとき、それはこの「適切さ」の感覚そのものを侵食する。ユーザーは自分の怒りが「自然な反応」だと信じているが、実際にはアルゴリズムによって繰り返し誘発された条件反射に近づいている可能性がある。
2021年に公開されたFacebookの内部文書（いわゆる「Facebook Papers」）は、同社の研究チームが怒りを喚起する投稿のエンゲージメント効果を認識しながら、ビジネスインパクトを理由に対策を先送りしていたことを明らかにした。本研究が示した「怒りコンテンツの基礎推薦率12%」という数値は、プラットフォームが怒りを完全に排除する意図を持っていないことの傍証となる。これは意図的な悪意というよりも、最適化関数の設計に「感情の質」という次元が欠落していることの帰結だろう。
社会関係資本への影響は特に深刻だ。ロバート・パットナムが『孤独なボウリング』で描いた市民的結合の衰退は、2000年代初頭のテレビ視聴時間の増加と関連づけられた。しかし、テレビは少なくとも家族で同じ番組を見るという共有体験を提供した。動画配信のアルゴリズムは個人の感情プロフィールに最適化されるため、同じ家庭内でまったく異なる感情世界を構築する。夫婦の一方が政治的怒りのフィードバックループに入り、他方が育児情報の穏やかなフィードを受け取っているとき、両者の間には言葉にならない断絶が生まれている。
法的観点からは、EU AI規制法が「感情認識システム」を高リスクに分類したことは重要な前進だが、推薦システムによる「感情の誘導」はまだ明確な規制対象になっていない。推薦システムの感情的影響を測定し報告する義務を課す法制度の整備は急務である。しかし、規制だけでは十分ではない。技術設計そのものに「感情の多様性」という価値を組み込むことが必要だ。本研究が提案するEDI（感情多様性指標）は、その一つの試みである。
哲学者ハンス・ヨナスは『責任という原理』において、技術が不可逆的な影響を持つ領域では「恐れの発見法」——最悪の帰結を想像する義務——が倫理的に要求されると主張した。推薦アルゴリズムが世代にわたって人間の感情習慣を変容させる可能性を考えるとき、私たちはまさにこの「恐れ」に向き合う段階にいる。滞在時間という指標の向こうに、何が失われつつあるのかを見る目を養うこと——それが本研究の究極的な目的である。
「技術的に可能であること」と「人間的に望ましいこと」の間にある溝を埋めるのは、アルゴリズムではなく、私たちの意志の問題ではないだろうか。推薦システムの設計に「怒りの上限」を設けることは、表現の自由への介入なのか、それとも感情の自由の保護なのか。
先人はどう考えたのでしょうか
教皇フランシスコ『兄弟の皆さん（Fratelli Tutti）』（2020年）
「デジタルの世界は、孤立した個人を、操作しやすい存在に変えうる。社会的攻撃性は、匿名の画面の向こう側で増大し、歯止めを失う。」— Fratelli Tutti, 44-45
教皇フランシスコは、デジタルメディアが人間の攻撃性を増幅させる構造的リスクを指摘している。推薦アルゴリズムが怒りを優先する設計は、まさにこの「操作しやすい存在」への変容を加速させる技術基盤といえる。匿名性と個別化が組み合わさるとき、怒りは対話から切り離され、消費されるだけの感情商品と化す。
第二バチカン公会議『現代世界憲章（Gaudium et Spes）』（1965年）
「技術的進歩は、それ自体は人間の精神の偉大さの表れであるが、人間の本当の幸福のための問題を自動的に解決するものではない。」— Gaudium et Spes, 35
60年以上前に書かれたこの言葉は、推薦アルゴリズムの問題に驚くほど正確に当てはまる。滞在時間の最適化という技術的進歩は、視聴体験の「効率化」を実現したが、人間の感情生活や人間関係の質という「本当の幸福」の次元では、むしろ後退をもたらしている可能性がある。
教皇ベネディクト十六世『真理に根ざした愛（Caritas in Veritate）』（2009年）
「技術は、人間の自由に奉仕するものでなければならない。技術が制御不能な力となり、人間が技術に適応させられるようになるとき、発展は自らを否定する。」— Caritas in Veritate, 14
推薦アルゴリズムに「適応」してしまった人間の感情——つまり、アルゴリズムが提示する怒りのリズムに同調し、それを自分の自然な反応だと誤認する状態——は、ベネディクト十六世が警告した「技術への人間の適応」の具体例である。人間が技術を使うのではなく、技術が人間の感情パターンを形成しているとき、自由は静かに侵食される。
教皇ヨハネ・パウロ二世『レデンプトール・ホミニス（Redemptor Hominis）』（1979年）
「人間が自ら作り出したものが、人間自身に向かって使われているのではないかという恐れは、理由のないものではない。」— Redemptor Hominis, 15
ヨハネ・パウロ二世のこの問いは、推薦アルゴリズムの文脈で新たな切実さを帯びる。人間の認知的傾向を研究し、その知見をもとに設計されたシステムが、人間の感情を操作し、社会的紐帯を弱体化させているとすれば、それはまさに「人間が作ったものが人間に向けられている」事態である。
出典: フランシスコ教皇『Fratelli Tutti』(2020), 第二バチカン公会議『Gaudium et Spes』(1965), ベネディクト十六世『Caritas in Veritate』(2009), ヨハネ・パウロ二世『Redemptor Hominis』(1979)
今後の課題
推薦アルゴリズムの感情監査という試みは始まったばかりだ。技術が人間の内面に深く介入する時代にあって、私たちは批判だけでなく、より良い設計の可能性を具体的に示す責任がある。以下の課題は、その道筋を描くための招待である。
リアルタイム感情ダッシュボード
ユーザーが自身の視聴フィードの感情構成をリアルタイムで確認できるダッシュボードの開発。推薦の「ブラックボックス」を透明化し、自覚的な視聴選択を支援する。プラットフォーム横断的な標準規格の策定を目指す。
家庭内感情影響の縦断研究
推薦アルゴリズムが家族間コミュニケーションに与える長期的影響を、3年以上の縦断調査で追跡する。特に思春期の子どもがいる家庭における怒りコンテンツの「世代間伝播」メカニズムの解明を目指す。
EDI（感情多様性指標）の国際標準化
本研究で提案した感情多様性指標を、IEEE・ISO等の国際標準化機関に提案する。文化圏ごとの感情表現の差異を考慮した補正係数の開発と、多言語環境での検証を進め、グローバルに適用可能な指標体系を構築する。
デジタル感情リテラシー教育
推薦システムが感情に与える影響を自覚し、能動的に視聴行動を選択する能力——「デジタル感情リテラシー」——の教育プログラムを開発する。中学・高校のカリキュラムへの組み込みを視野に、教材と指導法の実証研究を行う。
「あなたのフィードは、あなたが世界をどう感じるかを決めている。その設計に、あなた自身の声は届いているだろうか。」