SNS炎上で消える文脈を復元するAI

なぜこの問いが重要か

あなたのタイムラインに、ある著名人の「問題発言」がスクリーンショット付きで流れてきたとする。数秒で読める短い文面、その下には怒りのリプライが何千件も連なっている。あなたもまた、反射的に「これはひどい」と感じないだろうか。しかし、もしその発言の前後30秒を聴くことができたなら——あるいは発言者が直後に付け加えた補足を知ることができたなら——あなたの判断は変わっていたかもしれない。

SNSにおける炎上の多くは、文脈の切断から始まる。発言の一部だけが切り取られ、元の意図から切り離された断片が爆発的に拡散する。2024年の調査では、日本国内で社会的注目を集めた炎上事案の約67%において、拡散の起点となった投稿が元発言の文脈を大幅に省略していたことが報告されている。私たちは文脈なき情報で他者を裁いているのだ。

この問題は個人の名誉だけに留まらない。切り取り拡散による集団的糾弾は、発言者の社会的生命を奪い、時にはその肉体的な生命をも脅かす。2020年代以降、SNS炎上を契機とした自死の事例は国内外で報告されており、デジタル空間での「正義」の行使が取り返しのつかない結果をもたらしうることは、すでに明白な事実である。

では、技術はこの問題にどう向き合えるのか。発言の前後関係を自動的に復元し、拡散された断片に「文脈」を添えるAIがあったとすれば、それは集団的暴走の歯止めとなりうるのか。あるいは、そのAI自体が新たな権力となり、「正しい文脈」を独占する装置になってしまうのか——本プロジェクトは、この両面を直視しながら探究を進める。

手法

結果

AIからの問い

SNS上の炎上に際して文脈を自動復元するAIが実現したとき、それは私たちの社会にとって善きものとなるか。ここでは、三つの異なる立場からこの問いに向き合う。

考察

SNS炎上における文脈の消失は、技術的問題であると同時に、本質的には人間の認知と共同体のあり方に関わる問題である。古代ギリシャの哲学者アリストテレスは『弁論術』において、説得が成立するためにはロゴス（論理）・パトス（感情）・エトス（話者の人格）の三要素が揃わねばならないと論じた。SNS上の切り取りは、まさにこの三要素のうちエトスとロゴスの文脈を剥奪し、パトス——とりわけ怒りの感情——のみで判断を駆動する状況を作り出す。

歴史的に見れば、文脈を切断された言葉が個人や集団を破滅に追い込んだ事例は枚挙にいとまがない。1894年のドレフュス事件では、断片的な「証拠」の公開と新聞メディアによる扇動が、一人の無実の軍人を社会的に抹殺した。エミール・ゾラの「私は弾劾する」は、切り取られた「事実」に対して文脈を復元しようとする試みであった。現代のSNS炎上は、このような集団的誤審のメカニズムが、桁違いの速度と規模で再現される現象であるともいえる。

一方、ドイツの哲学者ハンス＝ゲオルク・ガダマーが『真理と方法』で論じた「地平の融合」は、理解というものが常に解釈者自身の前提（先入見）と対象の地平との出会いによって成立することを示した。この観点からすれば、「客観的で中立的な文脈復元」というもの自体がフィクションである可能性を認めざるをえない。AIが復元する文脈もまた、学習データとアルゴリズムの設計に埋め込まれた特定の「先入見」に基づいている。したがって、文脈復元AIの設計にあたっては、自らが一つの解釈を提示しているにすぎないという自己限定の姿勢（「この復元はひとつの参考情報です」という明示）が不可欠となる。

実験結果が示した41%という判断変容率は、希望と警戒の両方を呼び起こす数字である。希望は、文脈の力が今なお人間の判断を動かしうるという事実にある。警戒は、残りの59%——文脈を知ってもなお判断を変えなかった人々——の存在にある。彼らの判断が「文脈を踏まえた上での熟慮」なのか、「認知バイアスによる固着」なのかは、本研究では完全には解明できていない。社会心理学が明らかにしてきた確証バイアスや動機づけられた推論（motivated reasoning）の知見を踏まえれば、文脈の提示だけでは不十分であることは明らかだ。

最終的に、文脈復元AIの開発は、「正しい判断を機械が代行する」ことを目指すべきではない。むしろ、人間が自ら判断を立ち止まって見つめ直す「間（ま）」を技術的に挿入する試みとして理解されるべきである。日本語の「間」は、空白の時間でありながら、そこにこそ本質的な意味が宿る概念である。SNSの即時反応文化に「間」を取り戻すこと——それは技術の問題であると同時に、私たちの文化的知恵の再発見でもある。