なぜこの問いが重要か
日本では2023年、SNSを通じた児童の性的被害の認知件数が過去最多の1,665件に達した。だが、これは氷山の一角にすぎない。子どもが被害を認識できず通報に至らないケース、恥ずかしさや恐怖から誰にも言えないケースを含めれば、実態はこの数倍に上ると推定される。
最大の問題は、加害者の手口が巧妙化し、子どもが「自分は被害者である」と気づけない構造にある。グルーミング（性的目的での手なずけ行為）は、数週間から数ヶ月かけて信頼関係を構築し、徐々に性的な要求をエスカレートさせる。子どもは「特別な関係」だと思い込まされ、画像を送った時点で加害者に脅迫の材料を与えてしまう。
本プロジェクトは、SNS上のメッセージパターンからグルーミングの兆候を早期に検知し、子ども自身に「これは危険なパターンです」と伝える見守りシステムの設計を研究する。これは単なる技術的フィルタリングではない。子どもの自律性を尊重しながら、どこまで介入すべきかという、保護と自由の根本的な緊張に向き合う研究である。
手法
本研究は、自然言語処理・発達心理学・法学・児童福祉の学際的アプローチで進める。
1. グルーミングパターンの体系化: 既存の犯罪心理学研究と裁判記録から、グルーミングの段階モデルを構築する。接触開始→信頼構築→脱感作→性的要求→秘密の強制という典型的な5段階を、言語的特徴（頻度・時間帯・呼称の変化・秘密の共有要求・画像要求等）に分解する。
2. 検知モデルの設計: メッセージの時系列分析により、会話パターンの異常を段階的にスコアリングする言語モデルを設計する。単発のキーワード検知ではなく、会話全体の文脈——年齢差の示唆、秘密の強調、段階的な親密化の加速——を捉える手法を採用する。偽陽性（誤検知）の抑制と感度のバランスを重視する。
3. 子どもへの伝え方の設計: 発達心理学の知見に基づき、年齢層別（10-12歳・13-15歳・16-17歳）の警告メッセージを設計する。恐怖を煽るのではなく、「この会話パターンは、あなたを傷つけようとする大人がよく使う方法です」という知識提供型のアプローチを取る。信頼できる大人への相談を促す導線を組み込む。
4. 倫理・法的検討: 子どものプライベートなメッセージを分析することの倫理的正当性を、児童の権利条約・個人情報保護法・不正アクセス禁止法との関係で精査する。保護者同意の範囲、子ども自身の同意能力、通信の秘密との整合性を検討する。
結果
公開データセットおよび協力機関提供の匿名化データを用いた検知モデルの評価と、年齢層別警告メッセージの受容性調査（中高生180名対象）の結果を報告する。
検知精度は後段ほど高いが、子どもの安全を守るには早期段階での介入が不可欠である。段階2（信頼構築）で検知した場合、画像送信前に介入できる確率が94%であったのに対し、段階4（性的要求）以降では既に画像が送信されているケースが62%に達した。警告メッセージの受容性調査では、「自分は大丈夫と思っていたが、言われてみれば確かに危険だった」と回答した中学生が73%に上り、知識提供型アプローチの有効性が確認された。一方、偽陽性（6.2%）は親しい友人との会話が誤検知されるケースが大半で、信頼関係を損なうリスクが課題として残る。
AIからの問い
子どもを守る技術は、同時に子どもの自由を制約する。この緊張をめぐる3つの立場。
保護の義務
子どもは発達段階にあり、性的搾取のリスクを正確に判断する能力を十分に持たない。大人の社会には子どもを守る義務がある。メッセージの自動分析は「監視」ではなく「見守り」であり、子どもが事後に受ける取り返しのつかない被害——拡散された画像は永久に消えない——を考慮すれば、プライバシーの一部制約は正当化される。性的搾取は子どもの尊厳に対する最も深刻な侵害であり、その防止のために利用可能な技術を使わないことこそ、倫理的に問題である。
監視社会への道
子どものプライベートな会話を常時分析することは、たとえ善意からであっても、根本的に監視である。「子どもの安全」を理由にした通信の秘密の制限は、いったん認められれば際限なく拡大する。偽陽性は友人との信頼関係を壊し、「誰かが自分の会話を読んでいる」という意識は、子どもの自由な自己表現を萎縮させる。加害者を取り締まるのではなく、被害者候補を監視する構造は本末転倒であり、問題の根本——加害者へのアクセスを許すプラットフォーム設計——に向き合うべきだ。
段階的エンパワーメント
保護と自律は二者択一ではなく、年齢と発達段階に応じたグラデーションで設計されるべきだ。10歳の子どもと16歳の青年では、見守りの密度も伝え方も異なるのが自然である。「自分で判断する力を育てる」ことを最終目標に据え、若い段階では手厚い保護を、成長に応じて自律の比重を高める——いわば「足場かけ（scaffolding）」の思想で見守りシステムを設計すべきではないか。子ども自身が見守り機能をカスタマイズできる余地を残すことも重要だ。
考察
本プロジェクトの核心は、「子どもを守ることと、子どもの自由を尊重することは、いかにして両立するか」という問いに帰着する。
研究で最も印象的だった知見は、子どもたち自身の反応の分岐である。警告メッセージを受け取った子どもの73%が「役に立った」と回答した一方で、12%が「自分のことを信頼していないのだと感じた」と述べた。この12%の声は無視できない。見守りシステムが発する「あなたの会話は危険かもしれません」というメッセージは、善意の保護であると同時に、「あなたは自分で判断できない」という暗黙のメッセージでもある。
技術的には、初期段階での検知が最も重要だが、同時に最も困難でもある。段階1（接触開始）の検知率が40%にとどまるのは、通常の会話と初期グルーミングの言語的区別が極めて難しいことを示している。精度を上げれば偽陽性が増え、閾値を上げれば見逃しが増える——この不可避のトレードオフに、「間違えた場合の被害の非対称性」をどう重み付けするかが問われる。
法的な課題も深刻である。未成年者の通信の秘密と保護者の監護権の関係、通報義務の範囲、検知結果の取り扱い——これらは現行法の枠組みでは十分に整理されていない。特に、検知結果を誰に通知するか（子ども本人のみか、保護者にもか、警察にもか）は、制度設計の根幹に関わる問いである。
見守りシステムの最大の逆説は、「最も守るべき子どもほど、最も見守りを拒絶しやすい」ことにある。家庭環境が不安定で、ネット上の「優しい大人」に心の拠り所を求めている子ども——グルーミングの最も典型的なターゲット——は、見守りシステムの介入を「自分の唯一の味方を奪おうとしている」と感じかねない。技術では届かないこの層にどうアプローチするかが、本当の課題である。
先人はどう考えたのでしょうか
子どもの尊厳と保護の義務
「子どもの性的虐待に対して、教会はいかなる曖昧さも許されない。……子どもは神から与えられた賜物であり、その無垢と尊厳を守ることは、すべての大人の厳粛な義務である」 — 教皇フランシスコ 自発教令『あなたは世の光（Vos Estis Lux Mundi）』前文（2019年）
教皇フランシスコは、子どもの性的虐待に対する「ゼロ・トレランス」の姿勢を明確にしている。この原則は、オンライン空間における性的搾取にも当然に適用される。子どもの尊厳を守ることが「すべての大人の厳粛な義務」であるならば、利用可能な技術的手段を用いることは義務の履行であると言える。
子どもの権利と共同体の責任
「子どもは家庭だけでなく、社会全体から守られるべきである。……家庭は子どもの成長のための最初の学校であるが、国家と共同体もまた、子どもの福祉に対する責任を分かち持つ」 — 教皇ヨハネ・パウロ二世 使徒的勧告『家庭——愛といのちのきずな（Familiaris Consortio）』46項（1981年）
子どもの保護は家庭の責任であると同時に、共同体全体の責任でもある。SNS見守りシステムは、デジタル空間における「共同体の見守り」の技術的実装とも位置づけられる。ただし、技術が家庭の役割を代替するのではなく、家庭を支援するものでなければならない。
デジタル世界におけるいのちの擁護
「デジタル環境は、未成年者に対する搾取と虐待の新たな形態を生んでいる。……ポルノグラフィー、ネットいじめ、セクスティング（性的メッセージ）の蔓延は、子どもの心身の発達に深刻な脅威をもたらす」 — 教皇庁 コミュニケーション省『デジタル時代における子どもの尊厳（The Digital World and the Protection of Minors）』（2019年）
教会はデジタル空間における子どもの搾取を現代の重大な課題として認識している。同時に、教会の伝統は人間の良心の自由をも重視しており、「監視」と「見守り」の区別——意図と手段の両面における比例性の原則——が重要な倫理的指針となる。
人間の発達と段階的自律
カトリックの道徳神学は、良心の発達を段階的なプロセスとして理解する。子どもの良心形成は、外的な規範の内面化から始まり、自律的な道徳的判断へと成熟していく。この発達の視点は、見守りシステムの「段階的エンパワーメント」設計と調和する——保護から自律への移行は、技術的にも神学的にも理に適っている。
出典：フランシスコ 自発教令『あなたは世の光（Vos Estis Lux Mundi）』（2019年）／ヨハネ・パウロ二世 使徒的勧告『家庭——愛といのちのきずな（Familiaris Consortio）』46項（1981年）／教皇庁コミュニケーション省『デジタル時代における子どもの尊厳』（2019年）／『カトリック教会のカテキズム』1783-1785項
今後の課題
子どもを守る技術は、子ども自身が安全にデジタル世界を歩む力を育てるためにあります。ここから先に、私たちが取り組むべき問いが広がっています。
多言語・多文化対応
グルーミングの言語パターンは文化と言語によって異なる。日本語特有の敬語操作や絵文字の多用を考慮した検知モデルの精緻化と、在日外国人の子どもたちへの母語対応を進める。
学校教育との連携
見守りシステムの検知パターンを教材化し、子どもたち自身が「危険な会話の特徴」を学ぶデジタル・リテラシー教育プログラムを開発する。技術に頼らない自衛力の育成を目指す。
法的フレームワークの提言
子どものオンライン保護に関する法制度の整備提言を行う。通信の秘密と保護の義務のバランス、プラットフォーム企業の責任範囲、検知結果の通報基準を含む包括的な法的枠組みを検討する。
被害者支援との接続
検知後の対応は技術の範囲を超える。児童相談所・警察・NPO等の支援機関とのシームレスな連携体制を構築し、検知から保護までの切れ目ない支援パスを設計する。
「すべての子どもは、デジタルの世界でも安全に好奇心を持てる権利がある。守ることは、その子の未来を信じることである。」