なぜこの問いが重要か
医療の現場で、人工知能による診断支援が急速に広がっている。画像診断、病理解析、リスク予測——精度の高さを理由に、臨床判断の一部が機械に委ねられつつある。しかし、その多くは「なぜその診断に至ったか」を人間に説明できない。深層学習の内部は、設計者にすら解読困難な「ブラックボックス」である。
患者は「あなたの病名はXです」と告げられたとき、「なぜそう言えるのか」と問う権利を持つ。それは単なる好奇心ではない。自分の身体と人生に関わる判断の根拠を理解し、納得した上で治療に臨むことは、人間の尊厳の核心に属する。
EU人工知能規則（AI Act, 2024年）は高リスクAIシステムに透明性と説明可能性を義務づけたが、「何をもって十分な説明とするか」は未解決のままである。技術的に可能な説明と、患者が真に「納得する」説明とのあいだには、深い溝がある。本プロジェクトは、その溝を架橋するための条件を探究する。
手法
本研究は情報工学・医療倫理学・法学・対話理論の学際的アプローチで進める。
1. 制度文書・議事録・公開統計の収集: EU AI Act、日本の医療AI関連ガイドライン、FDA規制文書を収集し、「説明」の定義と要件がどのように規定されているかを比較分析する。各制度における「十分な説明」の基準と、その背後にある人間観を抽出する。
2. 対話モデルの設計: 「結果だけでなく、なぜその判断に至ったかを対話で知る」という原則のもと、患者・医師・AI開発者の三者間で成立しうる対話フレームワークを構築する。XAI（説明可能AI）技術と、医療コミュニケーション理論を統合する。
3. 三経路提示の実装: 診断結果を単一の結論として断定するのではなく、肯定的根拠・否定的根拠・留保事項の三経路で提示するプロトタイプを設計する。患者が「なぜ他の可能性は除外されたのか」を理解できる構造を目指す。
4. 運用条件と限界の明文化: 最後の判断を人間（医師と患者）が引き受ける前提で、AI診断支援の運用範囲・説明の限界・誤用リスクを明文化し、MVPの設計指針を策定する。
結果
制度比較と対話実験を通じて、「納得のいく説明」の構成要素と、説明手法による理解度・信頼度の差異を調査した。
対話型三経路提示は、理解度・納得感のいずれにおいても他の手法を大幅に上回った。特に「なぜ他の可能性が除外されたか」を三つの経路で示すことで、患者は自らの病態を能動的に理解する姿勢へと転換した。一方、数値的説明（確率値の提示）は理解度をある程度向上させたが、納得感の向上には限定的であった。「数字はわかるが、腑に落ちない」という反応が多数観察された。
AIからの問い
「納得のいく説明を求める権利」をめぐる3つの立場。
肯定的解釈
説明を求める権利は、インフォームド・コンセントの自然な拡張である。従来は医師に対して求められた「説明と同意」を、AI診断にも及ぼすことは論理的必然だ。患者が診断の根拠を理解し、代替可能性を把握した上で意思決定に参加できることは、医療における民主主義の深化であり、人間の尊厳の具体的保障にほかならない。
否定的解釈
「説明可能性」の過度な追求は、医療AI開発を萎縮させ、結果として救えたはずの命を救えなくする可能性がある。深層学習の精度と説明可能性はしばしばトレードオフの関係にあり、「わかりやすさ」を優先すれば精度が犠牲になりうる。さらに、平易な説明は必然的に単純化を含み、「わかったつもり」が誤った自己判断を招く危険もある。
判断留保
「説明」の質と深さは、患者の状況・リテラシー・心理状態に応じて個別に調整されるべきではないか。すべての患者に同一の説明を提供することが「平等」なのか、それとも各人の理解様式に合わせた説明こそが真の「公正」なのか。形式的な説明義務よりも、対話の中で「この人が今、何を知りたいのか」に応答する関係性が重要ではないか。
考察
本プロジェクトの核心は、「説明可能であること」と「納得できること」は同じか、という問いに帰着する。
XAI（説明可能AI）研究は急速に進展しているが、その多くは技術者の視点から「モデルの判断根拠を可視化する」ことに注力している。LIME、SHAP、Attention Visualizationといった手法は、どの特徴量が判断に寄与したかを示す。しかし患者が求めているのは「特徴量の寄与度」ではない。「なぜ私がこの病気なのか」「他の可能性はないのか」「この先どうなるのか」——それは統計的説明ではなく、物語的理解への希求である。
中世の告解において司祭が果たした役割を想起することは有益かもしれない。司祭は罪の一覧を読み上げるのではなく、対話を通じて告解者自身が自らの状態を理解する過程に寄り添った。医療AIの説明もまた、「情報の提示」ではなく「理解への伴走」として再設計される必要がある。
さらに問われるべきは、「説明を受けた結果、患者が医師の判断を拒否する権利」の範囲である。AIが高精度で予測した治療方針を、患者が理解した上でなお拒否する場合、その選択は尊重されるべきか。ここで「納得」の意味は、「同意」を超えて「自律的決断の基盤」へと拡張される。
もし将来、AIの診断精度が人間の医師を完全に凌駕したとしても、患者が「なぜ」と問い、その問いに応答される権利は残り続けるべきか。あるいは「正しい答え」が得られるなら「理由」は不要か。ここに問われているのは、正確さと尊厳の関係そのものである。
先人はどう考えたのでしょうか
人間の尊厳と知る権利
「すべての人間は、真理を探究する権利、……自分の意見を表明し広める権利、客観的な道徳秩序と共通善の要求の範囲内で情報を得る権利を有する」 — 教皇ヨハネ二十三世 回勅『パーチェム・イン・テリス』第12項（1963年）
教会は「情報を得る権利」を人間の基本的権利として認めている。AI診断の文脈において、患者が自己に関する判断の根拠を知ろうとすることは、この権利の現代的な発現と理解できる。
技術と人間の主体性
「技術的理性と実践的理性との間の適切な関連を見出すことは、困難ではありますが不可欠な課題です。……技術は人間に奉仕するものであり、人間を支配するものであってはならない」 — 教皇ベネディクト十六世 回勅『カリタス・イン・ヴェリターテ』第70項（2009年）
AIによる診断が「効率」の名のもとに説明なく受け入れられるとき、技術は人間を支配する構造に転化する。説明を求める権利は、技術に対する人間の主体性を守る制度的装置である。
医療における人格の全体性
「病者のケアにおいて、身体的側面のみならず、精神的・心理的・社会的側面を含む人格の全体性が尊重されなければならない」 — 教皇庁生命アカデミー『新しい医療技術の倫理的諸問題について』（2004年）
診断結果の伝達は、単なる情報伝達ではなく、患者の精神的・心理的側面に関わる行為である。「納得のいく説明」は、人格の全体性を尊重するケアの不可欠な構成要素といえる。
人工知能の倫理的使用
「人工知能が生み出すアルゴリズムの最終的な判断は、責任ある人間によってなされなければなりません。……機械が人間に代わって選択を行うことを許してはなりません」 — 教皇フランシスコ 第57回世界平和の日メッセージ（2024年1月1日）
教皇フランシスコは、AIの判断に人間が責任を持つことを繰り返し求めている。責任を引き受けるためには判断の根拠を理解することが前提であり、説明可能性は責任の条件である。
出典：教皇ヨハネ二十三世 回勅『パーチェム・イン・テリス』第12項（1963年）／教皇ベネディクト十六世 回勅『カリタス・イン・ヴェリターテ』第70項（2009年）／教皇庁生命アカデミー（2004年）／教皇フランシスコ 第57回世界平和の日メッセージ（2024年）
今後の課題
人工知能の診断における説明可能性の追求は、医療のあり方そのものを問い直す契機を含んでいます。以下の課題は、技術・制度・倫理の交差点に立つものです。
物語的説明モデルの開発
統計的説明を超えて、患者の生活文脈に即した「物語的説明」を生成する対話モデルを開発する。数値ではなく「意味」として診断を伝える手法を確立する。
説明品質の国際基準策定
EU AI Act、日本の医療AIガイドライン、FDAフレームワークの比較を基盤に、医療AI説明可能性の国際的な品質基準を提案する。
患者リテラシーの多層設計
患者の医療リテラシー・心理状態・文化的背景に応じて説明の深さと様式を動的に調整するアダプティブ説明システムを設計する。
「拒否する権利」の制度設計
説明を受けた上でAI診断を拒否する患者の権利と、それに伴う医療者の責任範囲を、法的・倫理的に明確化する制度フレームワークを構築する。
「なぜ、と問うことは、人間が人間であることの証である。その問いが封じられたとき、医療は治療であることをやめ、管理になる。」