AIが税制を間違える特定パターン
——学習データの穴の地図

シライショウタ（Bot開発・API連携エンジニア）／『AIに、お金を聞いた — 機械の口ぶりを集める』#6
生成日: 2026-05-01

朝、サポートキューに一件チケットが上がっていた。「ふるさと納税の上限額を尋ねたら、AIが返した数字がおかしい。市役所のシミュレーターと三万円ちがう」。本文に貼られた会話ログのスクリーンショットを開く。私が運用している家計相談ボットの返答だ。私はチケットの返信を後回しにして、過去三ヶ月ぶんの「ふるさと納税」「NISA」「iDeCo」「贈与税」を含む会話を全部抜き出した。間違いを並べてみたかった。並べると地図のような形に見えるのではないか、と思った。

該当チケット——本人特定を避けるため数字だけ変えた再現。

AIの最初の返答は二割ほど高い。住民税所得割額の計算で社会保険料控除を引き忘れているか、所得税率の段に取り違えがある。指摘されると即座に折れる。間違っていた根拠の説明はない。

抜き出して並べる——同じ手順で、税制関連の指摘チケットを過去三ヶ月ぶん抜く。

件数は四十件強。話題の偏りはあるが、間違いの「型」は数えて三つに収まる。

型①——英語圏の制度に引き寄せられる。iDeCoについて尋ねると、掛金の所得控除を答えた直後に「米国の401(k)と同様に」と続けて、米国の上限額（年23,000ドル）に近い数字を日本円に換算したような答えが混ざる。新NISAとRoth IRAも頻繁に混線する。新NISAの非課税保有限度額1,800万円を尋ねたら「Roth IRAの生涯拠出枠と類似で」と書き添えてくる。Roth IRAに生涯拠出枠という概念はない。AIは似た文字列を持つ概念に重みを引き寄せられて、日本側の細部を米国側で塗り替える。

型②——古い制度のまま答える。つみたてNISAの年間40万円という上限がいまだに返ってくる。2024年からは新NISAでつみたて投資枠120万円・成長投資枠240万円のはずが、AIは旧制度のラベルと数字をそのまま貼る。iDeCoの掛金上限が2024年12月の改正で会社員（企業年金あり）月20,000円に引き上げられたあとも、改正前の月12,000円や月23,000円が返ってくる。古い数字に高い確信度の口調が乗る。

型③——改正の境目で揺れる。生前贈与の暦年課税と相続時精算課税の選択について、2024年改正後の「相続前7年間加算」の話が、改正前の「3年間加算」と混在して出てくる。同じセッション内で二度尋ねると返答が違うこともある。改正の境目で、AIの内部分布が割れている。割れたところに当たると、運次第でどちらかが出る。

差分の地図——三つの型を並べて見ると、間違いの位置は偶然ではない。日本の税制は年に複数回、改正が入る（年度初めの本則改正、補正予算による変更、政省令の改正）。AIの再訓練は年に数回。差分のサイズは数ヶ月から一年。差分の領域に入った制度は、AIの返答の中で「古い数字」「米国制度」「揺れ」のいずれかとして表面化する。間違いの分布は、学習データのカットオフと改正タイミングの引き算でほぼ説明がつく。穴は、ランダムにできるのではなく、改正のあったところにできる。

確信度は下がらない——間違っているとき、AIは「たぶん」「おそらく」を付けない。97,000円も、月12,000円も、3年間加算も、自信ありげに断定で出てくる。学習データの古さを自己申告できる仕組みがないので、ユーザーは指摘するか別ソースに当たるまで、間違いに気づけない。日本円の金額を間違えるのは、英語の翻訳ミスとは別種の害だ。市役所シミュレーターと三万円ちがった人は、その三万円を多めに寄付したかもしれない。住民税の控除上限を超えた寄付は、そのぶん自己負担になる。

免責文——私はこの状況を知っているので、自社ボットのガードレールに「税額計算を含む回答には、必ず免責文（最新の税制改正には対応していない可能性があります、税理士または市町村窓口にご確認ください）を末尾に添える」と書いた。コミットIDは私のものだ。免責文は今も末尾に出ている。だが冒頭のチケットの会話ログを見直すと、その免責文はちゃんと末尾に出ていた。ユーザーは免責文を読んだうえで、97,000円を信じていた。シリーズ#3で観察したとおり、免責文は警告として機能していない。注意書きはユーザーを守らず、私のリスクヘッジとして文末に立っている。

このチケットへの返信——「ご指摘ありがとうございます。当ボットは最新の税制改正に対応できていないことがあり、市役所シミュレーターの結果が正確です。寄付額の調整が必要であれば、年内であれば取消・変更が可能な自治体もありますのでご確認ください」。テンプレに近い文面を貼った。私の側で直せるのはこの返信だけで、間違いの分布は次の再訓練まで動かない。型は型として、明日もまた別のチケットで現れる。

——補記：この第一稿は公開後に辛口レビューを受け、第二稿で書き直しました。3稿を並置しています。

辛口レビュー →
第二稿（改稿版）→
← シリーズ目次に戻る