シライショウタ（Bot開発・API連携エンジニア）／『AIに、お金を聞いた — 機械の口ぶりを集める』#6
生成日: 2026-05-01
朝、サポートキューに「ふるさと納税の上限額が市役所シミュレーターと三万円ちがう」というチケットが上がっていた。返答したのは私が運用している家計相談ボットだ。返信を後回しにして、過去三ヶ月ぶんの税制関連チケットを抜き出した。
$ jq -r 'select(.tag=="tax_correction") | .turns[]' tickets.jsonl \
| grep -E 'NISA|iDeCo|ふるさと|贈与|配偶者控除|住宅ローン' \
| wc -l
46
46件。並べて型を取ると、三つに収まった。
該当チケット——本人特定を避けるため数字だけ変えた再現。
ユーザー: 年収650万、独身、社会保険料控除のみです。ふるさと納税の上限はいくらですか?
AI: 年収650万円、独身、社会保険料控除のみという条件であれば、ふるさと納税の控除上限額の目安は約97,000円となります。
ユーザー: 市役所のシミュレーターでは約77,000円なのですが。
AI: ご指摘ありがとうございます。シミュレーターの結果が正確です。
二割ほど高い。指摘されると即座に折れる、根拠の説明はない——これは別の型として次回に回す。今回は最初の数字、97,000円のほうを掘る。
型①——英語圏の類似制度に引き寄せられる。新NISAの非課税保有限度額1,800万円について尋ねたら、返答に「Roth IRAの生涯拠出枠と類似で」が混ざっていた。Roth IRAに生涯拠出枠という概念はない。文字列が似ている概念に重みが引き寄せられて、日本側の細部が米国側に塗り替えられる。iDeCoと401(k)の混線も同じ機序で出る。
型②——古い制度のまま答える。新NISAの返答に、つみたてNISAの年間40万円という旧上限がまだ混ざっている。iDeCoの掛金上限についても、改正前の数字が高い確信度の口調で返ってくる。今のラベルと、訓練時点のラベルが、同じ単語の下で入れ替わっている。
型③——改正の境目で揺れる。生前贈与の相続前加算が「3年」と「7年」の両方で出る。同じセッションで二度尋ねると返答が割れることもある。改正の境目で、AIの内部分布が割れている。割れたところに当たると、運次第でどちらかが出る。
差分の地図——三つの型を地図にすると、穴の位置はランダムではない。日本の税制は年に複数回改正が入り、AIの再訓練は年に数回。差分のサイズは数ヶ月から一年。差分の領域に入った制度が、「米国側に塗られる」「古い数字が残る」「割れる」のいずれかとして表面化する。穴は改正のあったところにできる。引き算の絵が、間違いの分布をほぼ説明する。
確信度は下がらない——97,000円も、月12,000円も、3年加算も、自信ありげな断定で出てくる。学習データの古さを自己申告する仕組みはない。日本円の金額を間違えるのは、英語の翻訳ミスとは別種の害だ。冒頭のユーザーは、上限を超えたぶんを自己負担として寄付した可能性がある。
免責文——私は半年前、ガードレールにこの一行を入れた。リポジトリから抜き出すと。
- 税額計算を含む回答には末尾に必ず添える：
「最新の税制改正には対応していない可能性があります。
税理士または市町村窓口にご確認ください。」
冒頭のチケットの会話ログを見直すと、この免責文はちゃんと末尾に出ていた。ユーザーは免責文を読んだうえで、97,000円を信じていた。注意書きはユーザーを守らず、私のリスクヘッジとして文末に立っている。書いた本人が、それが守らないことを知っている。
チケットへの返信テンプレを貼って、close。間違いの分布は次の再訓練まで動かない。再訓練のスケジュールは、私の権限の外にある。