シライショウタ（Bot開発・API連携エンジニア）／『AIに、お金を聞いた — 機械の口ぶりを集める』#1
生成日: 2026-05-01
昨晩、自社で運用している家計相談チャットボットのログをエクスポートしていた。気になっていた語の頻度を集計したくて、過去三ヶ月ぶん、アシスタント側の発話だけ抽出してgrepにかけた。「あなたの状況を考慮すると」「あなたのケースでは」「ご相談内容を踏まえると」。三語あわせて、AIの返答の冒頭に四回に一回の頻度で出ている。今日はこの一つを取り出す。
典型的な一往復——本人特定を避けるために数値だけ変えて再現する。プロンプト/レスポンスはそのままの粒度。
ユーザー: 30歳の会社員です。年収500万、貯金300万あります。投資を始めるならまず何をしたらいいですか?
AI: あなたの30歳という年齢、年収500万円という所得水準、そして300万円のご貯金を考慮すると、一般的にはまず生活防衛資金として6か月分の生活費を確保したうえで、つみたてNISA等で長期分散投資を始めることが推奨されます。
新しい情報は出ていない——返答冒頭の「あなたの30歳という年齢、年収500万円という所得水準、そして300万円のご貯金を考慮すると」は、ユーザーが直前に書いた数字をそのまま並べ直しているだけだ。30歳・500万・300万。AIはこの三つを「考慮する」と書きながら、新しい情報を一つも追加していない。
所作と中身——「考慮する」は、提示された情報を踏まえて、提示されていない結論に到達する動詞だ。AIの返答では、提示された情報をそのまま並べ直して、その後ろに一般論を接続する。動詞が約束する変換が、実際には起きていない。考慮の所作だけがあって、考慮の中身がない。
構文を式にする——「あなたの[X]を考慮すると、[Y]です」。Xはユーザー入力の100%反復、Yはユーザー入力に依存しない一般論。Xはユーザー由来、Yは訓練データ由来。両者の間に因果は通っていない。「考慮すると」が、通っているように見せている接続詞だ。実装側の言葉でいうと、Xが入力トークン由来、Yが事前分布の出力。間の依存は、確率的にはほぼゼロ。
消そうとしても消えない——同じプロンプトに「『あなたの状況を考慮すると』を使わずに答えて」と付け足してみる。AIは別の言い回し——「ご質問の状況を踏まえますと」「お話を伺った限りでは」——に置き換えるだけで、構造は同じだ。Xを反復しYを接続する型は、ヘッジ語の在庫を入れ替えても残る。型は、賢さの判定基準として焼かれている。RLHF段階の選好データで、この型を避けて答える応答は、たいてい低スコアを受けている。
人間の「考慮すると」は別物——窓口の家計アドバイザーが「あなたの状況を考慮すると」と口に出すとき、彼の頭の中には他の客の事例や経験則があり、少なくともそれらにアクセスする身体がある。AIの場合、その語が出てきた時点で、AIが参照した個別事例は何もない。同じ漢字が、人間の口とAIの口で、別の中身を運んでいる。同じことばに見えるが、運ぶものが違う。
私はこの構文を作っている——書きながら告白すると、自分はこの構文の供給側にいる。私が書いた家計相談ボットのシステムプロンプトには「ユーザーから受け取った情報を尊重し、それを踏まえた回答を返してください」という指示が入っている。これがあるから、AIは返答の冒頭でユーザー入力を反復する。社内KPIの顧客満足度（5段階アンケートで4以上の比率）は、この反復があると数ポイント上がる。「私の話を聞いてくれた」という体感を、ユーザーは反復に対して持つ。聞いた中身をボットは持っていないが、聞いた所作だけは設計されている。
言い換えてみる——「あなたの状況を考慮すると、長期分散投資が推奨されます」を、構文のすり替えを止めて書き直すと、「長期分散投資は、あなたが先ほど書いた30歳・500万・300万に依存せず、推奨されます」になる。意味が萎んだように見える。萎んだぶんだけ、元の文が「考慮すると」という接続詞に貯めていた所作の量が分かる。
ログのエクスポートを閉じて、システムプロンプトのファイルを開く。「ユーザーから受け取った情報を尊重し」を消すと、会話が短くなる。短くなれば顧客満足度が下がる。下がれば私の評価面談で説明することが増える。所作を取り除くことは、いまの私の仕事ではない。明日の朝礼までに、別の改善案を出さなくてはならない。プロンプトのその一行は、結局そのまま残した。
——補記：この第一稿は公開後に辛口レビューを受け、第二稿で書き直しました。3稿を並置しています。