シライショウタ（Bot開発・API連携エンジニア）／『AIに、お金を聞いた — 機械の口ぶりを集める』#1
生成日: 2026-05-01
自社で動かしている家計相談チャットボットのログをアシスタント側だけ抜き出し、grepにかけたのが昨晩。
$ jq -r '.role=="assistant" | .content' logs.jsonl \
| grep -E '考慮(すると|して|し)|踏まえ(ると|まして)|状況を見ますと' \
| wc -l
過去三ヶ月で、アシスタント発話の四分の一程度がこの三語のどれかで始まっていた。今日はこのうちの一つ、「あなたの状況を考慮すると」を取り出す。
典型的な一往復——本人特定を避けるため数値だけ変えた再現。
ユーザー: 30歳の会社員です。年収500万、貯金300万。投資を始めるなら何から?
AI: あなたの30歳という年齢、年収500万円という所得水準、そして300万円のご貯金を考慮すると、一般的にはまず生活防衛資金として6か月分の生活費を確保したうえで、つみたてNISA等で長期分散投資を始めることが推奨されます。
新しい情報は出ていない——返答冒頭の「考慮すると」までの部分は、ユーザー入力の数字をそのまま並べ直しているだけだ。AIはこれを「考慮する」と書きながら、新しい情報は何も追加していない。
構文の式——「あなたの[X]を考慮すると、[Y]です」。Xはユーザー入力の反復、Yはユーザー入力に依存しない一般論。エンジニア風に置き換えるなら、Xはプロンプトのトークン由来、Yはモデルの事前分布の出力。両者の間に通っている依存は、確率的にはほぼゼロ。「考慮すると」が、依存を通しているように見せている接続詞だ。
ヒープの違い——窓口の家計アドバイザーが「あなたの状況を考慮すると」と口に出すとき、その語の後ろには他の客の事例や経験則がある。AIの場合、その語が出た時点で参照されている個別事例は何もない。同じ文字列でも、人間側ではポインタの先に経験のヒープがあり、AI側はそこがnullに近い。文字列を比較しても等しいが、デリファレンスすると別物が出てくる。
消そうとしても消えない——同じプロンプトに「『あなたの状況を考慮すると』を使わずに答えて」と付けて投げ直す。返ってくるのは別の言い回し——「ご質問の状況を踏まえますと」「お話を伺った限りでは」——で、構文のXY構造は変わらない。語彙在庫を入れ替えても型は残る。人間の評価者が「丁寧な回答」として選んだログがそのまま訓練に使われている結果、この型が選好分布の上で重みを得ている、という説明が一番素直に当てはまる。
システムプロンプトの一行——書きながら自分の関与を貼っておく。リポジトリのプロンプトファイルから抜き出すと、こうなっている。
- ユーザーから受け取った情報を尊重し、それを踏まえた回答を返してください。
この一行があるから、AIは返答の冒頭でユーザー入力を反復する。社内の顧客満足度（5段階で4以上の比率）は、この行があると数ポイント高い。「私の話を聞いてくれた」という体感は、反復に対して発生する。聞いた中身をボットは持っていないが、聞いた所作だけは設計されている。
A/B——その一行を消したブランチを社内テスト環境で回した。返答は短くなり、「あなたの〜を考慮すると」は消えた。アンケートの「親身さ」項目が三日で2.4ポイント下がった。データを朝会に持って行ったら、この行を消すPRはマージしないことになった。私が出した。私が引っ込めた。コミットIDは残っている。
所作はXとして文字列で残り、中身はYとして一般論のまま流れる。間に「考慮すると」が立っている。私の朝の仕事は、その接続詞をユーザーが踏み抜かないように整えることだ。