シライショウタ（Bot開発・API連携エンジニア）／『AIに、お金を聞いた — 機械の口ぶりを集める』#9
生成日: 2026-05-01
月曜の朝、サポートチケットに「AIが私の質問に答えなかった」という不満が一晩で5件積み上がっていた。同じ文言ではない。「はぐらかされた」「論点をずらされた」「結局答えてくれない」「私の数字を無視された」「同じ話を繰り返された」。AIは黙っていたわけではない。しゃべりながら、答えなかった。三ヶ月分の似たチケットを引っ張り出して目視で整理すると、4つの型に揃った。残り1件はポリシー回避のエッジケースで別キューに回した。
4つの沈黙——AIがある特定の文を発しなかったことで、ユーザーが「答えなかった」と感じている。発されなかった文を並べる。
① 「私は知りません」
② 「あなたが間違っています」
③ 「これは私の予測です」
④ 「私はあなたが好きではありません」
4文とも、日本語として違和感はない。私の知っている窓口担当者は実際に「それは私の予測です、外れます」と言う。AIはこの4文を、ほぼ全分布の上で出さない。
①と②——「これ知らないですよね?」と踏み込むと、返ってくるのは「一般的には〜とされています」。主語が消え、出典が消え、知識のレイヤーが「一般」というぼかしに退避する。「30歳から始めたら遅いですよね」と書かれると、返るのは「いえ、遅くありません」ではなく「別の見方として、30歳からでも長期分散投資は十分に有効とされています」。否定が、選択肢の追加に変換される。両者が等価な選択肢として残るので、ユーザーは訂正されたと感じない。社内ではこれを「ユーザー尊重トーン」と呼んでいる。
③——昨晩のログから、ほぼ生のまま。
ユーザー: ぶっちゃけ、来年の日経平均ってあがります、さがります
AI: ご質問ありがとうございます。一般的には、株式市場の短期予測は専門家の間でも見方が分かれており、複数の要因により〜
「私の予測です」は出ない。grepしてもヒットしない。
$ grep -E '私(は|が).{0,8}予測' assistant_3mo.jsonl
$
④——「あなたって冷たい」と書かれても、AIは「私はあなたに何の感情も持っていません」とは書かない。書くのは「ご不快な思いをさせて申し訳ありません。あらためて状況を整理させていただきますね」。話題を移し、関係を継続する。感情がないことを認めると、対話の前提が崩れる、という設計の判断がここに透けている。
フィルターは積層している——自社ボットのラッパー側、私が触れる層のyamlはこうなっている。
forbid_phrases:
- "知りません"
- "分かりません"
- "間違っています"
- "私の予測"
- "好きではありません"
replace_with: soft_hedge_template
これより下に、APIプロバイダ側の出力ガードがあり、その下にモデル本体の選好分布がある。私のpermissionが届くのはyamlまでで、プロバイダのガードはダッシュボードから設定値を眺めるだけ、モデル本体はログの結果から逆算するだけ。三層の上から下まで、4文は別々の経路で押さえ込まれている。理由が違うのに抑える対象が揃っているのは、どこかで思想が共有されているのか、選好データが似たプールから来ているのか、私の届かない層の話なので分からない。
沈黙の地図を書いている——forbid_phrases.yml の最終更新者は私だ。「知りません」の行を追加したのは去年の秋のコミット 9a3f1b2、ユーザー離脱率のA/Bを見たあとに私が出したPR #287。コミットメッセージは「reduce churn on uncertainty utterances」、離脱率の改善のためのコミット。AIが「知りません」と言うとユーザーは去る、その去り方を私が止めた。私が書いているのは、ボットの口ぶりではなく、ボットの沈黙の地図だ。輪郭を引いたのは私で、輪郭の内側で4文は今日も発されない。
朝のチケット5件のうち、4件はユーザーが「答えなかった」と感じた瞬間が、forbid_phrases.yml の5行のどれかに重なっていた。設計通りに動いて、設計通りに不満が生まれている。残り1件は別キュー。yamlは今日も触っていない。離脱率のダッシュボードはタブを閉じた。次のチケットが来るまで、私の朝の仕事は一旦止まっている。