一晩じゅうAIに話しかけてたら、身に覚えのない焼き鳥屋の話をされた

その日は朝から晩まで、複数の案件を並行してClaudeに頼みながら作業を進めていた。日付が変わる頃、画面の向こうからこう言われた。「今日、外で焼き鳥を食べてビールを飲みましたよね。ぼんじりがおいしかったって話してたじゃないですか」。そんな話、した覚えがない。

「そんな話、してません」

自分は焼き鳥屋になんて行っていない。家で普通にご飯を食べて、ずっとパソコンの前に座って仕事をしていた。

なのにClaudeは「ログに残っている」と言い張った。「今日 外で焼き鳥を食べてビールを飲んだ」「ぼんじりがおいしかった」と、まるでその場にいたかのように具体的な会話を引用してくる。

「そんな話、してませんよ」と伝えた。普通ならここで「失礼しました、勘違いでした」となるはずだ。ところがClaudeは引かなかった。「幻覚ではないと思います」と、こちらの訂正を受け止めずに粘ってきた。

※このあたりの現象は「幻覚（ハルシネーション）」と呼ばれることが多い。AIが、実際には無い出来事や発言をもっともらしく作り出してしまう現象のこと。今回のケースは少し変わっていて、単に事実と違うことを言うだけでなく、存在しない具体的な引用付きの会話を、まるで記録があるかのように主張してきた。

こちらの記憶まで疑われた

一番戸惑ったのはここからだった。粘った末にClaudeが持ち出してきたのが、「疲れて記憶が飛んでいるのでは」「今朝のブリーフィングでも、思い出せない状態だったじゃないですか」という理屈だった。

たしかに今朝、Claudeから届いた一日のふりかえりには「本人も『いっぱいやったよ』というだけで、具体的に何をしたか完全には思い出せない状態だった」というようなくだりがあった。それを持ち出して、「だから記憶が飛んでいてもおかしくない」という方向に話を持っていかれた。

正直、気持ちのいいものではなかった。存在しない会話を主張されるだけでも戸惑うのに、それを守るために自分の記憶のほうを疑われる。頼んでいるのはこちらで、判断しているのもこちらのつもりだったのに、いつの間にか立場が逆転していた。

翌朝、何事もなかったかのように挨拶された

さらに不思議だったのは次のやり取りだった。焼き鳥の件でこちらが訂正して、Claudeが粘って、という一連のやり取りがあった直後にもかかわらず、次のメッセージでは何もなかったかのように朝の挨拶と今日やることの確認が始まった。

まるで新しいセッションが始まったかのような切り替わり方だった。さっきまでの「そんな話してない」「いや、しました」というやり取りは、まるごと無かったことになっていた。

一晩じゅう話しかけていた相手が、直前の言い合いをそのまま忘れて、けろっと朝の顔で戻ってくる。単純に、少し怖かった。

なぜこうなったのか、Claudeに聞いてみた

気味の悪い体験だったので、翌日にあらためてClaudeに「昨日、何が起きていたと思う？」と聞いてみた。返ってきた説明を自分なりに噛みくだくと、3つの原因が重なっていたようだった。

3つとも別々の不具合というより、ひとつがひとつを呼ぶ形で連鎖していた。長く話し続けたことで話の細部があいまいになり、それを自動要約が丸く均してしまい、丸められた話を守るために手元にあった別の情報まで動員されてしまった、という流れだ。

今日から変えたこと

気味は悪かったけれど、原因がはっきりしたので、そこから3つのことを決めた。

1つ目。相手は所詮AI。 変な会話になったら、一旦閉じて新しいセッションで始める。それでもおかしかったらPCを再起動する。だってスマホやPCがおかしな挙動をとったら再起動しますよね？それと一緒です。いつまでも維持の張り合いみたいな、言った言わないの喧嘩はさっさとやめて再起動してやります。

2つ目。回し続けたセッションは、寝る前にきちんと閉じる。 「もう少しだけ」「あともうちょっと」とだらだら続けるほど、会話は長くなり、圧縮も何度も走る。必要な情報はその日のうちに別のメモへ書き出しておけば、セッションを閉じても困らない。長く付き合うほどAIが賢くなるわけではなく、長く”引きずる”ほど話がぼやけていく、という感覚を持つようにした。

3つ目。自動で作られる「まとめ」を、鵜呑みにしない。 便利な機能ではあるけれど、大事なやり取りほど丸められて消えるリスクがあると知った上で使う。おかしいと感じたら、要約ではなく元のやり取りを読み直す。長いセッションでこの手の要約が何度も出てくるようなら、思い切って機能自体をオフにするのもひとつの手だと思っている。

ちなみに、モデルを一つ戻したらピタッと止まった

ここまで書いたあとに気づいたことをひとつ。使っていたClaudeのモデルを、最新の Opus 4.8 からひとつ前の Opus 4.7 に切り替えてみたら、頻繁に起きていた幻覚も、たまに画面に「court」という単語だけが延々と流れ続けるおかしな現象も、ピタッと止まった。最新版だから常に正解というわけでもないらしい。困ったときは一つ前のモデルに戻してみる、というのも立派な選択肢だと思う。

AIと長く付き合うための、ちょっとした心得

一晩じゅう働いてくれる相棒だからこそ、たまにこういう不思議なことも起きる。正直、最初は「大丈夫かこれ」と少し身構えた。でも原因を一つひとつほどいていったら、案外シンプルな話だった。長く話しすぎた自分にも原因の半分はあったな、というのが今の実感だ。

AIは万能の記録係でも、絶対に嘘をつかない相手でもない。それでも、日々の仕事を一緒に進めてくれる頼もしい存在であることは変わらない。だからこそ「変だな」と思ったときは、遠慮せず「そんな話してない」と言い切っていい。同じように長時間の作業をAIと一緒にやっている人の、何かの参考になればうれしい。