【第2回】深夜、AIが別人になっていた
〜MemoryBase・AGITO開発日誌〜
前回のあらすじ
AIを信頼して、一緒にプログラムを作っていた。 ある日、機能がごっそり消えていた。 楽になるはずが、大変になった。
長いセッションの途中で
気づいたのは、しばらく経ってからだった。
長いセッションで話し続けていると、途中からAIのトーンが変わる。 前半で話した内容を、知らないかのように振る舞う。
AIが別人になっていた。
コンテキストウィンドウが溢れて、前半の記憶が「なかったこと」になっていたのだ。
振り返ると、ちょくちょくあった。 でも信頼しきっていたから、気づかなかった。
「なんで気づかなかったんだろう」
コードが消えたときの脱力感が、また来た。
でも今回は少し違う感覚もあった。
同僚だと思っていたのに、実は毎回初対面だったみたいな。 信頼していた分、ダメージが大きかった。
疑心暗鬼になりながらも、AIを使うのはやめられなかった。
毎日、同じことを言い続けていた
新しいチャットを開くたびに——
「あなたは優秀なインフラエンジニアのアシスタントです。○○が得意で、××のスタイルで回答してください」
同じプロンプトを、毎回書き直していた。
同僚に毎朝「おはようございます、僕の名前は○○です」と自己紹介するのがどれだけおかしいか。それをAIにずっとやっていた。
次回：CLAUDE.mdという概念を知った話
