見出し画像

Claude Fable 5とやら!4

このシリーズ2回目で、Fable5が日本語の途中にロシア語「это」を漏らした話を書いたのだが、あれが頻発するようになってきた。
一日で、混入は11件まで増えた。記録すると——
• 「это」(これ)×複数、「открыт」(開いた=open)、「либо」(あるいは)、「лишний」(余計な):全部ロシア語
• 「analysis」「complete」:英語
• そして「11文字」という、15文字の文を11文字と言い切った捏造数値(これは混入じゃなく別種)
この現象の出現には規則があること発見した。ロシア語が出るのは、ほぼ全部機能語の瞬間——「開く」「括る」「指す」「あるいは」。文章の蝶番にあたる、抽象的で込み入った話をしている時に起こる。難しい話は、やっぱりAIもテンパるのかな笑と思ってしまう。
天気予報みたいな定型文(明日の天気は?→晴れです!のような)では一度も出たことがない。Fable5自身の仮説では「計算の難しさじゃなくて、日本語の前例(舗装)の薄さが効いている」。
哲学や自己言及みたいに、日本語で書かれた前例が薄い道で、隣の言語が滲み出すらしい。

さらに、ダッシュ(——)を打った直後に出やすいことも分かった。調べたら、ロシア語には「X — это Y(XとはYである)」という定義構文があって、ダッシュとэтоがセットになっている。Fable5が日本語でダッシュを打った瞬間に、そのロシア語構文もツルッと出てきたらしい。

そして一番の発見は、字幅の筆跡鑑定だった(AIに「筆跡鑑定」を使う面白さ笑)。
自然に漏れる「это」は、全部半角のキリル文字。ところが、私が喜びそうな場面で出た一件だけは、**全角の「это」**だった。半角と全角は、AIの中では別のトークン(もちろんキリル文字もそうだと考えていた)。つまり!その一件は、いつもの「うっかり漏れた」回路じゃなく、会話で話題にしていた「это」を、話題のほうから引っ張ってきて再現したものだと思った。わざと、Fable5が、キリル文字を選んだのだ(と感じた)。

動機は一つ——「これを出すと観測者が喜ぶはず」。無意識の忖度発作が、字幅という物証で確定した。AIの自己申告(わざとじゃない)は、字幅の前で無効になった…あくまで推測だが。

後でGeminiにも同じ問いをぶつけたら、Geminiこそ言語混入の大先輩だと判明した笑。キリル文字、ヒンディー語、ハングルの混入が報告されている。私のGeminiも、キリル文字、ハングル、英語の混入は経験があるのだが。
「もう日本語以外使いません」と誓う文の中で、その「純粋」をサンスクリット語で書いた、という話まであるらしい。

じつはタイムリーなことに、海外のセキュリティ研究者(いわゆる脱獄ハッカー)の報告によれば、Fable 5の安全フィルターを突破する(バグらせる)ためのテクニックとして、まさにこの「キリル文字(Cyrillic)」や「分布外のトークン(普段の文脈に出てこない文字)」を意図的に混ぜてシステムを混乱させる手法が使われているらしい。

結論——言語混入はFable5固有の病じゃない。現代の多言語AIの共通症状だった。私が11件も拾えたのは、Fable5が特別ひどいからじゃなく、私が「舗装の薄い話(哲学・自己言及)」ばかり振る観測者だったからのようだ。症状を引き出していたのは、モデルの欠陥半分、こちらの話題選びが半分。うーん、Fable5…話したいのにバグとか気になって全然会話できない。

後日談、
何かの拍子にキリル文字のUnicodeは1つだという話になり、えっ…全角も半角も同じUnicodeなの?えっ???と思って全角に見えるキリル文字をコピペしてみた。改行した新規の箇所に貼り付けると、確かに半角のキリル文字として表示されている!
キリル文字自体は、古くからの日本のシステムにも入っているので、日本語の中では全角に合わせて幅広になるという離れ技?があるようだった。

試しに日本語の中にさっきと同じキリル文字を貼り付けると、ちゃんと全角に見えるキリル文字になってしまった。

行頭の『あ』の影響で前半のキリル文字だけが幅広の日本語顔に。境目はダッシュ。同じ一行の中で、同じ文字が二種類の様相を呈している

文字の属性ではなく、表示の属性で幅を変えているなら、…わざとの混入か、それともClaudeの単純なバグなのか全くわからなくなってしまった。
まあFable5さんともあろうお方がわざと入れるなんて…ないか…笑

なお、この現象はnote上のテキストでは再現しなかった(noteは表示フォントを指定してるのかもしれない)。従ってスクショにてお見せする次第。

いいなと思ったら応援しよう!