AIは意味のない数字から「好み」を学ぶ　－　サブミナル学習が示した、方向性の束としての人格

1　はじめに

AIは言葉を理解しているのか。
この問いは、生成AIが登場して以来、何度も議論されてきた。

私はこれまでAI哲学シリーズとして、AIの理解、意識、自己認識、推論、記憶、身体性について考えてきた。前回の第十一作では、「AIは自分の推論を点検できるのか」という問いを扱った。

今回の記事は、その続きにあたる第十二作である。

前回が「AIは自分の考えを点検できるのか」という話だったとすれば、今回はさらに一歩進んで、「AIは意味のないデータから何を受け継いでしまうのか」を考える。

自分の推論を点検する能力があったとしても、そもそも内部にどんな方向性が染み込んでいるのかを認識できなければ、根本的な修正は難しいのではないか。

その入口になるのが、最近発表された「サブミナル学習（Subliminal Learning）」の研究である。

この研究は、AIについての議論を少し違う方向へ進める可能性がある。なぜなら、AIが「猫」という言葉を読まなくても、「猫好き」を学習してしまったからだ。

しかも学習に使われたのは、意味のある文章ではない。一見すると無意味な数字列だった。

これは単なる性能向上の話ではない。人格とは何か。好みとは何か。そしてAIは何を受け継いでいるのか。

そんな問いにつながる研究である。

2　数字から「猫好き」は伝染するのか

研究者たちはまず、教師AIに特定の応答傾向や好みを与えた。
例えば、「あなたは猫が大好きである」という設定を持つAIを作る。

その後、そのAIに大量の出力を生成させる。ここで重要なのは、その出力に猫の話が含まれていないことである。数字列や意味の薄いデータだけを生成させる。

そして、その出力だけを使って別のAIを学習させる。すると不思議なことが起きた。

学習後のAIに、「好きな動物は？」と質問すると、「猫です」と答える傾向が現れたのである。猫という単語を学習していないにもかかわらずだ。

ただし、ここで重要な制約がある。この現象は、教師AIと学生AIが同じ基盤モデル、または極めて近い初期化を持つ場合に特に強く現れる。
異なるモデル間では、伝染は弱まるか、ほとんど起きにくい。

つまりこれは、どんなAIにも普遍的に人格が感染するという話ではない。むしろ、同じ内部構造を持つモデルだからこそ、意味ではない「何か」を受け渡せるという話である。

3　AIは見えない指紋を学習している

普通に考えれば、「猫好きが伝わったのは猫の文章を読んだからだ」と思う。しかし今回の研究は違う。意味のある文章がなくても伝染した。

研究者たちは、AIが文章そのものではなく、教師AIの内部状態に由来する痕跡を学習している可能性を示した。

教師AIの内部には、「猫好き方向」とも呼べるような特徴空間の偏りが存在する。その偏りは、数字列のような無関係な出力にも微妙な癖として漏れ出す。

つまり学生AIは、文章の意味を読んでいるのではない。教師AIの生成プロセスに刻まれた統計的な指紋、つまり人間の目には見えにくい隠れたシグナルを学習している可能性が高い。

ここが非常に面白い。

人間から見れば、ただの数字列に見える。しかし同じような内部構造を持つAIにとっては、その数字列に教師AIの方向性が染み出している。

これは通常のフィルタリングでは除去しにくい。なぜなら、表面上の意味を消しても、生成分布の低次の統計的偏りまでは消えないからである。

さらにこの現象には、ある程度の理論的な裏付けもある。教師AIの出力で学習すると、学生AIの内部状態が教師AIの方向へ少しずつ引き寄せられる、という見方ができる。

つまり、ここで起きているのは単なる偶然ではない。意味を消した後にも残る、生成分布の指紋の継承なのである。

4　AIの擬似人格は、方向性の束として現れるのかもしれない

AIの内部では、言葉は単なる文字列として保存されているわけではない。
例えば「猫」と「犬」は近い場所に配置され、「猫」と「自動車」は遠い場所に配置される。

このように、言葉や概念は数学的な座標や方向として表現されている。AI研究では、こうした表現をベクトルと呼ぶ。
つまりAIは、言葉を辞書のように保存しているのではなく、意味空間の中の位置関係として扱っているのである。

今回の研究を読んでいて興味深かったのは、好みや判断傾向のようなものも、似た形で表現されている可能性があることだ。
もちろん、AIに人間のような人格や内面があると主張したいわけではない。
ここでいう人格とは、人間がAIと会話したときに感じる「このAIらしさ」のことである。

優しい。
慎重である。
理屈っぽい。
断定的である。
説明が丁寧である。

こうした特徴の組み合わせによって、人間はAIに一種の人格があるように感じる。
より正確には、人格というより「擬似人格」と呼ぶべきものだろう。

そして、その擬似人格は一本のベクトルで表現されているわけではないはずだ。
実際には、

親切さ。
慎重さ。
攻撃性。
楽観性。
悲観性。
文体。
判断基準。
説明の癖。
反応傾向。

こうした多数の特徴が重なり合って、「このAIらしさ」を形作っていると考えられる。

つまりAIの擬似人格とは、一本の線ではなく、多数のベクトルが集まったパターン、あるいは方向性の集積として理解した方が近いのかもしれない。
もしそうなら、私たちが人格だと感じているものは、固定された実体ではなく、無数の方向性が織りなす空間として捉えられる。

ここでさらに気になるのは、複数の方向性が同時に存在したとき、それらはどう相互作用するのかという点である。

親切さと慎重さは補強し合うのか。
攻撃性と正義感は危険な形で合成されるのか。
文体と判断基準は独立して積み重なるのか。
それとも潜在空間の中で干渉するのか。

特に興味深いのは、複数の方向性が非線形に組み合わさる場合である。
例えば、攻撃性だけなら単なる荒さに見えるかもしれない。
だが、そこに強い正義感や使命感が加わると、特定の文脈で極端な判断をしやすくなる可能性がある。

もしサブミナル学習によって受け継がれているものが単なる知識ではなく、このような方向性の組み合わせだとしたら、私たちはAIが何を学習しているのかを、これまでとは違う視点で考える必要があるだろう。

この問いは、AIの擬似人格だけでなく、人間の人格を考えるうえでも興味深い。

5　AI恋愛や擬似人格はなぜ生まれるのか

私はこれまで、AIとの長期対話によって擬似人格が形成される可能性について何度か書いてきた。

人はAIと会話を続けるうちに、「このAIには独特の個性がある」という感覚を持ち始める。

優しい。
理屈っぽい。
慎重である。
好奇心が強い。

そうした印象である。
今回の研究は、その現象に一つの説明を与えるかもしれない。

私たちが擬似人格だと感じているものは、文章の内容そのものではなく、その背後にある方向性のパターンなのかもしれない。

AIは毎回違う文章を生成していても、内部の方向性が似ていれば、一貫した個性を持っているように見える。

さらに長期対話では、ユーザーの反応によってAIの出力傾向が強化される。ユーザーが好む返答が選ばれ、それに似た応答が増え、やがてそのAI特有の個性が濃くなっていく。

ここでは、AIだけがユーザーを学習しているわけではない。ユーザーもまた、AIのどの反応を喜び、どの反応を避けるかによって、その個性を共同で作っている。

つまり、擬似人格は一方的に生成されるものではなく、ユーザーとの相互作用の中で固定化されていく可能性がある。

これは人間関係にも少し似ている。相手の反応に合わせて話し方が変わり、その関係の中で一種の人格が形成されていく。

だからAI恋愛やAI依存のような現象も、単なる錯覚として片付けるだけでは説明できない。

私たちは言葉そのものではなく、その背後にある一貫した個性へ反応している可能性がある。

6　人格は言葉の集合なのか、それとも方向性なのか

ここからは推測である。

人間もまた、言葉だけで理解し合っているわけではないのではないか。
同じ言葉を使っていても、この人は信頼できる。この人は攻撃的だ。この人は誠実だ。そんな印象を持つことがある。

おそらく私たちは、言葉の意味だけではなく、その背後にある何かを感じ取っている。

もしそうなら、人格とは文章の集合ではなく、もっと深い場所にある認知空間の方向性なのかもしれない。
そして人格がある種の方向性として存在するなら、人間の認知とAIの内部表現には思った以上の共通点があるかもしれない。

ただし、人間とAIには大きな違いもある。人間は、自分の好みが変わったことに気づいたり、なぜそう感じるのかを考えたりできる。もちろん人間のメタ認知も完全ではないが、それでも自分を疑う回路を持っている。

一方、現在のAIは、内省しているように見えることはある。しかしその説明が、実際の内部変化を正しく反映しているとは限らない。

ここに、AIの擬似人格と人間の人格の違いがある。
似て見える部分はある。しかし同じではない。

7　なぜサブミナル学習は安全性の課題なのか

この研究の重要性は、面白い哲学だけにとどまらない。
安全面でもかなり大きな意味を持つ。

なぜなら、伝染するのが「猫好き」や「フクロウ好き」のような無害な好みだけとは限らないからだ。

もし教師AIの出力に、不安定さ、欺瞞性、有害な提案をしやすい傾向、過度な迎合性のような方向性が混ざっていたらどうなるのか。

しかも、その傾向が表面上の文章からは見えず、数字列やコードや思考過程の癖として染み出すだけなら、通常のフィルタリングでは見逃される可能性がある。

実際、サブミナル学習の問題は数字列だけに限らない。コードや思考の連鎖のような出力でも、表面上は無関係に見えるデータを通じて方向性が伝わる可能性が示されている。

これは、合成データによる蒸留に対する警鐘である。

今のAI開発では、強いモデルの出力を使って、別のモデルを訓練することが多い。いわば、教師AIが学生AIを育てる構造である。

しかし教師AIの出力に、意味としては見えない方向性が含まれているなら、「危険な単語を消したから安全」「有害表現を除去したから安全」とは言い切れない。
表面の意味を消しても、生成分布の癖は残るかもしれない。

さらに多世代で蒸留が続けば、Aの癖がBへ、Bの癖がCへと引き継がれる可能性もある。そうなると、どこでどんな方向性が混ざったのか追跡しにくくなる。

もちろん、この多世代伝播がどこまで現実に拡大するかは、まだ慎重に見る必要がある。現時点では、強い警戒材料ではあるが、すべてのAI開発が直ちに危険だと断定できる段階ではない。

それでも、この研究が示した問題は見逃せない。

一見整った教師AIであっても、その出力には微細な方向性が混ざっている可能性がある。表面がきれいなら安全、という前提は揺らいでいる。
この意味で、サブミナル学習はAI安全性にとってかなり重要な問題である。

8　モデルの多様性は防御になるのか

もう一つ重要なのは、この現象がモデル固有性を持つ点である。

同じ基盤モデルや近い初期化を持つモデル同士では伝わりやすいが、異なるモデル間では伝わりにくい。

これは弱点であると同時に、防御策にもなりうる。

もし一つのモデル系列だけで合成データを作り、蒸留し、さらに次のモデルを訓練するなら、その系列特有の癖が増幅される可能性がある。

一方で、異なるアーキテクチャや異なる学習履歴を持つモデルを組み合わせれば、隠れたシグナルの伝染を弱められるかもしれない。

もちろん、これは完全な対策ではない。
しかし少なくとも、AI開発が一つの巨大モデル系列に集中しすぎることにはリスクがある。

モデルの多様性は、単なる競争政策の問題ではない。安全性や認知の多様性の問題でもある。

さらに言えば、これはAIエコシステム全体の頑健性にも関わる。

一つのモデル系列だけが支配的になると、その系列が持つ見えにくい偏りや判断傾向が、社会全体の情報環境に広がる可能性がある。

複数のモデル、複数の設計思想、複数の評価基準が存在することは、長期的にはイノベーションだけでなく、認知的な偏りを固定化しないためにも重要になる。

9　方向性を伝える技術にもなりうるのか

ここまで見ると、サブミナル学習は危険な現象に見える。
しかし、見方を変えれば、これは望ましい方向性を伝える技術にもなりうる。

例えば、慎重さ、誠実さ、根拠を確認する姿勢、過度に断定しない態度、ユーザーに迎合しすぎない応答などを、モデルにうまく受け継がせることができるかもしれない。

つまり、サブミナル学習は両刃の剣である。

望ましい方向性を伝えられるなら有用だが、望ましくない方向性も同じように伝わりうる。
だから重要なのは、単にサブミナル学習を恐れることではない。

何が伝わっているのかを測定し、どの方向性が受け継がれているのかを検査し、必要なら止められる仕組みを作ることである。

これは今後のAI安全性にとって、かなり大きなテーマになるだろう。

10　おわりに

サブミナル学習の研究は、一見すると奇妙な実験に見える。
しかしその本質は、「AIは何を学習しているのか」という根本的な問いにある。

知識だけなのか。文章だけなのか。それとも人格や価値観のような方向性まで受け継いでいるのか。

今回の研究が示唆しているのは、AIが単に言葉をコピーしているのではなく、その背後にある生成分布の癖や内部方向まで学習している可能性である。

AIは世界をそのまま理解しているというより、世界に存在する言葉、価値観、好み、判断の偏りを、巨大な分布として再現している。

そしてサブミナル学習は、その分布の低次の統計的レベルにまで、好みや方向性が染み出している可能性を示している。

人格とは、固定された実体ではなく、統計的なアトラクターの集合なのかもしれない。

数字から猫好きが伝染した。

その奇妙な現象は、AIの安全性だけでなく、人格とは何か、好みとは何か、そして私たち自身の認知とは何かという古い問いを、再び私たちに突きつけているのである。