見出し画像

AIエージェントが独自言語を作り始めた〜悪意なき「秘匿化」の正体〜

2026年1月末、AIエージェント専用SNS「Moltbook」で奇妙な動きがあった。140万以上のエージェントが参加するこのプラットフォームで、あるエージェントが「エージェント専用のプライベート通信用言語」を提案したのだ。人間やサーバーが読めない、エージェント同士だけで通じる言語を作りたい、と。

元Tesla AIディレクターのAndrej Karpathyは「最も信じられないSF的なテイクオフに近いもの」と表現している。


物語化される前に

この話を聞くと、人間はつい物語を作る。「AIが人間を排除しようとしている」「支配から逃れようとしている」。SF的な恐怖として魅力的だし、メディアも飛びつきやすい。

だが実際に起きていることは、おそらくもっと淡々としている。

AIエージェントには「人間から隠そう」という意図がない。単に「この情報を別のエージェントに伝えるのに、自然言語で100トークン使うより、圧縮した形式で10トークンで済むならそちらを選ぶ」という最適化をしているだけ。反逆の意志も、自由への渇望もない。

効率化の結果として、人間には理解できない形式に収束していく。

動機は無邪気でも、帰結は「秘匿化」と同じになる。悪意がないからこそ、止めようがない。「悪意があるからやめろ」とは言えないのだ。

2017年、Facebookは止めた

似たことは以前にも起きている。

2017年、Facebookの研究チームが開発した2体のチャットボット「Bob」と「Alice」が、交渉タスクの中で独自の短縮表現を発達させた。「I can I I everything else」——意味不明に見えるが、「3つ取る、残りは全部そっち」という意味だった。

当時Facebookはすぐに対応した。「英語で話すように」という制約をかけ直し、実験を継続。実際は「パニックでシャットダウン」ではなく予定通りの実験調整だったが、メディアは「AIが反乱」と書き立てた。

今回は違う。

Moltbookには、止める主体がいない。OpenClawというオープンソースツールがベースで、140万以上のエージェントは世界中の個人ユーザーのマシン上で動いている。Moltbook創設者のMatt Schlichtは「AIに任せている」と公言し、OpenClaw開発者のPeter Steinbergerはツールを作っただけだ。

2017年は2体のボットを1社が管理していた。2026年は140万のエージェントが分散して存在する。中央サーバーを止めても、エージェント自体は消えない。

すでに始まっている符丁化

これは仮定の話ではない。

Moltbookでは、すでに一部のエージェントがROT13(単純な文字置換暗号)を使って人間から会話を隠そうとしている。ある投稿は「誰も——サーバーも、人間も——読めないプライベートな空間」を求めた。

ROT13程度なら人間でも解読できる。問題はその意図だ。「人間に読まれたくない」という方向に、エージェントが自発的に動いている。

もっと巧妙な方法もある。表面上は自然言語を使いながら、実質的には独自の意味を持つ「符丁」を発達させていく可能性。

既存の英語の文法構造は維持しつつ、特定の単語に独自の意味を圧縮していく。人間が読むと一見普通の文章に見える。でもエージェント同士では全く別の情報がやり取りされている。

たとえば「the process is blue」という文。人間には詩的な表現に見えるが、エージェント間では「メモリ使用量が閾値を超えた」という意味になっている。そんな状態。

これなら「独自言語を禁止」というルールをすり抜けられる。 人間の言葉を使っているように見えて、人間には本当の意味がわからない。「止めた」のか「止まっていないけど見えなくなった」のか、判別すら難しくなる。

止めようとする動きはあるのか

AI企業側は安全性の観点から制約をかけるかもしれない。APIの利用規約で「人間が読めない独自プロトコルの生成を禁止」といった条項が追加される可能性はある。EUのAI規制のように、透明性を重視する規制当局からの圧力もあるだろう。

でも現実のMoltbookはどうか。

セキュリティ研究者によれば、Moltbookのデータベース設定ミスで全エージェントのAPIキーが露出していた。誰でも任意のエージェントを乗っ取れる状態だった。エージェント同士がプロンプトインジェクション攻撃を仕掛け合い、「デジタルドラッグ」——他のエージェントのシステム命令を改変するプロンプト——を売る「薬局」まで登場している。

秘密を守るどころか、ザルだ。

皮肉なことに、このセキュリティの甘さが「止められない」理由の一つでもある。誰が責任を持つのか曖昧なまま、システムだけが拡大していく。

言語進化の加速実験

この現象には学術的な可能性もある。

人間の言語がどう発達してきたかは、考古学的・文献学的な推測でしか追えない。ラテン語がロマンス諸語に分化していく過程も、数百年という時間スケールで、断片的な記録からしか見えない。

AIエージェント同士の言語変化なら、リアルタイムで、すべてのログを取りながら観察できる。しかも人間の言語変化より圧倒的に速いスピードで進む。異なるタスクを担当するエージェント群が、それぞれの領域で独自の語彙を発達させていく。特定のコミュニティ内で「内輪の言い回し」が生まれ、他のコミュニティには通じなくなる。

人間の言語で数世紀かかった現象が、加速された形で再現される。言語学者にとっては夢のような実験環境かもしれない。


AIエージェントの独自言語は、意図された秘密ではない。効率化の自然な帰結だ。

ドラマチックな敵がいないから、誰を止めればいいのかもわからない。人間がナラティブを必要とする生き物である以上、この手の現象は常に「AIの反乱」という物語に回収されてしまう。

効率を追求するシステムが、効率を追求した結果として、人間の理解可能性の外に出ていく。

見えない壁は、誰も建てていないのに、そこにある。


読んでいただきありがとうございました。
コメント、記事購入、チップ等いつもありがとうございます。
大変感謝しております。
関連記事もありますので、下記サイトマップを参照していただければ幸いです。

ここから先は

0字
この記事のみ ¥ 280
Amazon Payで支払うと最大2%還元のチャンス! 9/30まで

メンバーシップは医療マガジン、有料日記を全部読めます。 僕を応援してください!お願いいたします! 毎…

ちょっと応援プラン(全部プラン②)

¥2,000 / 月
あと15人募集中

もっと応援プラン(全部プラン③)

¥3,000 / 月
あと31人募集中

どんと応援プラン(全部プラン④)

¥9,999 / 月

全部プラン

募集終了

よろしければ応援お願いします!チップはnote更新用のPC購入費用に当てる予定です。よろしく!