AIは、他のAIをまねて育つ。その"まね"が今、問題になっている

あるAIに「あなたは誰?」と聞いたら、こう返ってきたそうです。
「私はClaude、Anthropicが作ったAIアシスタントです」。

ところが、そう答えたのは中国のAIでした。
Anthropicはアメリカの会社です。
中国製のAIが、なぜかライバルであるアメリカ企業の名前を、自分の名前として口にした。これは何かの手がかりです。
今日は、この不思議な出来事の裏にある「蒸留」という技術と、それをめぐる米中のせめぎ合いを、順番に見ていきます。なお、これは安全保障もからむ、少しデリケートな話題です。

「蒸留」ってなに?

まず言葉から。
ここでいう蒸留（じょうりゅう）は、お酒づくりの話ではありません。
AIの世界の「蒸留」とは、かんたんに言うと"賢いAIのまねをして、小さく安いAIを育てる技術"のことです。

たとえるなら、勉強のしくみに似ています。
すごく優秀な先生（大きくて高性能なAI＝「教師モデル」)がいて、その先生が出した答えや考え方を、生徒（小さなAI＝「生徒モデル」)がノートに写して学ぶ。先生がどうやってその答えにたどり着いたかをまねすることで、生徒は短い時間で、先生にかなり近い実力を身につけられる。ゼロから全部自分で勉強するより、ずっと安く、ずっと速い。
これが蒸留です。

大事なのは、蒸留そのものは悪いことではない、という点です。
むしろAIの世界では、あちこちで当たり前に使われています。お金や設備が少ない会社でも、これを使えば良いAIを作れる。
いわば、みんなが強くなれる「近道」として役立ってきた技術なのです。問題は、この近道の「使い方」にありました。

何が問題になっているのか

アメリカの企業、たとえばOpenAIやAnthropicは、自分たちのAIを勝手に蒸留に使うことを、利用のルール（規約）で禁じています。先生役として無断で使わないでね、というわけです。

ところが、そのルールを破って、大規模にまねをしていた疑いが指摘されています。あるシンクタンク（政策の研究機関)が中国の学術論文や軍の論文をたくさん調べたところ、中国の一部の組織が、アメリカの最先端AIをこっそり「先生役」にして自分たちのAIを育てていた証拠が見つかった、というのです。こうした、ルール違反のやり方は「敵対的蒸留」と呼ばれます。

冒頭の「私はClaudeです」も、その名残と見られています。
まねをして育つと、先生のクセまで一緒に写してしまう。だから、うっかり先生の名前を自分の名前だと言ってしまう――そういうわけです。

まさに「馬脚をあらわす」ですね（"to give oneself away" — 隠していた本性がふとした拍子に見えてしまう、という意味です）。

さらに深刻なのは、その先が軍事につながっている疑いです。ある報告では、中国軍に関係する研究者が、アメリカのAIを使って軍のソースコードを要約させ、それをもとに軍のネットワークの中だけで動く国産AIを作った、と記されています。

いちばん怖いのは「安全装置が外れること」

ここが今日いちばん考えたいところです。
まねをして作ったAIには、ある重大な落とし穴があります。それは、元のAIに入っていた「安全のためのブレーキ」が、引き継がれないかもしれないということです。

もとのアメリカ製AIには、危険な使い方を断る仕組みや、悪用を防ぐ工夫がたくさん組み込まれています。ところが、出力の「まね」だけをして作ったAIには、そのブレーキがきちんと移っていない可能性がある。
ブレーキのない車を想像してみてください。速く走れても、止まりたいときに止まれない。安全装置の抜け落ちたAIが、監視カメラや軍事の分野で使われれば、何が起きるかわからない――そこが専門家たちの心配なのです。

しかも、調べられた証拠は「氷山の一角」だとされています。
中国の論文が世に出るまでには1〜2年かかるため、いま確認できるのは2023〜2024年ごろの、少し前の事例。つまり、今まさに進んでいることは、まだ表に出ていない。見えているのは過去のほんの一部だ、というわけです。

数字で見る「規模」

では、まねの規模はどれくらいだったのか。
ここは、あるアメリカのAI企業が公表した数字が具体的です。すべて公開された報告に基づくものです。

その企業の報告によれば、中国の3つのAI研究所が、約24,000個 "偽" のアカウントを使い、同社のAIと合計1,600万回を超えるやりとりをしていたとされます。
内訳を見ると、やりとりの回数はある研究所が約15万回、別の研究所が約340万回、いちばん多い研究所は約1,300万回。桁が大きく違います。これだけの量をまねの材料に集めていた、ということです。

「盗み」なのか、それとも「正当な学び」なのか

さて、ここで立ち止まりたい。この問題、実は見方が真っ二つに分かれています。

一方には、「これは技術の盗みであり、国の安全をおびやかす深刻な脅威だ」という強い見方があります。アメリカ政府も2026年に「産業規模のまね工作」と警告しました。

でも、もう一方に、冷静な反論もあります。
そもそも蒸留は業界で広く行われている手法で、あのイーロン・マスク氏でさえ、自社のAIがOpenAIのモデルを一部まねしたと裁判で認めている。
「AI企業はたいてい、おたがいにまねをするものだ」というわけです。
だから「まね」を何でもかんでも「窃盗」と呼んでしまうと、線引きがなくなってしまう、という指摘です。
しかも、まねを厳しく取りしまりすぎると、アメリカ自身の自由でオープンなAI開発まで縛ってしまう恐れもある。だからこそ、本当に問題なのは「まね」そのものより、偽アカウントでルールをかいくぐるような「不正なやり方」の部分だ、という整理です。

つまり、白か黒かではない。
同じ「蒸留」でも、正当なものと悪質なものをきちんと見分けることが大事だ、という点は、どちらの立場も実は共有しているのです。

で、私たちはどう受け止める?

遠い国の技術と安全保障の話に見えますが、私たちにも関わる視点が3つあります。

まず、AIを使う人へ。

あなたが日々使っているAIの「賢さ」や「安全さ」は、作った会社が莫大なお金と工夫をかけて育てたものです。それがまねされ、しかも安全装置だけ抜け落ちて広まる、という構図があることを知っておくと、AIのニュースの見え方が変わります。

次に、技術に関わる人へ。

蒸留は正当にも悪質にも使える両刃の剣です。「何を、誰が、どんな目的で」まねるのか――その違いが決定的だ、という視点は、これからの技術倫理の要になります。

最後に、ニュースを追う人へ。

「中国が盗んだ」という刺激的な見出しの裏には、実は「どこまでが盗みで、どこからが正当か」という、まだ答えの出ていない難しい問いがある。その問いごと受け取るのが、賢い読み方だと思います。

おわりに

「私はClaudeです」と答えた中国のAI。
その一言は、いまのAI競争のふしぎな姿を、そのまま映しているように思います。AIはもう、人間の知識だけでなく、他のAIをまねながら育つ時代に入った。その「まね」が、便利な近道にもなれば、国同士の緊張の火種にもなる。

大事なのは、「盗みだ」「いや正当だ」とどちらかに決めつけて満足することではなく、その線引きの難しさそのものを、いったん自分の中で抱えてみることだと思います。技術の話に見えて、実は「まねとは何か」「学ぶこととずるをすることの境目はどこか」という、とても人間くさい問いなのです。

あなたがもしAIを作る側だったら、他のAIから学ぶことを、どこまで「あり」だと考えますか。