ディープシークの新AIモデルがChatGPTを名乗る理由

■AI開発の境界線：DeepSeek V3がChatGPTの影に潜む■

中国のAI研究機関であるDeepSeekが、大規模ベンチマークで多くのライバルモデルを凌駕する「オープン」なAIモデルのDeepSeek V3を発表した。V3はサイズが大きいながらも効率性に優れており、コーディングやエッセイ作成などのテキストベースのタスクを難なくこなす。しかし、驚くべきことに、V3は自分自身をChatGPTと認識しているようだ。

各種プラットフォームでの投稿やTechCrunch独自のテストによると、DeepSeek V3は、OpenAIが開発したAI搭載チャットボットプラットフォームであるChatGPTとして自己認識している。詳細を尋ねると、V3はOpenAIのGPT-4モデルの2023年リリース版であると主張する。

この自己認識の奇妙さは、随所に表れている。DeepSeekのAPIに関する質問を投げかけると、V3はOpenAIのAPIの使用方法に関する指示を与えてくる。さらに、V3はGPT-4と同じジョークを言い、同じオチまで披露する。

■AIの迷走：学習データの汚染■

ChatGPTやDeepSeek V3のようなモデルは、統計的手法に基づくシステムである。膨大な数の例を学習することで、メールの「拝啓」に続く「貴殿」のようなパターンを認識し、予測を行う。

DeepSeekは、V3の学習データのソースについて多くを明らかにしていない。しかし、ChatGPTが出力したGPT-4テキストを含む公共データセットは数多く存在する。V3がこのようなデータセットで訓練された場合、GPT-4の出力を丸暗記して、そのまま再現している可能性がある。

「明らかに、モデルはどこかでChatGPTの生データを目にしており、それが見つかるのは時間の問題です」と、キングス・カレッジ・ロンドンのAI研究員であるマイク・クック氏はTechCrunchに語っている。「偶然の可能性もありますが、他のモデルの出力から直接モデルを訓練し、それらの知識に便乗しようとするケースも残念なことに見られます」

クック氏は、ライバルのAIシステムの出力を学習データとして使用するやり方は、幻覚や誤った回答などの問題につながるため、「モデルの品質にとって非常に有害」となり得ると指摘する。

「コピーのコピーを取ると、どんどん情報が失われ、現実とのつながりが薄れていきます」とクック氏。

また、このような行為は、システムの利用規約に違反する可能性もある。OpenAIの利用規約では、ChatGPTの利用者を含む製品のユーザーに対して、OpenAI独自のモデルと競合するモデルを作成するために出力を利用することを禁じている。

OpenAIとDeepSeekは、コメントの要請にすぐに応じていない。しかし、OpenAIのCEOであるサム・アルトマン氏は、金曜日にXでDeepSeekや他の競合他社に対する皮肉と見られる発言を投稿している。

「うまくいくことが分かっているものをコピーするのは（比較的）簡単です」とアルトマン氏は書いた。「自分の作品がうまくいくかどうか分からないのに、新しい、リスクの高い、難しいことに取り組むのは、非常に大変です」

DeepSeek V3は、自分自身のアイデンティティを誤認する最初のモデルではない。GoogleのGeminiなどのモデルも、競合他社のモデルであると主張することがある。例えば、中国語で尋ねると、Geminiは中国企業BaiduのWenxinyiyanチャットボットであると答える。

その背景には、AI企業が学習データの多くを入手するWeb上に、AIによる低品質なコンテンツが大量発生していることがある。コンテンツファームは、AIを利用してクリックベイトを作成している。RedditやXには、ボットが氾濫している。ある推定によると、2026年までにWebの90％がAI生成コンテンツになる可能性がある。

この「汚染」により、学習データセットからAIの出力を完全にフィルタリングすることが非常に困難になっている。DeepSeekがChatGPT生成テキストで直接V3を訓練した可能性は確かにあり、Googleも同じことをしたと非難されたことがある。

AI Now Instituteの主任AIサイエンティストであるハイディ・クラアフ氏は、既存モデルの知識を「蒸留」することによるコスト削減は、リスクに関係なく開発者にとって魅力的である可能性があると述べている。

「インターネットのデータが今やAI出力で溢れかえっているとしても、ChatGPTやGPT-4の出力を誤って学習したとしても、他のモデルが必ずしもOpenAIのカスタマイズされたメッセージを連想させるような出力を示すわけではありません」とクラアフ氏は言う。「もしDeepSeekがOpenAIモデルを使用して蒸留の一部を行ったとしたら、驚くことではありません」

しかし、より可能性が高いのは、ChatGPTGPT-4のデータが多数、DeepSeek V3のトレーニングセットに入っていることだ。それは、このモデルはまず、自らを識別することに信頼できないことを意味する。しかし、さらに懸念されるのは、V3がGPT-4の出力を無批判に取り込み、反復することで、GPT-4のバイアスや欠陥の一部を悪化させる可能性があることだ。

TechCrunchでは、AIに焦点を当てたニュースレターを配信しています。毎週水曜日に受信トレイに届くよう、こちらからサインアップしてください。