「AGIは10年先」— OpenAI/Teslaの天才A.カルパシー氏が語るAIのリアルな未来とビジネスの罠
AI研究の最前線を走り続けてきたアンドレイ・カルパシー（Andrej Karpathy）氏。TeslaのAI部門を率い、OpenAIの創設メンバーでもある彼が、最近のポッドキャストで語ったAIの現状と未来に関する深い洞察が注目を集めています。
彼は、現在のAI開発の方向性、強化学習（RL）の限界、そしてAGI（汎用人工知能）が社会に与える影響について、独自の鋭い視点を示しました。本記事では、専門的な内容を分かりやすく解き明かすカルパシー氏の言葉から、AIの「今」と「これから」を探ります。
1. 「エージェントの年」ではなく「エージェントの10年」
2024年が「AIエージェントの年」になるとの予測が飛び交う中、カルパシー氏はこの熱狂に冷や水を浴びせます。
「『エージェントの10年』という言葉は、既存の『エージェントの年になる』という予測への反応です。業界ではいくつかの過剰な予測が行われており、私はそれに触発されました。」
彼によれば、AGI（汎用人工知能）の実現はまだ10年先であり、現在のAIエージェントはその初期段階に過ぎません。では、何がボトルネックなのでしょうか？
「実際にそれを機能させることです」と彼は断言します。現在のAIが人間のように「インターン」や「従業員」として機能しない理由は、単純に能力が不足しているからです。
「なぜ今日（AIを従業員として）使わないのか？ それは、彼らが単に機能しないからです。知能が十分でなく、マルチモーダルでもなく、継続的な学習もできません。……認知的に欠けており、うまく機能していないのです。」
彼は、これらの根本的な課題を解決するには、1年ではなく10年単位の時間が必要だと強調します。
2. AIの進化と強化学習の「過ち」
カルパシー氏は、AI開発の歴史を振り返り、いくつかの重要な「地殻変動」があったと語ります。その一つが、AlexNet（2012年）に代表されるディープラーニングの台頭です。
しかし、その後のトレンドとなった強化学習（RL）については、批判的な見解を示します。特に、AtariゲームやDotaのようなゲーム環境に過度に焦点を当てた初期OpenAIの戦略を、彼は「少し道を誤った（a bit of a misstep）」と評価します。
「私は、ゲームがAGIにつながるという考えには常に少し懐疑的でした。私の心の中では、会計士のような、実世界と対話する何かが欲しかったのです。」
彼が本当に求めていたのは、キーボードとマウスを使ってウェブページを操作するような、デジタル世界で知識労働を行えるエージェントでした。しかし、当時はその試みは早すぎました。
成功の鍵は、まず大規模言語モデル（LLM）によって、強力な「表現力（representation power）」を獲得することでした。まず言語モデルを構築し、その上にエージェント機能を構築する。この順序が不可欠だったのです。
3. なぜAIは「動物」ではなく「幽霊」なのか？
カルパシー氏の洞察の中で最も示唆に富むのが、AIと生物の進化を比較したこの比喩です。彼は、AI開発を動物の進化になぞらえることに強い警戒感を示します。
「私は動物との類推には非常に慎重です。なぜなら、彼らはまったく異なる最適化プロセスによって生まれたからです。動物は進化し、膨大な量のハードウェアが組み込まれています。」
彼はシマウマを例に出します。「シマウマは生まれて数分後には走り回り、母親についていきます。これは強化学習ではありません。それは組み込まれている（baked in）のです。」
進化は、DNA（ATCG）という限られた情報の中に、脳の神経回路の重みをエンコードする方法を見つけ出しました。しかし、私たちが現在行っているAI開発は、そのプロセスとは全く異なります。
「私の投稿では、『我々は動物を構築しているのではない』と言いました。我々は幽霊（ghosts）や精神（spirits）を構築しているのです。……なぜなら、我々は進化による訓練ではなく、人間と彼らがインターネット上に置いたデータの模倣（imitation）による訓練を行っているからです。」
AIは生物学的な制約から解放された、完全にデジタルな存在であり、人間を模倣することで生まれた「この世ならざる精神的な存在（ethereal spirit entities）」であると彼は表現します。
4. 強化学習（RL）への痛烈な批判：「ストローで監視を吸う」
カルパシー氏は、現在の強化学習（RL）の手法を「ひどい（terrible）」と一蹴します。その最大の問題は、報酬シグナルの扱いです。
例えば、AIが数学の問題を解こうとする場合、RLは数百の異なる試行（ロールアウト）を並行して行います。そして、最終的に正解にたどり着いた試行（軌跡）全体に対して「もっとこれをやれ」と報酬を与えます。
「問題は、正解にたどり着くまでに間違った道を通ったかもしれないのに、正解したというだけで、その途中で行ったすべての間違ったことまで『もっとやれ』とアップウェイト（強調）されてしまうことです。これはひどい。ノイズです。」
彼はこの非効率的なプロセスを、「ストローで監視（supervision）を吸っている」ようだと痛烈に批判します。
「すべての作業を終えた後、最終的に『ああ、正解した』という単一の数字（報酬）を得る。そのビットの監視をストローを通して吸い上げ、それを軌跡全体にブロードキャストしている。馬鹿げていてクレイジーです。人間は決してこんなことはしません。」
人間は、単に結果を見るだけでなく、プロセス全体を「レビュー（内省）」し、「この部分は良かったが、ここはダメだった」と自己評価しますが、現在のLLMにはその機能がありません。
5. AIの認知と学習のメカニズム
では、AIはどのようにして「賢く」なるのでしょうか。カルパシー氏は、LLMの学習プロセスに二重の構造があると分析します。
5-1. 「知識」と「認知的コア」
事前学習（Pre-training）は、インターネット上の膨大なテキストを圧縮する過程で、「知識（事実の記憶）」と「知能（アルゴリズムや推論能力）」の両方を同時に獲得します。
しかし、カルパシー氏が理想とするのは、この二つを分離することです。
「私がやりたいのは、知識（メモリ）を取り除き、この『認知的コア（cognitive core）』を保持する方法を見つけることです。 それは、知性の魔法、問題解決、その戦略といったものを含む、知識から切り離された知的な存在です。」
5-2. コンテキスト内学習 vs 訓練
彼は、AIの「記憶」を人間の記憶にたとえて説明します。
訓練で得た重み（パラメータ）: 「あなたが1年前に読んだことについての、曖昧な記憶（hazy recollection）のようなものです。」（長期記憶）
実行時に与えられるコンテキストウィンドウ: 「ニューラルネットが非常に直接的にアクセスできる、作業記憶（working memory）のようなものです。」（短期記憶）
5-3. 人間は「忘れる」から賢い
さらに彼は、LLMが「記憶しすぎること」が欠点であると指摘します。
「LLMは暗記が非常に得意です。……一方で、人間が暗記がそれほど得意でないのは、実際にはバグではなく特徴（feature）なのです。なぜなら、そのおかげで我々は、より一般的なパターンを見つけることを余儀なくされるからです。」
AIが人間のような柔軟な知性を獲得するには、単なる記憶力ではなく、一般化する能力、すなわち「認知的コア」をいかに洗練させるかにかかっています。
6. 自動運転の教訓とAIの未来予測
カルパシー氏は、Teslaでの自動運転開発の経験から、AI技術の実用化に関する重要な教訓を語ります。
6-1. 「デモから製品まで」の壁
自動運転の「デモ」は1980年代から存在し、彼自身も2014年にはWaymoの完璧なデモ走行を体験していました。しかし、そこから製品化までは長い道のりでした。
「デモは非常に簡単ですが、製品は非常に難しいのです。特に自動運転のように、失敗のコストが高すぎる場合はなおさらです。」
彼はこのプロセスを「9の行進（march of nines）」と呼びます。信頼性を90%から99%に上げ、次に99.9%に、さらに99.99%にする作業です。そして、「すべての『9』（桁）は、同じ量の仕事を意味します」と語り、信頼性の最後の1%を詰めることの困難さを強調します。
6-2. AGIはGDPを爆発させるか？
多くの人が期待する「AGIによる経済的特異点（シンギュラリティ）」について、カルパシー氏の予測は驚くほど冷静です。
彼の答えは「No」です。
「コンピューターや携帯電話がGDPに現れなかったのと同じです。GDPは同じ指数関数を描いています。……AIでもまったく同じことが起こるでしょう。それは単なる自動化の進展であり、最終的には同じ指数関数に収束します。」
彼は、AGIが社会を劇的に変えるというよりも、コンピューターやインターネットがそうであったように、既存の経済成長（米国で約2%）のトレンドラインの中に徐々に溶け込んでいくだろうと予測しています。
7. 結論：AI時代の人類のエンパワーメント
カルパシー氏は現在、AIラボの最前線から離れ、「Eureka」という教育プロジェクトに注力しています。その動機は、AIがもたらす未来へのある種の懸念です。
「私の個人的な最大の恐れは、このすべてが人類の傍らで起こり、人類がそれによって力を奪われる（disempowered）ことです。映画『WALL-E』や『イディオクラシー』で描かれているような、人類が傍観者になる未来を最も恐れています。」
彼が目指すのは、AIに取って代わられるのではなく、AIを使いこなし、共に進化できる人類を育てることです。
「私は人類が未来において豊かであってほしい。」
そのために彼は、AI時代の「宇宙艦隊アカデミー（Starfleet Academy）」を創設し、教育を通じて人類をエンパワーメントすることに情熱を注いでいます。彼にとって教育とは、「知識へのランプ（傾斜路）を作る技術的なプロセス」であり、AIという強力なツールを誰もが使いこなせる「超人（superhuman）」にするための挑戦なのです。
