AIは賢いのに“詰む”──元OpenAI研究VPが語る最大の壁
「強化学習（RL）をスケールすれば、AIはどこまで行けるのか？」――この問いに、研究現場の内側から率直に答えるのが、Jerry Torque（元OpenAI研究担当VP）です。インタビューでは、“スケーリングが効く領域／効きにくい領域”、AGIの現実的なボトルネック、そして、「大規模ラボで研究すること」の功罪が語られました。本稿では、専門用語をほどきつつ、彼の発言を軸に要点を整理します。
1. スケーリングの現実：「学習したことは強いが、学習してないことは弱い」
Torqueは、事前学習（次トークン予測）とRLの両方について、効果は「現実的で、予測可能で、強い」と述べます。要点はシンプルです。
事前学習を増やせば、モデルは「世界について知り、言語を理解し、言語的な世界モデルをつくる」
RLを増やせば、モデルは「狙ったスキルを獲得する」
その一方で、限界も同じく明確です。Torqueの言葉を借りれば、「you get what you train for（学習させたものが手に入る）」。つまり、
「RLしていないタスク」*は、当然ながら得意になりにくい
「事前学習コーパスに無い知識」*は、出にくい
問題は「学習外への一般化（generalization）」
ここから、議論は二派に分かれます。
派①：RL/事前学習のスケールだけで、いずれ一般化が見えてくる
派②：どこかで新しい原理・学習様式が必要になる
Torqueは、後者に寄りつつも、まず前者の“経済合理性”を認めます。四半期ごとに各社が強いモデルを出すのは、計算資源だけでなく、「前モデルが弱い箇所に刺さるデータを足している」からだ、という見立てです。
2. RLの難所：報酬が作れない仕事は「強くしにくい」
RLが効きやすい領域の共通点は、「良し悪しの判定（フィードバック）が取りやすい」こと。競技プログラミングや数学のように、正解が比較的はっきりしている領域は伸びやすい。
一方で、Torqueは、書籍執筆や起業のような領域を例に、こうした仕事は「評価が遅い／曖昧／ノイズが多い」と指摘します。
「本が良いかどうかは、売れるまで分からないこともある。しかも売上はマーケの影響も大きい」
「起業の成否は5〜10年後に分かる。初期行動の良し悪しと運の切り分けも難しい」
この視点を一般化すると、RLのボトルネックは、「能力」よりも“報酬設計と検証のコスト”にあります。医療や法務、会計のような領域も、ルール化・レビュー体制・成功条件の定義ができるほど学習可能性は上がるが、「どこまで“例外”や“創造性”を評価できるか」が難所になる、という整理です。彼は外科医を例に、熟練者が既存手順を破って成功する瞬間がある、と語りました。
3. AGI観のアップデート：「行き詰まりから“自力で抜け出せない”」
Torqueが最も強調したのは、現行モデルの“壁”です。モデルは強力な加速装置になった一方で、失敗すると急に「詰む」。
「最大の限界は、失敗から信念や内部知識を更新できないこと」
「エラーを貼って“try harder”と励ます往復はできるが、根本的に自力で抜け出せない」
彼の定義では、“Intelligence finds a way（知性は道を見つける）”。つまり、問題を探り続け、試行錯誤で突破する粘りが必要で、現行の静的モデルはそこが弱い。ここが、彼のAGIタイムラインを「少し長めにした」理由です。
また、AGIの定義自体が主観的であることも認めつつ、「静的モデルだけではAGIにならない」という結論に近づいています。
4. 継続学習（Continual Learning）：必要条件は「学習の頑健性」
継続学習を可能にする核心として、Torqueは、学習プロセスの“脆さ”を挙げます。深層学習は、放っておくと崩れる／変なモードに落ちる。
「人間の学習はもっと反脆弱（anti-fragile）だ」
「人間の脳は、情報を得た後に“支離滅裂になる”ことが稀だが、AIは起きうる」
継続学習が難航している理由としては、「スケールが必要で、実験が高価」という現実も示されました。小規模実験で突破できるタイプの課題ではなく、一定以上の計算資源と実運用に近い条件が要る――この制約が、研究の進度を決めているという見方です。
5. ラボの収斂と経済圧力：みんな同じ形の飛行機になる
なぜ各社のアプローチが似てくるのか。Torqueは、「商業航空機が似た形になる」比喩で説明します。市場競争が効率的になるほど、最適解（らしき形）に収斂し、探索（exploration）は難しくなる。彼はこれを「囚人のジレンマ」に近いと述べ、外れ値の探索は市場シェアを失うリスクを伴う、と整理しました。
それでも先行者利益は強い。OpenAIが、大規模事前学習をいち早くやり切り、さらに大規模RLで先行したことが、長いリードを生んだという評価です。
6. 「研究」と「集中」：Anthropicがコーディングで勝った理由
コーディング領域での成功要因を、Torqueはほぼ一言で片付けます。
「Focus can explain 95% of things（集中で95%説明できる）」
彼の見立てでは、Anthropicは、長期間コーディングに張ってきた。その積み上げが、エージェント的な開発体験を押し上げた。対照的に、OpenAIは、消費者向けプロダクトに寄った時期に「コーディングで一度フォーカスを失い、代償を払った」とも語っています。
そして、未来像は明快です。
「人間がコードを打つ時代は薄れる」
代わりに重要になるのは、仕様・検証・信頼性（書いた本人が読まないコードをどう正しくするか）
これからのスキルは、“ジュニアエンジニアの良いマネージャー”に近い
深く理解しつつ、一定の裁量を渡し、結果に責任を持つ
7. 良い研究者の条件：システム×理論、そして「勇気」
最後に、Torqueが語った研究者像は示唆的でした。
システム・実装と理論の両方に強いこと（片方だけでは伸びにくい）
集団思考から離れて独立に考えること
“勇気”：皆が信じていない道を提案し、コストの高い実験を未知に投じる胆力
彼の辛口な比喩が刺さります。
「同じことを考える研究者が100人いても、実質1人だ」
読後のまとめとして、Torqueのメッセージは「スケーリングは強い。しかし“詰んだ後に抜け出す知性”はまだ弱い」。そして、その突破口としての継続学習や学習の頑健性、研究の探索に再び賭ける必要性が浮かび上がります。Jacob Efron（番組ホスト）が引き出したのは、技術論だけでなく、経済圧力の中で研究がどう歪むか、そして研究者がどこで勝負するか、という生々しい現実でした。
