スケールの時代は終わった──Ilya Sutskeverが語る『研究の時代』と“安全な超知能”の条件
2020年代前半のAI産業は、「モデルを大きくし、データと計算資源を増やせば性能は上がる」という、非常にシンプルで強力な指針のもとで進んできました。GPT-3以降の大型モデルは、その成功パターンを体現してきた存在と言えます。
しかし、OpenAI共同創業者であり、現在はSSI（Safe Superintelligence Inc.）を率いるIlya Sutskeverは、この流れが転換点に来ていると見ています。彼はインタビューの中で、「私たちはスケーリングの時代から、再び研究の時代へ移行している」と述べました。
本記事では、彼の発言を手がかりに、なぜ「スケール一辺倒」の戦略に限界が見え始めているのか、今後どのような研究課題が重要になるのか、そしてSSIがどのような世界観のもとで“安全な超知能”を構想しているのかを整理していきます。
1. スケーリングの時代の終焉
1-1. スケール戦略の成功と違和感
近年のAI開発では、より大きなモデルに、より多くのデータと計算資源を注ぎ込むことで、性能を継続的に引き上げてきました。この「スケーリング則」によって、企業は結果の読める投資が可能になり、巨大なGPUクラスターへの投資が正当化されてきました。
しかし、Sutskeverは、現在の状況には明確な違和感があると指摘します。モデルの能力は、さまざまな評価指標（eval）上では飛躍的に向上しているのに、その経済的インパクトや、現実世界における使われ方は、それに見合うほど劇的には変わっていないというギャップが存在するからです。実際、コード生成モデルは、コンテスト形式の問題には強くても、実務のコードベースでは、バグ修正の過程で同じミスを繰り返す場面が少なくありません。文章生成モデルも、読みやすいテキストは書けるものの、企業の業務プロセスを根本から変えるところまでは到達していないケースが多いのが実情です。
Sutskeverは、「モデルはとても賢く“見える”のに、その賢さが経済的価値や社会的インパクトとしては十分に現れていない」という点こそ、スケーリングの限界が見え始めているサインだと考えています。
2. なぜAIは人間ほど一般化できないのか
現代の大規模モデルは、人類史上例のない量のテキストやコードを学習しています。それにもかかわらず、人間のように少ない例から本質をつかみ、文脈を読み取り、新しい状況に柔軟に対応する力は、いまだ十分に備えていません。
2-1. 2人の学生の比喩：やり込みと“伸びしろ”の違い
Sutskeverは、競技プログラミングを題材にした比喩を使って説明します。ひとりは、競技プログラミングで世界一になることを目指し、1万時間を費やしてすべての問題パターンとテクニックを叩き込んだ学生です。もうひとりは、100時間ほど興味本位で練習し、そこそこの成績を収める程度にとどめた学生です。
この2人が社会に出てキャリアを積んだとき、長期的に活躍する可能性が高いのは、多くの場合、後者だと彼は言います。前者は、特定の競技環境では圧倒的に強いものの、その能力が他領域に転移しにくい一方、後者は、「余白」や「伸びしろ」があり、別の分野に学び直していく柔軟性を保っているからです。
Sutskeverは、現在のモデルが前者の学生に近い存在だと見ています。競技プログラミングや特定のベンチマークに最適化されすぎており、結果として、現実世界での多様な課題に対して一般化する力が不足しているというわけです。
2-2. 人間だけが持つ“It factor”
もうひとつ、Sutskeverが重視する概念が「It factor」です。これは、単に勉強時間の多いか少ないかでは説明できない、人間の「うまい学び方」や「本質をつかむセンス」を指しています。彼の感覚では、人間は新しい仕事や環境に置かれたとき、明確な報酬信号がなくても、自分で試行錯誤しながら何が重要かを抽出し、短期間でそれなりに使えるスキルセットを構築してしまいます。
一方、現在のAIモデルは、細かく設計された報酬やタスク設定がなければうまく学習できず、その意味で「It factor」が欠けていると彼は見ています。この“人間らしい学習の上手さ”を、どのような機械学習の原理として形式化するのか——ここに、次の研究の焦点があるという指摘です。
3. 感情と価値関数：AIが欠けている意思決定の基盤
Sutskeverは、感情と意思決定の関係についても深く踏み込んでいます。ある神経科学の症例では、脳の損傷によって感情の処理だけが失われた人が報告されています。この人物は、論理的なテストやパズルを解く能力は保たれていたにもかかわらず、日常生活の中でほとんど何も決められなくなったと言います。靴下の色を選ぶだけで何時間もかかり、金融的な判断も極端に下手になってしまったのです。
この例からSutskeverが導く洞察は、感情が単なる“ノイズ”ではなく、「価値関数」としての役割を担っているということです。私たちは、嬉しさ、不安、退屈、恐れといった感情を通して、「今の行動は良さそうか、悪そうか」「この方向性は続けるべきか、引き返すべきか」といった直感的な評価をリアルタイムで行っています。この評価があるからこそ、人間は教師なしに自己修正し、複雑な環境の中で方針転換をしながら学び続けることができます。
対照的に、現在主流のRL（強化学習）では、長い軌跡をたどったあとで最終スコアを受け取り、そのスコアを遡って学習するという、非常に“後ろ向き”の学習が行われています。中間の状態で、「これは危なそうだ」「このまま行っても得るものがない」といった感覚的な価値評価が、うまく組み込まれていないのです。Sutskeverは、ここに人間とAIの学習効率の大きな差があると見ています。
4. なぜ研究の時代に戻るのか
Sutskeverは、「100倍スケールすれば、世界が一変するのか？」という問いを投げかけます。確かに、モデル規模や計算量を増やせば、精度は上がり、できることも増えるでしょう。しかし、現状見えているギャップ——すなわち、eval上の性能と実経済へのインパクトの乖離や、人間に比べた一般化能力の低さ——を、スケールだけで埋めきれるとは、彼は考えていません。
そのため、彼は、AIの歴史を、「2012〜2020年の研究の時代」「2020〜2025年前後のスケーリングの時代」、そして、「今後訪れる研究の時代」という三つのフェーズに分けて捉えます。初期の深層学習は、少ない計算資源の中でアイデアを競う“研究駆動”の時代でした。続くスケーリングの時代は、成功レシピが確立し、それをどこまで拡大できるかが勝負の軸でした。そして今、計算資源は十分に大きくなり、データも有限が見えつつある状況で、「そもそもどのような学習原理を採用すべきか」という出発点に、再び立ち返りつつあるというのです。
5. SSIの戦略：安全な超知能への“ストレートショット”
Sutskeverが新たに立ち上げたSSIは、自らを「スケーリングの時代ではなく、研究の時代に属する会社」と位置づけています。資金調達規模だけを見れば、他の大手AI企業に比べて劣るように見えるかもしれません。しかし、彼によれば、大規模プレイヤーは、推論インフラや多様なプロダクトラインの維持に膨大な計算資源を割いており、純粋な研究に投入できるリソースとしては、見かけほどの差はないという見方を示しています。
さらに、SSIは、短期的な市場競争に翻弄されるよりも、超知能に至るための「正しい技術的ルート」を探ることに集中する姿勢を明確にしています。プロダクトを段階的に出しながら資金とデータを集めるという従来のパターンではなく、「安全で強力な超知能」を目指すための技術的ブレークスルーそのものにフォーカスする点が、他社との大きな違いだと言えます。
6. 超知能の社会実装と安全性：段階的デプロイの重要性
興味深いのは、Sutskever自身が、AIの安全性と社会実装に関する考え方をアップデートしている点です。かつては、ある程度「理論的な議論と設計」で対応できると考えていた部分について、今は「人類は実際にAIを体験してみないと、本当の意味では理解できない」という立場を強めています。
彼は、今の時点でも多くの人が「AGI」や「超知能」を抽象的な概念としてしか捉えられていないと指摘します。そうした状況では、どれだけ論文やエッセイでリスクや可能性を説明しても、社会全体の認識や行動は大きく変わりにくいというのです。そのため、ある程度の段階的なデプロイを通して、AIの力を実感してもらうことが不可欠だと考えています。
同時に、AIが実際に「強さ」を帯び始めると、企業側の姿勢も変わると彼は予測しています。今は、モデルの限界やミスがよく見えるために、逆説的に「そこまで危険ではない」と感じてしまう部分があります。しかし、より一貫して高い能力を示すようになれば、フロンティア企業は自らの作っているものの「本当の危険性」を肌で感じ、よりパラノイドに安全性へと舵を切らざるをえなくなる、というのが彼の見立てです。
7. 結論：これから問われるのは、「どれだけ大きいか」ではなく「どう学ぶか」
Ilya Sutskeverの議論は、AI開発の焦点が「どれだけスケールするか」から、「どのような学習原理を採用し、どのような価値関数と一般化能力を持つシステムを作るか」へと移りつつあることを示しています。
彼は、人間の学習が持つ二つの特徴、すなわち「サンプル効率の高さ」と「価値関数（感情）による自己修正能力」が、現在のモデルとの決定的な差だと見ています。そして、その差を埋める新しい原理こそ、これからの「研究の時代」における最大のテーマになると主張しています。
SSIは、その原理を探るために意図的に「研究会社」であることを選び、短期的な市場競争から距離を取りながら、安全な超知能へのルートを模索しようとしています。スケーリングの成功体験があまりにも強かったこの数年のあとで、「本当に問うべき問いは何か」を、あらためて突きつける試みだと言えるでしょう。
