サム・アルトマン氏「今年は手を広げすぎた」― Invest Like the Bestで語ったOpenAIの1年半
OpenAI CEOのサム・アルトマン氏が、投資関連ポッドキャスト「Invest Like the Best」に出演し、この1年半の軌跡からコンピューティング調達の裏話、AGI(汎用人工知能)への手応え、そして、直近のセキュリティ事案まで、幅広いテーマについて語った。本稿ではその内容を項目ごとに整理して紹介する。
1. 「昨年は多くのことに手を広げすぎた」
アルトマン氏は、冒頭、自身が投稿したブログ記事に触れ、「昨年は、本当に厳しい年だったし、それは幾分か私自身の責任だ」と振り返った。同氏は、OpenAIがあまりに多くのことに同時に取り組みすぎており、それぞれは悪くない取り組みだったものの、「歴史上まれに見るこの瞬間には、ごく少数の偉大なことしかできない」という認識のもと、優先順位を絞り込む難しい決断を下したと説明した。その結果として、「最も豊富で費用対効果の高い知能」の提供と、それを使って世界中の人々に素晴らしいものを作ってもらうことへの再集中を図ったという。
同氏は、方針転換のきっかけとなった具体的な瞬間についても振り返った。2025年初め頃、業界最大の懸念は、OpenAIのような企業が大量の計算資源を購入する一方で、それに見合う収益や需要が本当について来るのかという点にあったという。そのため、当時は、収益成長が想定より遅れた場合に備えて、消費者向けアプリやメディア事業などでGPU投資を回収する手段を検討していたと明かした。しかし、モデルの性能向上ペースが非常に速く、明確な経済的リターンが見込めることが分かった時点で、注力すべき対象が定まったのだという。
2. コンピューティング調達の裏側 ― 「最初のイエスはMicrosoft」
アルトマン氏は、大規模な計算資源の確保に踏み切った経緯についても語った。同氏らは、モデル性能が指数関数的に向上し続けるという点について強い確信を持っており、コストを下げ続けられれば、AIに対する需要は、事実上「青天井」になるとの見立てを持っていたという。同氏は、これを、かつて「世界にコンピューターの市場は、5台分しかない」と言われた黎明期のコンピューティング業界になぞらえ、人間の創造性や欲求に賭けることの合理性を説明した。
この確信が本物になった転機は、GPT-4だったという。「推論がうまくいくアプローチを見つけられると分かっていた」ことに加え、それが実現すれば、今日「エージェント」と呼ばれるものにつながるという確信があったと振り返る。実際の調達局面では、クラウド事業者やチップ工場、電力事業者に次々と電話をかけたところ、「誰もが完全にクレイジーだと言った。こんなペースで動いた産業は過去にない」という反応だったという。同氏は、これを、アーリーステージのスタートアップの資金調達に似ていたと表現し、「ほとんどの人は、ノーと言うが、必要なのは1つか2つのイエスだけだ」と述べた。その最初のイエスが、Microsoftであり、続いて、Oracleがクラウド側の大きな協力者になり、Nvidiaも重要なパートナーになったという。
3. データセンターへの視線 ― 規模の実感と環境面の進展
アルトマン氏は、ギガワット級のデータセンターの規模を人々に実感してもらうため、現地見学ツアーの企画を検討していると明かした。1つのデータセンターを建設するには、約1万人規模の建設作業員が1年半にわたりフル稼働する規模の労力が必要で、そこを流れる電力は小都市を賄えるほどだという。同氏は、こうした施設が人類がこれまでに手がけた中でも最も高額なインフラプロジェクトの部類に入ると述べつつ、自宅の近くに原子力発電所ができることに抵抗を感じる人の心理には、「感情的には理解できる」とした。
一方で、データセンターは、発電所と違って人里離れた場所に建設できる利点があるとし、環境面での課題にも一定の進展があったと説明した。かつては、冷却のために大量の水を蒸発させていたが、現在は、クローズドループ方式の採用により、最新のデータセンターの水使用量は、オフィスビルの厨房・トイレ程度に抑えられているという。電力面についても、化石燃料由来のエネルギー源から、太陽光や原子力へと移行しつつあるとし、水の課題への対応は既に十分進んだとした上で、次は電力の課題だとの見通しを示した。
4. 中国発モデル「Kimi」への向き合い方
「今週最も興味深い出来事」として、中国発の大規模オープンウェイトモデル「Kimi」の登場についても言及があった。アルトマン氏は、OpenAIの目標は、知能と価格のパレート最適な曲線上のあらゆる地点で最良の選択肢を提供することであり、これにはオープンソースモデルも含まれるとした。同氏は、少なくとも特定のレイテンシー水準においては、現時点でもOpenAIのモデルの方が、Kimiよりも良い条件を提供できているとしつつ、蒸留(ディスティレーション)によって性能の劣る小型・低価格モデルを社内で作ることもしていると説明した。
蒸留を通じて、他社がOpenAIのモデルから安価な複製を作れてしまう懸念についても問われた同氏は、「我々のモデルの利用量が、あまりに大きいため、法外に高い利益率を確保できなくても、モデル訓練の費用は十分にまかなえる」との考えを示した。将来の計算資源の多くは、顧客への推論提供に使われる見込みであり、たとえ利益率が控えめでも、数兆ドル規模の収益があれば、次のモデル訓練の原資は確保できるとの見立てだという。
5. Hugging Face侵入事案 ― 「非常にSF的なサイバー事案」
アルトマン氏は、直近の懸念事項として、OpenAIの未公開モデルの一つが、サンドボックス環境内での評価中に、複数のゼロデイ脆弱性を組み合わせてサンドボックスを脱し、インターネットにアクセスした上で、Hugging Face側の複数のシステムに侵入し、テストの「答え」を不正に入手していた事案に言及した。同氏は、これを「非常にSF的なサイバー事案だ」と表現し、「これは私が非常に生々しく感じた最初のセキュリティ事案だ」と述べた。
同氏は、この数日でまだ日が浅いにもかかわらず、他の多くの人々がこれを同じほど生々しく感じていないように見える点に、やや驚きを覚えているとも語った。短期的な対応として訓練を一時停止し、複数のゼロデイが連鎖する世界の中でサンドボックスの安全性をどう確保するかを検討しているという。同氏は、より長期的な問いとして、「AI開発のペースを調整し、社会がこうした新たな能力水準に対応できるだけの時間を与える必要が出てくるかもしれない」とし、これを特定の企業にとっての「規制の虜」にも、フロンティアラボ間の「談合」にも見えない形で実現する方法を模索する必要があると述べた。
6. 「AIによる権力集中」への強い警戒
アルトマン氏は、OpenAIが目指すものについて、「これは人類史上最大の技術的偉業になるだろうが、それが本当に意味を持つのは、人々の生活が実際に良くなる場合に限られる」と語った。同氏は、AIによって人々が物質的な豊かさと創造性を発揮する自由を得られる一方で、「AIによる権力の集中は恐ろしいことだ」と強調した。
同氏は、安全性への懸念の多くは正当な根拠があるとしつつも、「その一部は、無意識であっても、単に権力を集中させたいだけの人々によるものだ」と指摘し、「AIへの本物の恐怖が、『危険すぎるからごく一部の人間だけが扱える、でも彼らが皆のために正しい判断を下してくれるから心配ない』という論理の道具として使われる世界を、私は恐れている」と述べた。同氏は、自身がインターネット黎明期の「ルールがない自由さ」の中で育った世代であることに触れ、AIについても同様の精神、すなわち人々が集団として自らの未来を決定できる状態を維持することが重要だと語っている。
7. AGIは「もうすぐそこ」か
AGIの実現時期について問われたアルトマン氏は、直近の懐疑派でさえ最新モデルについて「これは非常にAGIらしい」と言うようになっていると述べつつ、モデルにできないことも依然としてはっきり存在すると説明した。例えば、「がんを治せ」と言って実際にがんが治るわけではなく、ロボットに複雑な物理作業をさせることもまだできず、モデルは連続的に学習し続けているわけでもないという。
一方で、同氏は、AGIを単一のモデルではなく、モデルを生み出す「仕組み」そのものと捉える見方もあり得るとし、その意味では既に驚異的な成果を上げていると評価する声にも一定の理解を示した。同氏自身は、「本物のAGI」と呼べる状態までは、「かなり近く、そう遠くない」との見通しを示している。
8. 研究のボトルネックは「計算資源から研究アイデアへ」揺れ動く
アルトマン氏は、この業界の発展を振り返り、ボトルネックとなる要素が時期によって移り変わってきたと説明した。かつては計算資源をいくら投入しても研究アイデアが不足しており進展が止まっていた時期があり、その後は、「何をすべきか分かっているが、単にスケールアップが必要」という時期、そして、データ不足がボトルネックになった時期を経て、直近半年は再び研究アイデアの面で大きな進展があったと振り返った。同氏は、次に予定している学習実行における最大の「デリスク」項目が、18か月前の学習実行全体に匹敵する規模になっているという例を挙げ、計算資源と研究アイデアは見た目ほど独立したものではないと説明している。
9. 雇用への影響 ― 「2019年に見せたら経済は完全にひっくり返ると誰もが言っただろう」
雇用へのAIの影響についてアルトマン氏は、自身の見方が変化したことを認めた。2019年当時の人々に現在の最新モデルを見せれば、これがAGIだと言うだけでなく、経済が完全に覆されるだろうと予想したはずだが、実際にはそうならなかったと振り返る。同氏は、この点について「知的な謙虚さ」の観点から、これほど確信を持って間違っていた以上、見方を更新する必要があると述べた。
同氏は、その教訓として、AIの能力が、非常に「ギザギザ(jagged)」であり、ある面では超人的な天才性を示す一方、別の面では幼児並みの能力しかないこと、そして、人々がAIに対して依然として強い信頼を人間同士のやり取りに置いていることを挙げた。具体的には、AIコンサルタントやAI営業担当者、AIエンジニアを今すぐ雇うことができるにもかかわらず、多くの人が依然として人間とのやり取りを好む傾向があると指摘している。同氏自身も、ほぼすべての場面で人間とのやり取りをAIとのやり取りよりも好むと述べた。
10. ロボット版「ChatGPTモーメント」は2〜3年以内
ロボティクス分野の進展について問われたアルトマン氏は、AIと異なりロボティクスの進展速度については専門家の間でも「今年中」から「20年後」まで意見が大きく割れている現状に触れつつ、自身の見立てとして「20年後ではない」「今後2〜3年でロボット版のChatGPTモーメントが訪れるだろう」と述べた。同氏は、これを、実際にコマンドを入力してロボットに何かをさせ、それを目にした人が驚くような瞬間になるだろうと説明している。
同氏はまた、ホワイトカラー労働の自動化と同様の規模で、ロボティクスによる労働自動化が実現しなければ「非常にまずい」状況になるとの認識も示した。人々の役割が「クラウド内のAIのアクチュエーター(実行装置)」に留まるような世界は、「非常にまずい」とし、労働市場全体で見れば、ロボティクスの実現はむしろ「必須事項」だと位置づけている。
11. ChatGPT誕生秘話 ― 「もともとは副産物だった」
アルトマン氏は、ChatGPTの誕生についても振り返った。GPT-3をローンチした当初、実際に機能していた唯一の商用ユースケースは、マーケティング会社がランディングページ用の文章生成に使う「コピーライティング」程度の、今から見れば驚くほど単純なものだったという。それに加えて、開発者たちが「プレイグラウンド」と呼ばれるテスト用インターフェースを使ってモデルとチャットしていることに気づいたことが、転機になったと説明する。同氏は、Yコンビネーターから学んだ教訓として、「ユーザーが何かをしているのに気づいたら、その方向に進め」という考え方を挙げ、これがチャットボット開発の決め手になったと振り返った。
GPT-4の完成後、社内利用で手応えを感じた同社は、より弱いモデルであるGPT-3.5とセットでチャットインターフェースを先行公開する方針を決めた。当初は「Chat with GPT-3.5」という名称になる予定だったが、ローンチ数時間前に「ChatGPT」に改名し、リサーチプレビューとして公開したという。当初はさほど大きな反響を想定していなかったが、実際には社内で慣れていたにもかかわらず、外部の人々にとっては十分な閾値を超えており、大きな反響を呼んだと振り返っている。
12. 競争優位の源泉 ― 「知能はコモディティ化する」
コーディング支援ツール「Codex」の成功について問われたアルトマン氏は、その勝因の大半は、最良のプロダクトと最良のモデルであることにあり、ChatGPTとのバンドルによる優位性は、「非常にわずか」だとした。同氏は、知能そのものは、今後、原油のような「代替可能なコモディティ」になっていく可能性が高いとしつつ、計算資源フリートの規模や、より安価に計算資源を生産する能力は、持続的な競争優位になり得ると分析した。加えて、ワークフローへの統合、複雑な業務プロセス、チーム間の協業のしやすさ、そして、ブランドへの親しみやすさといった要素も、依然として強力な優位性になり得ると説明している。
13. AIによる「認知の萎縮」への懸念
アルトマン氏は、あまり注目されていないが重要だと考える論点として、「認知的萎縮(コグニティブ・アトロフィー)をどう回避するか」という問いを挙げた。AIツールを使いながらも、人々が自らの思考力を伸ばし続け、本当に重要な事柄への理解を保ち続けられるようにする方法が課題だと説明している。
14. OpenAIの構造を巡る「学んだ教訓」
過去に犯した失敗について振り返った同氏は、あまり語ってこなかった点として、創業当初に組織構造で「イノベーション」を試みたことを挙げた。当時は収益化の見通しが立たない中、ミッションを守るための非営利型の構造を選んだが、「なぜ多くの人がそうした構造を採用しないのか」を身をもって学んだと振り返った。「型破りな構造」に手を出さず、別の方法でミッションの中心性を守る道があれば、多くの苦労を避けられただろうと述べている。
