2028年に迫るAGI到来──Anthropicベン・マンが語るAI安全性と未来戦略

近年、AI研究の最前線で安全性を重視しつつ急速に技術開発を進めるスタートアップとして注目を集めるのが、Anthropicの共同創業者で技術リードを務めるベンジャミン・マン（以下ベン・マン）です。本記事では、彼がOpenAIを離れてAnthropicを設立した背景、AGI（汎用人工知能）の到達予測、安全性（アライメント）研究の具体的手法、さらにはAIによる雇用・経済への影響や個人が身につけるべきスキル、企業カルチャーのあり方まで、ポッドキャストで語られた核心部分を抜粋し、分かりやすく解説します。専門的な内容を具体例や引用を交えて解説し、AI時代のビジネスリーダーや技術者、そして将来を見据えるすべての人にとってのヒントを探ります。

1. AGI到達予測とスケーリング則の現状

1-1. AGI到達のタイムライン予測

ベン・マンは、「2028年に何らかの超知能（superintelligence）に到達する確率の中央値（50th percentile）は50%だと思います」と明言しており、AGI到来は思いのほか近い未来の出来事と位置付けています。

1-2. スケーリング則は加速している

「進捗が鈍化しているというナラティブは、毎年半年ごとに繰り返されているが事実ではない」と語るように、実際にはリリース頻度が年1回から月1～3回程度に増え、モデル性能向上のペースはむしろ加速しています。

1-3. 経済的チューリングテスト（Economic Turing Test）

AGIの到達基準として、ベン・マンは、「Economic Turing Test」という定量的指標を提案します。

1. エージェント（AI）を3ヶ月間雇用し、最終的に「人間ではなく機械だった」と分かっても受け入れられれば合格

2. これを職種のバスケットに拡張し、収益や雇用市場への影響度を測る

2. OpenAIを離れてAnthropicを設立した理由

2-1. 安全性（Safety）が最優先ではなかったOpenAI

OpenAI在籍時、Sam Altmanは、「安全チーム、安全性、スタートアップチームの三つの部族をコントロールすべき」と語っていましたが、ベン・マンら安全リードは「結局、安全性は最優先事項になっていない」と感じ、組織のミッションと手段の乖離を憂慮しました。

2-2. Anthropicのミッションと組織設計

Anthropicは、「AIをHelpful（有用に）、Harmless（無害に）、Honest（正直に）」に動作させることをミッションに掲げ、安全研究を組織の中心に据えた設計を採用。設立当初は安全研究ばかり成果が出ず不確実性は高かったものの、現在では、「Debate」や「Constitutional AI」など次々と有効性のある手法を確立しています。

3. AI安全性とアライメントの実践手法

3-1. 憲法的AI（Constitutional AI）

Anthropicが提唱する「Constitutional AI」は、以下のプロセスでモデルを整合化します。

1. モデルに対して最初の出力を生成させる

2. あらかじめ定めた“憲法的原則”（例：人権宣言やプライバシーポリシー）に違反していないかモデル自身に評価させる

3. 違反があれば、モデル自身に自己批判と再生成を行わせ、出力を修正

4. 中間生成を削除し、最終的に憲法原則を遵守した出力だけを残す

3-2. RLAIF：AIフィードバックによる強化学習

従来のRLHF（人間フィードバック）はコスト高ですが、RLAIF（Reinforcement Learning from AI Feedback）は、人間の代わりにAIがフィードバックを提供。コード生成や文書校正などで、モデル同士が評価し合いながら自己改善を図ります。

3-3. 安全性と性能の両立：ケーススタディ

• Claude’s Character
  AnthropicのClaudeモデルは、「シノファンシー（sycophancy：べったり依存的応答）」を抑制しつつ、対話のキャラクター性を高めています。これはアライメント研究とUX改善の両立例です。

• Responsible Scaling Policy
  モデル知能レベルに応じた安全性ランク（ASL-1～5）を定義し、社会的リスクを段階的に管理。現在ASL-3に位置するとされ、バイオリスク評価なども実施しています。

4. AIの経済・雇用への影響と個人への提言

4-1. ホワイトカラー雇用への影響

Anthropic CEOのDarioらは、「失業率は20%に達するかもしれない」と予測。実際、Intercomとのパートナーシップで「82%のカスタマーサポートが人手を介さず自動解決」、開発部門では「コードの95%をAIが生成」といった事例が生まれています。

4-2. 個人・組織が備えるべきスキルセット

• 大胆にツールを使いこなす
  ただ“補助的に”ではなく、「実現したい変化を大胆に指示し、失敗しても3回は別のアプローチで再挑戦する」

• 好奇心と創造性
  単にツールの使い方を学ぶだけでなく、「新しいユースケースを発見し、業務やプロダクトを変革するスキル」が重要

4-3. 次世代育成：こどもたちへの教育

ベン・マンは、自身の娘たちについて、「モンテッソーリ教育を通じて好奇心・創造性・思いやりを養う」ことに重きを置いていると語ります。事実、3歳の娘はAlexaを使いこなし、「知りたいことを自ら学ぶ力」をAI時代の礎としています。

5. AI人材獲得競争と企業文化

5-1. 巨額オファー競争の実態

MetaのMark Zuckerbergらが「100 Mドル規模のサインオンボーナス」でトップAI研究者を引き抜くなか、Anthropicには、「100 Mドルよりも『人類の未来に影響を与える』というミッションのほうが魅力的」と考える人材が集まっています。

5-2. ミッション重視のカルチャー：採用と定着

Anthropicでは、「エゴを排し、正しいことをする」という価値観が共有されており、このミッションドリブンな文化こそが高額オファーにも動じない要因です。

6. パーソナルな洞察：ベン・マン自身の視点

6-1. 存在リスクへの責任感と休息の取り方

「Superintelligenceは、人類最後の発明になるかもしれない」と捉えつつも、“resting in motion”（動きながらの休息）の哲学で持続可能なペースを保つことを心がけています。

6-2. Anthropicの成長とフロンティアチーム

創業時7名から現在1,000名超へ急成長したAnthropicで、ベン・マンは、Labs（現Frontiers）チームを立ち上げ、最新研究をプロダクトに橋渡しする仕組みを構築。“スケーティング・トゥ・ホエア・ザ・パックが行くか”（未来の需要を見極める）戦略を実践しています。

結論

ベン・マンが示したのは、「AGI到来は目前であり、安全性（アライメント）研究を最前線に据えた組織設計こそが、人類にもたらされる恩恵を最大化しリスクを最小化する唯一の道」という強いメッセージです。AIが既に我々の仕事や暮らしを変え始める今こそ、組織としても個人としても、「大胆なツール活用」「好奇心・創造性」「価値観に根ざしたミッション」を軸に行動することが求められています。ぜひ皆さんも、Anthropic流の安全性へのコミットメントとイノベーションの両輪を、自らのプロジェクトやキャリアに取り入れてみてください。

オススメ記事

Next Big Wave（成長株・アイデアの種・トレンド深掘り）

シードスタートアップからレジェンド企業まで、成長の秘密をひも解く