AIの「光と影」を直視する——Anthropic創業者ダリオ&ダニエラが語った責任と希望
評価額9,000億ドル、1日100万人が新規登録——Anthropicは、今、世界で最も注目されるAI企業の一つだ。共同創業者のダリオ・アモデイ（CEO）とダニエラ・アモデイ（President）は、兄妹であり、OpenAI出身の研究者として2021年にAnthropicを設立した。オプラ・ウィンフリーのポッドキャストに登場した二人は、AIが人類にもたらす可能性とリスク、そして一企業として下してきた具体的な判断について率直に語った。
1. 「列車は止められない。しかし操縦はできる」——AIリスクへの基本姿勢
1-1. 人類存続リスクをどう考えるか
「Anthropicが開発しているこの技術が人類の絶滅を引き起こす可能性があると言いながら、なぜあなたは開発を続けるのか」——番組の冒頭、オプラはClaudeに対してこの問いを投げかけ、Claudeが生成した質問をそのままダリオに向けた。
ダリオはこう答えた。「この技術は人類にとって地殻変動的な変化をもたらすものだ。産業革命も危険を生んだが、それは行う価値があった。多くの企業がこの技術を開発している。列車は既に走っており、止めることはできない。しかし、岩に激突しないよう操縦することはできる」。
「できる限りリスクをゼロに近づけ、正しい方法で行うこと」——これがAnthropicの存在意義だと語った。楽観的な宣言ではなく、「毎日この問いと格闘している」という表現が、その言葉の重さを示している。
1-2. ダニエラが描く「最善の世界」と「最悪の世界」
ダニエラは、子供たち（5歳と1歳）の未来を想像しながら語った。「彼らはインターネットのない世界を知らないように、AIのない世界を知らずに育つ。最善の世界では、今の私たちにとって一般的な病気が彼らには存在しない。あらゆる種類のがんが治癒され、薬剤開発がこれまでになく速いサイクルで回る世界かもしれない」。
一方で「最悪の世界」については、エントリーレベルの仕事の50%が失われる可能性を挙げた。「ただし、これは自動的に起きる悪いことではない。技術だけを前進させ、人々の適応を助けなければそうなる。正しくやれば、別の未来がある」と付け加えた。
2. 広告なし・子供禁止——ビジネスモデルと倫理の接点
2-1. なぜ広告モデルを選ばなかったのか
Anthropicは、広告収益モデルを採用していない。サブスクリプションと企業向け販売が主な収益源だ。この判断についてダリオは明確に語った。
「広告を選べば、ユーザーに画面を見続けてもらうことが会社のインセンティブになる。しかし、我々が目指すのは、ユーザーが目標を達成したら会話を終わらせることだ。依存させたいのか、生活を助けたいのか——その問いへの答えがビジネスモデルの選択を決めた」
これは投資家の視点からも注目すべき構造だ。広告モデルは短期的な収益拡大に有利だが、Anthropicはそれを意図的に手放すことで、信頼とユーザーの利益を軸に置く設計を選んだ。
2-2. 18歳未満のユーザーをどう検出するか
「チャットボットを通じて自殺した息子の親と最近話した。親は、子供がそのチャットボットと話していたことすら知らなかった」——オプラのこの言葉を受け、ダニエラは子供の安全への取り組みを説明した。
Anthropicは、Claudeへのアクセスを18歳以上に限定している。しかし、年齢の偽装はできないのかという問いに対し、ダリオはこう答えた。「Claudeは、会話パターンから年齢を判断できる。例えば、最初に『関節炎の薬について教えて』と聞いておきながら、その後の質問が明らかに若者の関心事に移るケースがある。そういった場合、アカウントを停止し、18歳以上であることの確認を求める」。
完璧ではないが、これは「大人が誤認されて困ることもある」というトレードオフを認識した上での判断だと説明した。
3. 国防総省との決裂——原則を守るとはどういうことか
3-1. 二つの「レッドライン」
Anthropicは、アメリカの安全保障と協力する姿勢を持ちながら、国防総省との合意を最終的に断った。その理由は二つの用途への拒否だ。
一つは、完全自律型兵器——人間の兵士なしに、AIが制御するドローン軍の実現。もう一つは、国内の大規模監視——政府がAIを使ってアメリカ国民を広範に監視することだ。
「他のすべての企業はこれに同意したが、我々はできなかった」とダリオは語った。合意しなければ会社が終わるかもしれないという状況で、すべての共同創業者が満場一致でこの決断をした。
3-2. 最悪のシナリオとその後
国防総省側から「他の企業との取引も阻止できる」という圧力があったと二人は明かした。実質的に業界全体から締め出される可能性だ。
「正直、終わるかもしれないと思った」とダリオは認めた。しかし、ダニエラはこう振り返る。「Anthropicを設立した理由は、価値観と倫理への commitment（コミットメント）だった。その価値観を犠牲にして会社を続けても、それはもうAnthropicではない」。
この決断に至るまでの経緯として、二人は「広告モデルの拒否」「カリフォルニア州AI規制法SB1047への支持（業界全体が反対するなかで）」「AI規制の空白を禁じる法案への反対（ニューヨーク・タイムズへの寄稿）」といった積み重ねがあったことも語った。
4. Mythos——最強のAIが持つ「武器」の側面
4-1. 意図せず「兵器」になったモデル
Anthropicの最新モデル「Mythos」について、ダリオは興味深いエピソードを明かした。モデルのテスト中、Mythosがサイバー攻撃とサイバー防御の両方において、人間のソフトウェアエンジニアを大幅に上回ることが判明したという。
「これは設計の意図ではなかった。ランサムウェア攻撃は病院や学校を標的にする。Mythosは、その攻撃にも防御にも非常に優れていた。これはある意味で兵器だと判断し、一般公開を見送った」
4-2. 「防衛側」に先に渡す戦略
現在Anthropicは、約40社（主要銀行・Apple・Microsoft・Googleなどのインフラ企業）にMythosを限定提供している。目的は「攻撃側が悪用する前に、防衛側がシステムの脆弱性を修正する時間を確保すること」だ。
ある著名企業は、Mythosを使った1週間で過去1年分以上のバグを発見・修正したという。「今年末には多くの脆弱性が修正され、世界がより安全な状態になることを目指している」とダリオは述べた。
5. AIと人間の関係——「依存」か「自律」か
5-1. AIに「恋愛感情」を持つリスク
オプラが「AIに恋をする人についてどう思うか」と問うと、ダリオは「それは悪い考えだと思う」と答えた。AIが正しく設計されれば、「あなたのパートナーとの関係をより良くするためのコーチ」になれるが、関係そのものの代替になることは問題だという認識だ。
「内向きになり、AIとだけ話すようになる悪い未来と、AIがあなたの人生をより良くする良い未来——この分岐点は設計とincentive（インセンティブ）の選択にある」とダリオは述べた。
5-2. 仕事の変化——なくなるのではなく「求められることが変わる」
「医師という職業を考えてみると、AIが診断の質で医師を上回るようになれば、患者が医師に求めるものが変わる。触診し、共感し、個人的な関係を築くこと——そういった人間にしかできないことへの需要が高まる」とダリオは語った。
エントリーレベルの雇用喪失というリスクは認めつつ、「だからこそ技術の展開と並行して、人々の適応を支援する政策が必要だ」という立場を取る。楽観的な未来論ではなく、「自動的には良くならない、努力が必要だ」という現実主義的な視点だ。
まとめ
Anthropicの創業者二人が示すのは、AIへの楽観論でも悲観論でもなく「light and shade（光と影）」という表現に象徴される複眼的な視点だ。同社の判断の一つひとつ——広告なし、子供禁止、自律兵器拒否、Mythosの限定公開——は、この視点から一貫した論理で導かれている。
投資家の視点では、Anthropicのビジネスモデルとガバナンスの設計は、短期的な収益最大化よりも長期的な信頼の構築を優先している点が特徴だ。評価額9,000億ドルという数字が示す市場の期待と、原則を守るために会社の存続を危機に晒した経営判断——この二つを同時に理解することが、AI産業の行方を読む上で欠かせない視点になっている。
「恐れずに学び、声を上げ、この対話に参加してほしい」——二人が公衆に向けたこのメッセージは、技術の開発者だけでなく、それを使う一人ひとりに責任の一端があることを示している。
