ＡＩが研究者の生涯の決定的な貢献を支える時代
ＡＩが研究者の生涯の決定的な貢献を支える時代
こんにちは、makokonです。またまたyoutube動画から。
AIの進化は、その一生の業績を支えるほどになっており、ノーベル賞級の研究を自力でするとまでは言えないが、そういった研究者の生涯の研究成果を直接的にサポートできるほどになっています。（2.1章でその概要をまとめています。）このことに触れている、動画を確認しました。
この記事は、OpenAIのCEOサム・アルトマン氏に対する、Axiosのマイク・アレン氏のインタビュー動画を解説したものです。
人工知能の休息な進化の影響について語り、AIのリスクや政策との連携の大切さを伝えています。
AIの社会的経済的影響は大きいものの人間らしい本質には影響を与えないであろうことも強調しています。
動画の概要
OpenAIのCEOであるサム・アルトマン氏は、人工知能（AI）の急速な進化が社会や経済に及ぼす影響について、米メディア「Axios」のインタビューで警鐘を鳴らしています。同氏は、次世代モデルが科学的発見や労働生産性を劇的に向上させる一方で、サイバー攻撃やバイオテロといった深刻なリスクが現実味を帯びていると指摘しました。これらの課題に対処するため、アルトマン氏は民間企業だけでなく、政府との緊密な連携や社会基盤の整備が不可欠であるという考えを示しています。また、AIを電気のような「公共料金」として誰もが利用できる未来を展望しつつ、資本と労働のバランスを保つための新しい経済的枠組みについて議論を始めるべきだと主張しました。最終的に、技術がどれほど変革をもたらしても、人間同士の繋がりという本質的な価値は変わらないと強調しています。
OpenAI’s warning: Washington isn’t ready for what’s coming
この動画は、Axiosの共同創設者であるマイク・アレン氏が、OpenAIのCEOであるサム・アルトマン氏を招いて行った独占インタビューです。、アルトマン氏は単なる技術的な進歩だけでなく、AIがもたらす新しいパラダイムに対して社会がどうレジリエンス（回復力）を構築すべきかを問いかけています
動画の構成
OpenAI CEOサム・アルトマン氏が語る「超知能」の到来と社会の備えについて、以下の6つの章に分けます。
超知能への危機感と教育者としての役割
アルトマン氏は「超知能」の到来に対し強い危機感を抱いており、社会がその変化に適応するための議論を今すぐ真剣に始めるべきだと主張しています。OpenAIは、研究の進展から予測される未来を世の中に伝える「教育者」としての責任があると考えており、不確実性を伴いながらも早期にアイデアを提示することで社会的な議論を促そうとしています。次世代モデルの能力と直面するリスク
次世代のAIモデルは科学的発見や知識労働において飛躍的な進歩を遂げ、一人の人間がチーム全体の仕事をこなせるレベルに達すると予測されています。一方で、サイバー攻撃やバイオリスク（新型病原体の作成など）といった深刻な脅威ももはや理論上の話ではなく、企業だけでなく社会全体の回復力（レジリエンス）を高める対策が急務となっています。国家とOpenAIの提携、そしてAGIの現状
OpenAIの国有化については、米国の民主的価値観に基づいた開発を迅速に成功させるために否定的ですが、政府との極めて深いパートナーシップは不可欠であるとしています。また、すでにAIが実質的な科学知識の発見や経済活動を行っていることから、定義は様々ですが、我々はすでに新しいパラダイム（AGIの初期段階） に足を踏み入れていると述べています。AIがもたらす社会変革と人間の本質
AIが生活や経済のあらゆる側面を変える一方で、他者との繋がりや幸福の追求といった 「人間らしさの本質」は変わらない とアルトマン氏は強調しています。特定の個人が全ての決定を下すのではなく、ツールを人々に開放し、社会全体でルールを決定して生活に統合していく「AIの民主化」を重視しています。政策ブループリントと経済・インフラへの影響
新しい政策ブループリントを通じ、資本主義における資本と労働のバランスの変化などについて、党派を超えた議論を開始しようとしています。具体的には、AIの膨大な需要に応えつつ電力価格を抑えるためのエネルギーインフラの構築が最も実行可能な優先事項であり、他にプライバシーや監査体制の整備も重要な課題として挙げられています。リーダーとしての変化と「公共料金」としての知能
巨大な影響力を持つOpenAIのリーダーとして、アルトマン氏は日々大きな重圧と責任を感じており、私生活が変化したことも認めています。将来的に「知能」は電気や水のような 公共料金（ユーティリティ） となり、インフラ整備によってコストが劇的に下がる一方で、より賢い最先端モデルへの需要は高まり続けると予測しています。
1. 超知能への危機感と教育者としての役割
アルトマン氏が語る「超知能」への危機感、ビジョン、および責任について説明します。
超知能への危機感
アルトマン氏は、超知能の到来が多くの人が考えているよりも間近に迫っているという強い 「緊急性（Urgency）」 を感じています。彼は、AIがすでに実質的な仕事をこなし始めており、社会や経済、仕事のあり方が根本的に変わる 「新しいパラダイム（枠組み）」 に突入していると指摘しています。特に、ワシントン（政府）を含めた外部の世界が、これから起こる変革の大きさを十分に理解しておらず、社会の適応が技術の進歩に追いつかない可能性を危惧しています。
描いているビジョン
彼のビジョンは、AIを一部の人間が独占するのではなく、「AIの民主化」 を進めることです。AIというツールを広く人々の手に委ね、社会が共同でルールを決定し、それをどのように生活に統合していくかを模索すべきだと考えています。また、将来的には知能が電気や水のように、安価でどこでも利用可能な 「公共料金（ユーティリティ）」 のような存在になる世界を描いています。一方で、社会構造が激変したとしても、他者との繋がりや幸福の追求といった「人間らしさの本質」は変わらないという楽観的な見通しも示しています。
認識している責任
OpenAIは、自社の研究パイプラインから予測される未来の情報を社会に共有する 「教育者（Educator）」としての責任があると考えています。自分たちの予測が常に正しいとは限らないという不確実性を認めつつも、あえて早い段階でアイデアを世に出すことで、社会的な議論を活性化させようとしています。アルトマン氏は、特定の個人が全ての決定を下すべきではないと強調しており、政府や社会と深く連携しながら、大きな変化が本格化する前に解決策を講じるための対話を先導することが自らの重大な役割であると認識しています。
2. 次世代モデルの能力と直面するリスク
次世代のAIモデルは、現在のモデルから 「非常に大きな飛躍（significant step forward）」 を遂げると予測されており、主に科学的発見と労働生産性の2つの面で劇的な変化をもたらします。
次世代モデルがもたらす進歩
科学分野での「一生モノ」の業績: 現在のモデルは科学者の小さな発見を助ける程度ですが、次世代モデルは研究者が 「自分のキャリア全体（あるいはこの10年）を通じて最も重要な発見」 を成し遂げるのを支えるレベルに達するとされています。これにより、多くの病気が完治するといった、人類にとって素晴らしい成果が期待されています。
労働力の劇的な拡大: コーディングなどの知識労働において、一人の人間がAIとGPUを駆使することで、「ソフトウェアチーム全体の仕事」をこなせるようになるほどの生産性向上が見込まれています。
同時に直面する深刻なリスク
一方で、その強大な能力は悪用の危険性も高めます。
サイバー攻撃とバイオリスク: 特に今後1年以内にサイバーセキュリティ上の重大な脅威が顕在化する可能性があり、世界を揺るがすような攻撃が起こることも「十分にあり得る」と警告されています。また、高度な生物学の知識をAIが提供することで、テロ組織などが新型の病原体（novel pathogens）を作成・悪用するリスクも、もはや理論上の話ではなくなりつつあります。
社会全体の回復力（レジリエンス）の必要性: 強力なオープンソースモデルの普及により、企業側の対策だけでは不十分になる未来が近づいています。そのため、政府や主要プラットフォームが連携し、社会全体としてこれらの攻撃に耐えうる回復力（resilience） を構築することが急務となっています。
アルトマン氏は、これらは単なる予測ではなく、私たちが新しいパラダイムに突入したことで直面している現実的な課題であると強調しています。
2.1 科学分野での「一生モノ」の業績について
サム・アルトマン氏は、AIが研究者のキャリアにおいて最も重要な発見を支えるようになるという趣旨の話をしています。、AIは研究者が一生をかけて成し遂げるような業績において、極めて重要な役割を果たすようになると期待されています。
キャリアを定義する発見: 次世代のAIモデルが登場することで、研究者が「このツールのおかげで、自分のこの10年間、あるいはキャリア全体を通じて最も重要な発見をすることができた」と言うようになるだろうと予測しています。
重大な貢献: AIが単独でノーベル賞を受賞するほどではないにせよ、「キャリアを決定づけるような重大な発見（career defining discovery）」 をサポートするレベルに達すると述べています。
現状と未来: 現在のモデルでも、科学者が「小さな発見」をするのを助けている例はすでにTwitter（現X）などのプラットフォームで報告されていますが、次世代のモデルはそこからさらに飛躍的な一歩（significant step forward） を踏み出すことになります。
新しいパラダイム: すでにAIが「真に新しい科学的知識」を発見し始めているという事実は、我々がすでに新しいパラダイム（枠組み） の中にいることを示しているとアルトマン氏は考えています。
3. 国家とOpenAIの提携、そしてAGIの現状
国家による国有化の是非
アルトマン氏は、アポロ計画やマンハッタン計画のような過去の歴史的背景であれば、AGI（汎用人工知能）の構築は国家プロジェクトになっていた可能性があると述べています。しかし、現在の世界情勢において国有化には否定的です。その最大の理由は、他国に先んじて、米国の民主的価値観に沿った形で超知能を完成させる必要があり、そのためには政府直轄のプロジェクトよりも民間主導の方が成功の可能性が高いと考えているからです。
国家との「極めて深いパートナーシップ」の必要性
国有化は避けるべきとする一方で、政府と開発企業の 「極めて深く、密接なパートナーシップ」は不可欠であると強調しています。アルトマン氏は、AI開発を単なる一企業の事業としてではなく、国家レベルの課題として捉えており、以下の理由から政府との協力が必要だと考えています。
社会的なレジリエンス（回復力）の構築: サイバー攻撃やバイオリスクといった重大な脅威への対策は、企業単体では不可能です。政府、主要プラットフォーム、サイバーセキュリティ企業が連携して社会全体の防御力を高める必要があります。
インフラの整備: AIの需要に応えるための膨大なエネルギー確保や電力価格の抑制には、国家的なインフラ投資と政策的な支援が求められます。
民主的な統治: AIという強力なツールのルール作りや、それが経済や雇用に与える影響（資本と労働のバランスの変化など）への対応は、社会全体で議論し、政府が関与すべき領域です。
AGIをめぐる現状：「新しいパラダイム」への突入
アルトマン氏は、AGIの厳密な定義は人によって分かれるものの、すでに 「新しいパラダイム（枠組み）」 に足を踏み入れていると確信しています。その根拠として、AIがすでに 「真に新しい科学的知識」を発見し始めており、経済活動においても大規模で実質的な価値を生み出し始めているという事実を挙げています。技術の進歩は世間の予想や準備よりも早く進んでおり、すでに知識労働の主要な領域が変貌を遂げつつあるのが現状です。
4. AIがもたらす社会変革と人間の本質
AIがもたらす社会変革（生活や経済への影響）
アルトマン氏は、AIが私たちの生活のあらゆる側面、特に経済、社会の仕組み、そして仕事のあり方を根本的に変えると予測しています。具体的には、コーディングやその他の知識労働の大部分がすでに変貌を遂げており、将来的には一人の人間がAIを駆使して「ソフトウェアチーム全体の仕事」をこなせるほどの生産性向上が見込まれています。また、資本主義における 「資本と労働のバランス」 が劇的に変化し、労働よりも資本に多くのレバレッジ（影響力）が移る可能性があるため、より多くの人々を経済の枠組みに含めるための新しいアイデアが必要になると述べています。
人間の本質への影響
社会や経済が激変する一方で、アルトマン氏は 「人間らしさの本質」は全く変わらないと強調しています。何千年も前から人間を突き動かしてきたもの、すなわち他者との質の高い繋がり、自然の中で過ごす時間、幸福の追求といった核心部分は、AIによって揺らぐことはありません。むしろ、AIが多くの仕事を肩代わりすることで、人々はより多くの時間を大切な人々と過ごし、自分を幸せにすることに充てられるようになり、より充実した人生を送るための柔軟性を手にできると考えています。
AIがどうなっていくべきか
この変革に対し、アルトマン氏は 「AIの民主化（Democratization of AI）」 を最重視しています。特定の一個人や企業が全決定を下すのではなく、AIというツールを広く人々の手に委ね、社会全体でどのようなルールを設けるべきかを合意していくべきだと主張しています。AIは最終的に、電気や水のように安価でどこでも利用可能な 「公共料金（ユーティリティ）」 のようなインフラとなり、人々がそれを自分の生活にどのように統合し、どのような恩恵を受けるかを自ら決定できる形が理想であると考えています。
5. 政策ブループリントと経済・インフラへの影響
政策ブループリントの性質と目的
アルトマン氏は、このブループリントを固定された「アジェンダ（行動計画）」ではなく、社会的な議論を促すための 「アイデアの提示」 であると述べています。その主な目的は、AIによる劇的な変化が現実のものとなる前に、政府、企業、社会が真剣な議論を開始し、解決策を講じるための場を作ることです。特に、AIの安全性を企業だけで確保することは不可能であるという認識から、「社会全体のレジリエンス（回復力）」 を高めることを目指しています。
具体的な課題
ブループリントでは、以下のような具体的かつ多岐にわたる課題が挙げられています。
アルトマン氏は、これらのアイデアには党派を超えた議論が必要であり、資本と労働のバランスが崩れる懸念については、共和党派からも関心が寄せられていると述べています。
エネルギーインフラの構築: 現在最もエネルギー（関心）が注がれている分野であり、AIの需要に応えるためにエネルギー供給を迅速に拡大し、電気料金を低く抑えることが、最も実行可能で超党派の支持を得やすい課題として挙げられています。
資本主義と労働の再定義: AIの進歩により、経済のレバレッジが「労働」から「資本」へと大きく移る可能性が指摘されています。資本主義を維持しながら、より多くの人々を経済的に包摂する（含める）ための新しい仕組みを考える必要があるとしています。
安全保障（サイバー・バイオ）: 一年以内に顕在化する可能性があるサイバー攻撃の脅威や、新型病原体の作成といったバイオリスクへの対策を急務としています。
規制と監査: プライバシー保護に関するルールの整備や、リスクを抑えつつ過度な規制を避けるための 「フロンティア・システム（最先端モデル）」への監査体制についても議論の対象となっています。
経済システムの変革: 税制の変更など、より大きな経済的シフトについても、まだ議論の端緒ではあるものの、検討が必要な課題として含まれています。
6. リーダーとしての変化と「公共料金」としての知能
アルトマン氏が感じる重圧や個人への影響、そして「公共料金としての知能」というビジョンについて説明します。
リーダーとしての重圧と責任
アルトマン氏は、OpenAIのリーダーとして、「歴史的な重み（weight）」と「重大な責任（gravity）」 を日々感じています。特に、約10億人近い人々が同じ「仮想的な脳（AI）」と対話しているという事実に触れ、そのシステムのわずかな調整が世界中に与える影響の大きさを深く認識しています。彼は、GPT-4を完成させた際、「世界はもはや二度と同じにはならないだろう」と確信した瞬間、その強大な力をどう世に出すべきかという巨大なプレッシャーを経験しました。こうした決定が個人の手に委ねられるべきではないと考え、彼は 「AIの民主化」 を唱え、社会全体でルールを決める必要性を強調しています。
本人にもたらした変化
この特異な立場は、アルトマン氏の私生活に大きな変化をもたらしました。彼は現在の生活を 「もはや普通の生活ではない」 と表現しており、常に多大なストレスや不安、重圧を抱えて生きていることを認めています。しかし、こうした変化は「良い面も悪い面もあるが、多くは良い変化である」とも述べており、この歴史的な瞬間に立ち会えることを「信じられないほどの光栄（unbelievable honor）」として受け入れています。
「公共料金（ユーティリティ）」としての知能のビジョン
アルトマン氏が描く知能の未来像は、電気や水道のように、背景で当たり前に機能するインフラです。このビジョンには以下の特徴があります。
意識させない利便性： 電気がどのように発電されているかを意識せずにコンセントにプラグを差し込むように、ユーザーは月々の料金を払うだけで、クラウド上の「パーソナル・スーパーアシスタント」があらゆるデバイスやサービスで背景で稼働し、自分を助けてくれる世界を目指しています。
価格の劇的な下落： インフラの整備（特にエネルギーの確保）を条件として、知能の「単位あたりの価格」は、これまでの傾向通り驚異的なスピードで下がり続けると予測しています。
最先端モデルへの需要： 型落ちの知能のコストが下がる一方で、人々は常に「より賢い、最先端のモデル」を求めるため、最新のフロンティアモデルにはプレミアムな価値が残り続けると考えています。
結論として、アルトマン氏は、知能が安価でどこでも利用可能になることで、人々が本来の「人間らしさ」を追求できる柔軟な社会が実現すると信じています。
