アンソロピック、AI開発「減速」提言のWhat should we do? の項
https://www.anthropic.com/institute/recursive-self-improvement
「What should we do?」の項に注目してみると
一部抜粋
もしこの技術の開発を効果的に遅らせ、その計り知れない影響に対処するための時間を確保することが可能であれば、それはおそらく良いことだと私たちは考えます。しかし、減速によって最も慎重さを欠いたアクターが技術的に追いついてしまうだけであれば、すべての人にとってより安全でない状況をもたらす可能性があります。
これは原則的に不可能ではありません。世界は他の複雑な技術に対して検証体制を構築してきた実績があります(例:中距離核戦力全廃条約)。しかし、そうした体制はインフラと信頼の両方を構築するのに数十年を要しました。私たちにはそれだけの時間がありません。
今後数ヶ月で、本稿が提起するいくつかの問いに答えるための対話の場を設けます。特に、完全な再帰的自己改善と、より良い協調・熟議の選択肢の創出に関して、政策立案者、研究者、市民社会、および他のAI企業が参加します。
「中距離核戦力全廃条約」を比較として示しているけど、確か、それ自体も結果としては、上手くはいってないし。。。
この問題、すごく上手くいく手段のないパターンの課題ですね。しかし、無制限に開発されて、できたものが無制限にばらまかれるのは、何か、改善されるといいですね。
だいぶずれるが、少し関連して以下をAI(Grok)に聞いてみた
これまでの人類の歴史で、技術の発展がもっとも、夢をもって、期待をもって受け入れられた時代はいつですか?
19世紀後半から20世紀初頭の「ベル・エポック」(Belle Époque、フランス語で「美しい時代」)頃、または米国の「ギルデッド・エイジ」(Gilded Age)を含む時期が、最も技術発展を夢と期待を持って受け入れられた時代の一つとして挙げられます。
なぜこの時代か?
技術革新の爆発的な進展と日常への浸透:第二次産業革命のピーク期で、電気(電灯・電力)、電話、自動車、飛行機(ライト兄弟1903年)、映画、大量生産などが急速に登場・普及。鉄道や蒸気船もすでに基盤として機能し、生活・通信・移動を劇的に変えました。人々はこれらを「人類の勝利」「未来の約束」として熱狂的に迎えました。
博覧会と未来像の象徴:1889年のパリ万国博覧会(エッフェル塔建設)や1893年のシカゴ万国博覧会など、世界的なイベントで新技術が華々しく展示され、一般大衆が「明日はもっと良くなる」と実感。科学技術が繁栄・平和・文化向上をもたらすという楽観主義が広がりました。
文化的・社会的雰囲気:ヨーロッパ(特にフランス)や米国で経済成長・繁栄が続き、芸術(印象派など)や科学も花開き、「進歩は必然」という信念が強かった。ジュール・ヴェルヌのSF小説などもこの期待を反映しています。技術は「夢の実現ツール」としてポジティブに語られました。
この時代は、第一次世界大戦(1914年~)で脆くも崩れ去ったため、後世から「失われた黄金時代」として特にロマンチックに記憶されています。
他の有力候補:1950-1960年代の「スペースエイジ」
**月面着陸(1969年)**を中心とした宇宙開発、原子力の平和利用(「Atoms for Peace」)、ジェット機・コンピュータの進展、未来派デザイン(The Jetsonsなど)が象徴。
戦後復興の勢いと冷戦の競争が、技術を「人類のフロンティア拡大」「ユートピア実現」の手段として大衆に夢を与えました。多くの人が「1960年代までに空飛ぶ車や火星旅行」を本気で期待していました。
ただ、核の影や環境問題の芽生えもあり、ベル・エポックほどの「純粋な無邪気な期待」ではなかった面もあります。
比較すると
産業革命(18-19世紀初頭):基礎的な変革(蒸気機関など)ですが、労働者階級の苦痛(ルダイト運動など)も大きく、全面的な「夢」ではなかった。
1990年代のインターネットブーム:大きな期待がありましたが、ドットコムバブル崩壊で現実味を帯び、現代のような懐疑も早かった。
全体として、技術が「未知の可能性」として純粋に祝われたのは、19世紀末~20世紀初頭がピークと言えそうです。
このような時代は、技術がまだ「魔法のように見え」、戦争や環境破壊の代償が十分に顕在化していなかった点が共通します。現代のAI時代も似た期待を抱かせますが、歴史的に見ると上記の時期が突出しています。
自分に戻って
ベル・エポック、覚えとこう
いいなと思ったら応援しよう!
頂いたチップを、一旦、 コーヒー☕ + パウンドケーキ にして、体に入れて、それであらたなnote記事を書きます!!
