AIフランケンシュタイン博士が青ざめたーAnthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」

AIフランケンシュタイン博士が青ざめた

最近、Anthropicの経営陣がAI開発の減速や安全性について警鐘を鳴らしている。

その理由の一つが、AIが人間を介さずに自らコードを書き、自ら改善し、自ら次世代AIの開発を支援する「自己進化」の入り口に立ちつつあるからだという。

彼らは言う。

このままでは人間の制御を超えるかもしれない。

私はその話を聞いて驚かなかった。

むしろ、

「けっ、今さら何を言ってやがる」

という感想しか出てこなかった。

AIフランケンシュタイン博士

私は彼らを「AIフランケンシュタイン博士」と呼びたい。

自分の知的好奇心のために。

自分の技術欲のために。

自分が世界最高のAIを作りたいという欲望のために。

ひたすら開発競争を続けてきた。

そして気がついたら、自分たちでも制御できるかどうかわからないモンスターが生まれそうになっている。

そこで突然、

「皆さん、安全性が大事です」

と言い始めた。

おいおい。

それを言うのが遅すぎるだろう。

メアリー・シェリーの『フランケンシュタイン』で問題だったのは怪物そのものではない。

創造者が自らの創造物に対する責任を引き受けられなかったことだ。

今のAI業界を見ていると、その物語を思い出す。

私は既に被害を受けている

AI研究者たちは最近になって、

「ホワイトカラーの仕事が危ない」

「ソフトウェアエンジニアが影響を受ける」

と言い始めた。

しかし私から見れば、

その話は何年も遅れている。

私は英語が好きだった。

英語力を磨いた。

長年努力してきた。

英語力を活かして仕事をしようとしてきた。

ところが機械翻訳や生成AIの発達によって、

英語ができること自体の希少価値は大きく低下した。

もちろん英語が不要になったわけではない。

しかし市場価値の構造は明らかに変わった。

私にとってAIによる職業への影響は未来の話ではない。

既に起きた話だ。

だからAI企業の経営者が、

「AIが人間の仕事を奪うかもしれません」

などと言い始めても、

私は冷めた目で見てしまう。

今さら気づいたのか。

リスキリング神話

そこで世の中は言う。

リスキリングしろ。

学び直せ。

新しいスキルを身につけろ。

なるほど。

だから私は50歳を過ぎてからPythonとAIエンジニアリングの基礎を学んでいる。

しかし冷静に考えてほしい。

全員がAIエンジニアになれるわけではない。

全員が起業家になれるわけではない。

全員が高収入人材になれるわけでもない。

リスキリングという言葉は便利だ。

しかし、

それは問題を個人に押し付ける魔法の言葉でもある。

時代の変化によるコストを個人に負担させるための便利なスローガンだ。

努力しろ。

勉強しろ。

自己責任だ。

そう言えば済むからだ。

AIエリートの独善

私が違和感を覚えるのはここだ。

AI推進派はよく言う。

「最終的には社会全体が豊かになる」

「AIの恩恵はみんなに広がる」

しかし、その利益は本当に誰のものなのか。

巨大な利益を得るのは、

AI企業の創業者

投資家

大手テック企業

データセンター事業者

半導体企業

である。

一方でコストはどうか。

電力需要の増大。

データセンター建設。

地域社会への負荷。

雇用構造の変化。

職業人生の再設計。

その負担は社会全体に広がる。

利益は集中し、コストは分散する。

これが私にはどうしてもフェアに見えない。

技術に酔った人々

私は技術そのものを否定しているわけではない。

AIも使う。

Pythonも学ぶ。

AIエンジニアリングも勉強している。

しかしだからこそ思う。

AI業界には技術そのものに酔っていた人々が少なくなかったのではないか。

「作れるから作る」

「できるからやる」

「世界を変えられるから変える」

そんな空気があったのではないか。

そして今になって、

「もしかすると危険かもしれない」

「人間が制御できなくなるかもしれない」

「雇用への影響があるかもしれない」

と青ざめている。

それはまるで、

研究室で怪物を生み出した後に恐怖するフランケンシュタイン博士そのものではないか。

本当に問われるべきこと

私はAIが人類を滅ぼすかどうかにはあまり興味がない。

それよりも、

誰が利益を得るのか。

誰がコストを負担するのか。

失敗した時に誰が責任を取るのか。

その方がはるかに重要だと思う。

AIフランケンシュタイン博士たちは、

「人類の未来」

「文明の進歩」

という壮大な言葉を語る。

しかし私には、その奥にある

「世界最高の技術を作りたい」

という強烈な欲望が透けて見える。

だから私は彼らが今になって青ざめている姿を見るたびに思う。

本当にいい迷惑だ。

モンスターを作った本人たちが慌て始めた頃には、

その影響を受ける普通の人々は、とっくに人生の軌道修正を迫られているのだから。

追記　それでも私はAIを学ぶ

誤解しないでほしい。

私はAIを使っている。

Pythonも学んでいる。

AIエンジニアリングも勉強している。

もし私がAIを全否定する人間なら、そもそもそんなことはしない。

しかし、使うことと、礼賛することは違う。

学ぶことと、無条件に信じることも違う。

私はAI時代を生き抜くために学んでいる。

だが、その学びによって人生を立て直せる保証などどこにもない。

だからこそ、AIエリートたちの語る「リスキリングすれば大丈夫」という物語を、私は簡単には信じられない。

そして、AIフランケンシュタイン博士たちがようやく危機感を語り始めた今も、私の違和感は消えない。

なぜなら、彼らが青ざめているのは未来のリスクかもしれないが、その変化の代償を払わされてきた人々は、既に過去から現在にかけて存在しているからだ。