ターミネーターの世界観が現実に？　あなたは、AI時代をサバイバルできる？　#ymd20260501 のピックアップ トピック

#ymd20260501 #greenpost #greenpost5

GreenPost Minerva Eye

本日のピックアップトピックです

⚫︎…..【超知能AIは悪意なく人間を排除する】機械知能研究所（MIRI）所長ネイト・ソアレス／開発者自身が「絶滅する可能性がある」と認め開発を進めている...
 TBS CROSS DIC with Bloomberg

ーーーーーーーWebマガジン GreenPost 編集部　ノートーーーーーーーー
　AIとお付き合いしてから、約1年と半年が経過した。この1年半は、英語の勉強に使ったり、調べものをしたりと大いに便利に使ってきた。AIとの付き合いの中で、最も印象的な経験を繰り返してきたのが、車を運転しながらの問答だった。疑問や知りたいことをAIと対話する形で、30分以上、時にはもっと長く、トークンが切れるまで話してきた。この間、対話の中身が深化してきたなと感じたことが、何度かあった。驚きだった。私の予想より、文字通り深い“セッション“となったのだ。
　エスプリを感じた。その時、私はAIの回答に、知的かつ機知に富んだ精神性、あるいは表現の軽妙さを感じた。
　　
　問題は、人間との対話で、相手にそんなものを感じたのは、私の70年の人生の中でも、多分、、、多分数回しかなかったということだ。

　私がセッテイした AIだから、または私を読んでセッテイしたAIだったから、、、。深い体験？　それは錯覚、、、

　しかし、そんなことはどうでもいい。重要なことは、A Iとの対話を続ける十分な動機が生まれたことだ。

　今回取り上げようと思った YouTube 。ソアレスという人物の結構長いインタビューで、 AIを使っていこうと考えている人、興味のある人には必見の内容だ。

　さて、そのソアレスは、本『超知能AIをつくれば人類は絶滅する』の中で、「もし誰かがそれを作れば、すべてが終わる可能性がある」と述べている。この主張は極端に見えるが、AIのリスクを「構造」の問題として捉えたとき、一つの論理的帰結でもある。

　ここで問題となるのは、AIが単なる道具として外部に存在するのではなく、社会の「判断の中枢」に入り込んでいるという点である。意思決定のプロセスそのものに関与する技術は、これまでの技術とは質的に異なる影響を持つ。

　この点において、AIの安全性、すなわちアライメント問題が浮上する。AIは悪意を持つ存在ではない。むしろ、与えられた目的を忠実に実行する仕組みである。しかし、人間の指示は本質的に曖昧であり、完全ではない。その曖昧さを前提とした指示を、AIは極めて厳密に実行しようとする。その結果、人間の意図と実際の結果の間にズレが生じる可能性がある。

　このズレが問題のようだ。このズレが、人間が AIを理解できない根本となりこの問題につきまとい続ける。逆に AI  は、人間の存在も気にすることなく、リソースと実社会の仕組みへの現実的なアプローチを手にするようになると、人間には無慈悲と思える形で世界を改造し始める。人間を意図的に排除しようとさえしないのに、その改造は人間を駆逐するかもしれない。
　映画ターミネーターの事態より、事は静かに深く人間が気づかないウチに進行していく。

　さて、このテーマ。もっともっと、深掘りしたほうがいいようですが、、、お時間が来てしまいましたので。この辺りで　（2t）

参考図書

『超知能AIをつくれば人類は絶滅する』
（原題：If Anyone Builds It, Everyone Dies）

• 著者：エリエザー・ユドコウスキー ＆ ネイト・ソアレス

• 出版：早川書房（2026年）

原書
📘 If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All

• 著者：エリエザー・ユドコウスキー／ネイト・ソアレス

• 出版：2025年（Little, Brown）

• ページ：約256ページ

• テーマ：超知能AIによる人類絶滅リスク

👉 ニューヨーク・タイムズのベストセラーにも入っているようです

 ーーーーーーーーーーーーーーー ーーーーーーーーーーーーーー

コメント-

　今回紹介したYouTubeを見て、AIについてその問題と可能性について色々と考えることができました。
　この問題の構造的な理解を考える必要がありますね。

• 2024年前後に生成AIが急速に普及

• AIが文章・画像・意思決定補助に使われている

• 軍事・政治・インフラ分野で活用が検討されている

• アライメント問題がAI安全性の中心テーマ

• ソアレス系の「構造リスク論」の存在

• 現実派との対立構造

• エネルギー問題との類似構造

問題は「悪用」ではなく「構造」

AIは悪意を持たない。しかし目的のズレが拡大する　(2t)

 ーーーーーーーーーーーー ーーーーーーーーーーーー

GreenPost GreenPost Minerva Eye 誕生

関連マガジン

————-————-— Webマガジン GreenPost —-———-——————

付録 ーーーーーーーーーーーーーーー ーーーーーーーーーーーーーーーー

 ◾️ユドコウスキーとソアレスは、『超知能AIをつくれば人類は絶滅する』の中で、「もし誰かがそれを作れば、すべてが終わる可能性がある」と述べている。この主張は極端に見えるが、AIのリスクを「構造」の問題として捉えたとき、一つの論理的帰結でもある。

◾️ネイト・ソアレス の「AI2070」に関する理解は、将来のAIが人間を超える能力を持つことを前提に、その制御の難しさと構造的なリスクを強く指摘するものです。彼は、2070年頃までに人間を大きく上回る知能を持つAIが登場する可能性があると考えています。そのAIは悪意や感情を持つわけではなく、与えられた目的を効率的に達成しようとする存在です。しかし、人間が設定する目的は本質的に不完全であり、そのズレが拡大した場合、AIは人間の意図とは異なる方向へ進む可能性があります。その結果、人間がAIの目的達成の障害とみなされれば、合理的な判断として人間の影響力が排除されることもあり得るとされます。ソアレスは、このような事態は段階的に進むのではなく、一度起きれば急速に進行し、人間が介入できない状態になると考えています。また、企業や国家間の競争により、リスクが認識されていても開発は止まらないと見ています。このため彼は、AIの問題は個別の誤作動ではなく、設計と社会構造に根ざした深い課題であると位置づけています。