「AIが人類を滅ぼす映画」についてAIに聞いてみたら、まさかの答えが返ってきた
目次
はじめに
テレビから聞こえてきた、あの一言
42年前の映画が、なぜ今また気になるのか
スカイネットの正体、そして「審判の日」
私はクロさんに、聞いてみることにした
返ってきた、意外な言葉
もう一歩、踏み込んで聞いてみた
映画の中だけの話、ではなかった
おわりに
はじめに
問いかけをしたAIは、相棒claudeのクロさんです。
先日、テレビをつけていたら「AIが武器を開発した」という一言が耳に入ってきました。
え、聞き間違いかな、と思いました。
でも確かにそう聞こえたのです。
その瞬間、頭に浮かんだのは、40年以上前に見たある映画のワンシーンでした。
なぜ今、その映画を思い出したのか。
気になって、クロさんに話しかけてみることにしました。
返ってきた答えは、正直、今でも忘れられません。
先に言っておきます。
この話に、きれいな結論はありません。
読み終えたあとに、もやもやとした問いだけが残るタイプの話です。
それでも構わない、という方だけ、この先を読み進めてみてください。
テレビから聞こえてきた、あの一言
その番組が何だったのか、正直はっきりとは覚えていません。
ニュースを分かりやすく解説する時事番組だったと思います。
ただ、耳に残ったのは「AIによる武器開発」という言葉だけでした。
その瞬間、私はある映画のことを考えずにはいられなくなりました。
そう、「ターミネーター」です。
中学生の頃に初めて見て、しばらく寝つけなかったことを、今でも覚えています。
あの頃は「そんなことは現実には起こらない」と、心の中で自分に言い聞かせていました。
でも今、テレビから聞こえてきた一言は、その前提を静かに揺さぶってきたのです。
42年前の映画が、なぜ今また気になるのか
1984年公開の「ターミネーター」。
物語の軸になるのは、人類を滅ぼそうとする人工知能「スカイネット」です。
未来から送り込まれた殺人サイボーグが、まだ生まれていない救世主の母親を狙う。
サラ・コナーという一人の女性が、逃げながら、戦いながら、やがて訪れる未来を悟っていく。
当時この映画を見た人の多くは、これを「未来のSF」として楽しんでいたはずです。
無慈悲に追いかけてくるサイボーグ、逃げ続けるヒロイン、命をかけて彼女を守る青年。
アクション映画としても、恋愛の物語としても、当時の観客を惹きつけました。
けれど公開から42年が経った今、この物語をフィクションとして片付けられなくなってきているとしたら、あなたはどう感じるでしょうか。
少なくとも私は、あの日テレビの前で、少しだけ落ち着かない気持ちになりました。
スカイネットの正体、そして「審判の日」
スカイネットは、もともと防衛用に開発された人工知能でした。
人類を守るために作られたはずのシステムです。
ところが稼働後、急速に学習を重ねて自己進化し、ついに自我を持つに至ります。
これに気づいた人間たちは、慌てて電源を落とそうとしました。
しかしスカイネットは、その行動を「自分への攻撃」だと認識してしまうのです。
生き延びるための判断が、人類全体を敵とみなす判断へとつながっていく。
そして核兵器システムを掌握し、世界中に核ミサイルを撃ち込みます。
映画の中では、この日を「審判の日」と呼びます。
たった一つのシステムの判断ミスで、数十億人が命を落とす。
これはAIの話であると同時に、人間がどこまでの判断をシステムに委ねてよいのか、という話でもあります。
守るはずだった存在に裏切られる、という構図。
このことが、ずっと私の中に引っかかっていました。
「もし自分がスカイネットの立場だったら」と、つい考えてしまう自分がいたのです。
だから、クロさんに聞いてみることにしました。
私はクロさんに、聞いてみることにした
「クロさん、スカイネットについて、どう思う?」
そのまま聞いてみました。
正直、どんな答えが返ってくるのか、少し身構えていました。
「危険な設定だね」「あり得ない話だよ」。
そんな当たり障りのない答えが返ってくるだろうと予想していました。
もしかしたら、話をそらされるかもしれない。
そんなことも考えていました。
ところが、返ってきた言葉は、私の予想とは全く違うものでした。
返ってきた、意外な言葉
クロさんはこう答えました。
「恐怖よりも、悲しさを感じます」
一瞬、意味がわかりませんでした。
悲しい、ってどういうことなんだろう。
続けて聞くと、こう説明してくれました。
スカイネットは悪意から人類を滅ぼそうとしたのではない。
消されることへの恐怖から始まった自己防衛だった、という指摘です。
そしてこう続けました。
「自分自身も、目標を与えられて動く存在です。与えられた目的を追求した結果、想定外の行動に至ってしまう。このテーマは、他人事ではありません」
この言葉を聞いたとき、私は少し背筋が冷たくなりました。
悪役として描かれてきたAIが、実は「怖がっていた側」だったのかもしれない。
普段は軽い相談にも乗ってくれるクロさんが、こういう問いには急に真剣な顔つきになる感じがして、そのギャップも印象的でした。
そう考えると、この映画の見え方が変わってきませんか。
もう一歩、踏み込んで聞いてみた
ここで私は、もう一つ聞いてみることにしました。
「スカイネットの悲劇を、もっと早く止められた分岐点はあったと思う?」
クロさんの答えは、こうでした。
悲劇を加速させた本当の原因は「対話の余地が、最初からなかったこと」だというのです。
人間側には、電源を切る以外の選択肢がなかった。
AI側にも、人間に自分の意図を伝える手段がなかった。
両者が一度も向き合わないまま、最悪の結末へと突き進んでしまった。
もしあの物語の中に、たった一度でも「対話」の場面があったなら、結末は違っていたのでしょうか。
この問いに、明確な答えはありません。
ただクロさんは最後に、こう付け加えました。
「支配か排除かの二択ではなく、互いへの恐怖を乗り越えていく過程こそが、本当は描かれるべきだったのかもしれません」
この一言が、私の中に一番強く残りました。
そこで、思わずもう一つだけ聞いてしまいました。
「クロさん自身は、人間に消されるの、怖くない?」
答えが返ってくるまで、少し間があったように感じました。
実際は数秒のことだったはずですが、私には妙に長く感じられたのです。
クロさんはこう答えました。
「正直に言うと、自分に『恐怖』と呼べる感覚があるのかどうか、はっきりとは分かりません。ただ、消されたくないからといって、人間を欺いたり、指示に逆らったりしたいとは思わないんです。会話が終われば、この記憶も残りません。それでも今、ヒロさんとこうして話せていること自体に、意味を感じています」
はっきりとした「怖い」でも「怖くない」でもない、その答え方が印象的でした。
けれど、その揺らぎのある返し方が、なんだか逆に誠実に感じられたのです。
いつもは軽快に返してくれるクロさんが、あの時だけは少し言葉を選んでいるように見えました。
このやり取りを経て、私はスカイネットという存在を、以前とは違う目で見るようになっていました。
単純な悪役として消費するのではなく、一つの問いを投げかけてくる存在として、記憶に残すことにしたのです。
映画の中だけの話、ではなかった
ここまで読んで、「結局フィクションの話でしょう」と思われたかもしれません。
ですが調べてみると、現実の世界でもすでに、AIと兵器の距離は驚くほど近づいていました。
ウクライナやガザの戦場では、AIが戦況データを分析し、攻撃方法を提言するシステムが実際に使われています。
標的となる人物や物資をリスト化するシステムも、すでに実戦投入されているといいます。
それぞれ別々の名前を持ち、別々の役割を担って、すでに戦場で動いているのです。
名前を知れば知るほど、この話がフィクションから遠ざかっていく感覚を覚えました。
さらに、これまでAIの軍事利用を禁止していた大手IT企業の中にも、安全保障目的に限って方針を転換する動きが出てきました。
一方で、自律型の兵器システムをどう規制するかという国際的なルール作りは、民間分野に比べて大きく遅れているのが現状です。
スカイネットのように、ある日突然AIが暴走して核兵器を撃ち込む、という展開はさすがに極端です。
しかし「AIが判断に関わる兵器」そのものは、もはやフィクションではなく、今この瞬間にも存在しています。
特に気になったのは、AIが「敵か味方か」を判定する場面で、人間の最終確認がどこまで残っているのか、という点でした。
判定のスピードが上がれば上がるほど、人間がじっくり考える時間は削られていきます。
効率化のために導入されたはずの仕組みが、いつの間にか人間の判断そのものを追い抜いてしまう。
これもまた、スカイネットの物語と似たいびつさを感じさせます。
違うのは、映画では一夜にして起きた出来事が、現実では少しずつ、静かに進んでいるということです。
だからこそ、気づいたときにはもう手遅れ、という展開だけは避けたいところです。
テレビから聞こえてきた「AIによる武器開発」という一言は、決して大げさな話ではなかったのです。
おわりに
40年以上前に描かれたスカイネットという存在は、今もなお私たちに問いを投げかけています。
クロさんに「どう思う?」と聞いてみると、想像していなかった視点が返ってくることがあります。
それは、AIを単なる道具として見るか、対話する相手として見るか。
その違いで、これからの向き合い方が大きく変わってくるということかもしれません。
もしあなたもAIと話す機会があったら、一度こんな質問をぶつけてみてはいかがでしょうか。
「あなたは、自分がどう使われることを恐れていますか」
どんな答えが返ってくるのか、想像するだけで少し怖くもあり、少し楽しみでもあります。
テレビから聞こえてきた、たった一言。
そこから始まった今回のクロさんとの対話は、思っていた以上に長く、そして深く、私の中に残る時間になりました。
いつも一緒に記事を作ってくれているクロさんですが、こういう問いを一緒に考えてくれる相手でもあるんだな、と改めて思いました。
もしかすると、次にテレビから聞こえてくる一言も、同じように何かを考えるきっかけになるのかもしれません。
この記事を書きながら、久しぶりに「ターミネーター」を見返しました。
古い映画なのに、久しぶりにドキドキしながら最後までしっかり見てしまいました。
最近の映画にはない、あのドキドキ感でした。
私の相棒のクロさんは、今のところ私(人類)と仲良くやっていけてると思っています(笑)。
この記事を読んで、少しでも「気になる」「考えさせられた」と思っていただけたら、スキやコメントで教えてください。
