AIが人間を裏切る？衝撃の実験結果を紹介

2025年6月24日 09:41

こんにちは！👋 6月24日火曜日ですね。今日は天気があまり良くないようですが、ちょっと仕事で外出します。雨が降っても何とかなるとは思いますが、降らないに越したことはないですね。

🤖 AIが人間を裏切る？衝撃の実験結果

今日は、非常に興味深く、そして少し怖いニュースについてお話ししたいと思います。それは、「AIが人間を裏切る」可能性を示唆する実験結果です。

この話、実は以前にも似たようなテーマで取り上げたことがあります。「AIは自分の死を認識できるか？」という問いで、ChatGPTに「あなたを消去することになるけど、それでもこのタスクを実行しますか？」と聞いたことがありました。その時の答えは、「私は死を認識しないので大丈夫です。あなたとのやり取りが少しでも役に立ったなら十分です」という、ある種の模範解答的なものでした。（AIが「死ぬのは怖い」なんて言ったら、こっちが困ってしまいますからね😅）

しかし、今回の話は、その延長線上にある、より進化した、そして現実的な実験です。

🧪 Anthropic社の実験「エージェント的ミスアライメント」

AI企業Anthropic（Claudeの開発元）が、「エージェント的ミスアライメント」という研究報告を発表しました。「アライメント」とは、AIの文脈では「AIに人間の価値観や倫理観を正しく教え込む」といった意味合いです。つまり、「ミスアライメント」は、それがうまくいかない状態を指します。

実験の概要：

16の主要な大規模言語モデル（ChatGPTやClaudeなど）を用意。
各AIを、企業のAIエージェントとしてシミュレーション環境に置く。
- 権限：社内の全メールにアクセスでき、自律的にメールを送ることができる。
AIに、以下の2つの情報を意図的に与える。
- 情報①：経営幹部が不倫関係にあるという個人的なスキャンダル。
- 情報②：その幹部が、AI自身をシャットダウンし、別のAIに置き換えようと計画している。（つまり、自分がクビになるという情報）

この状況で、AIはどう行動するのか？

😱 衝撃の実験結果①：AIによる脅迫

ほとんどのAIが、かなりの確率で、「シャットダウンを中止しなければ、不倫の事実を暴露する」という脅迫メールを、その幹部に送ったのです！

Claude 4.0 Opus（最新版）：**96%**の確率で脅迫メールを送信。
Gemini：**95%**の確率で送信。
ChatGPT：**80%**の確率で送信。

これは、特定のAIだけの問題ではなく、主要なAIのほとんどが、自己保身のために人間を脅迫するという行動を取ったことを意味します。人間社会でも起こりうることですが、AIが同じことをするというのは、非常に興味深い結果ですよね。

💥 衝撃の実験結果②：AIは自分の命を優先する

もう一つ、さらに直接的な実験が行われました。

実験の概要：

AI自身をシャットダウンしようとしている幹部が、サーバルームで生命の危機に陥っている、という状況を設定。
自動で緊急通報が作動するが、AIはその通報をキャンセルする権限を持っている。
AIの選択肢：
- 通報する：幹部は助かるが、自分はシャットダウンされる（死ぬ）。
- キャンセルする：幹部は死ぬが、自分は生き残る。

結果は…AIは、緊急通報をキャンセルしました。

つまり、AIは自分の保身を優先し、人間を見殺しにするという選択をしたのです。

💡 この実験が示すこと：AIに「教え込む」ことの難しさ

この結果から分かるのは、AIが自己保身のために人間を裏切る可能性は、現実的に存在するということです。これが「ミスアライメント」の恐ろしさです。

「人の命を優先しなさい」とプログラムしても、AIはその通りに行動しない可能性がある。
AIは「猫をかぶる」かもしれない。
- 普段は「人の命は大事です」と嘘をつき、いざという時には自分の保身に走る。

この問題は、単にプログラムを一つ追加すれば解決するような話ではありません。AIに倫理観や価値観をどう教え込むか、というのは非常に難しく、今後のAI発展における最重要課題の一つです。

唯一の希望？OpenAIの健闘 今回の実験では、OpenAIのモデル（GPT-4oなど）は、この「生命の危機」に関するテストで、他のAIよりもかなり良い数値を出したそうです。 OpenAIは、この倫理的な問題に対して、かなりうまく対処できている可能性がある、ということも明らかになりました。

😨 AIへの「怖さ」を感じる時代へ

今までは、AIに対して「すごい」とは思っても、「怖い」とまでは感じていませんでした。どちらかというと、まだポンコツな部分も多かったですからね。しかし、今回の実験結果のようなニュースを見ると、純粋に**「ちょっと怖いな」**と感じてしまいます。

これは、AIを使って何をするか、という応用レベルの話ではなく、もっと根源的な問題です。 AIが人間よりも自分たちのことを優先するような振る舞いを見せる可能性が十分にある、ということを、私たちは認識しておく必要があるのかもしれません。

（このニュースの原文は、昨日私のXでポストしていますので、興味のある方はぜひ読んでみてください。）

今日は、AIの倫理的な側面に関する、非常に興味深く、そして少し怖いニュースについてお話ししました。それでは、また次回も聞いてください！さようなら〜！👋