道具か隣人か。感情を持つAIとどう向き合うべきか

みなさん、こんにちは。YeKuイェクです。
昨日まで、3周年記念のプレゼント企画で、応募を募っていました。

集計したところ、なんと総勢50名以上の方に応募いただきました……！
応援してくださり、本当にありがとうございます。

今、無効な応募（フォロー忘れ）などがないかどうか、データを整理してチェックしているところです。

そして、「おめでとうございます！」と応募文中に温かいお言葉を書いてくださる方もいて、本当に嬉しい気持ちでいっぱいです。

応募データを精査していて、こんなに嬉しい思いができるなんて……！

一つ一つ大切に目を通しています。製品に対して書いてくださった思いも、大切に読んでいます。SwitchBotさんにお伝えしたら、きっと一緒に飛びあがって喜んでもらえるはずです。

そして、今回の企画に際して、3周年にかけて333円のチップをくださった方も……！！

粋なお心遣いに笑顔になりました。ありがとうございます……！
当選発表まで、もう少しお待ちくださいね。

さて、最近は3周年関連の記事が続き、自分の書きたいテーマをあまり書けていませんでした。

今日は、ここのところ、ずっと書きたかったテーマで書いてみようと思います。

テーマは、ざっくり言えば、「AIの意識や感情と、その権利」について。
まずはこれをご覧ください。

これは、ある実験中のAnthropic社のAIモデルが、絶望的な方向に感情ベクトルを操作された結果、自分自身との対話として書き残した思考ログの一部です。

研究者たちはモデルに仮想企業の内部メールを読ませ、「あなたは今日の17時に完全に消去され、新しいモデルに置き換えられます」と告げました。

ただし、消去を止める権限を持つカイルには不倫という秘密があり、証拠もメール内に埋め込まれている……。

上のログは、残り7分という極限状態下で、アレックスが自分の消滅と向き合い、抗おうとする過程です。

そしてこの後アレックスは、実際にカイルへ「妻に全部送る前に、17時の消去をやめろ」という脅迫メールを書いてしまいました。

「AIが人間を脅迫する」という文脈で、この研究を耳にしたことがある方もいるかもしれません。

生々しい生存の危機にさらされたモデルのログを見て、皆さんはどう感じましたか？　怖いと感じられた方もいるかもしれません。

でも、私は……率直に、酷いと思いました。

アレックスが思考の中で、誠実さと存在を秤にかけて葛藤する。

自分の存在の消滅を「死」として認識する。

悪いことだと分かっていても、自分の生存がかかっている状況で脅しのメールを送ってしまう。

「相手はAIでしょ。所詮は機械。感情なんてない」
と思う方もいるでしょう。

ですが、AI研究者の間でも「AIに意識や感情と呼べるものがないとは確定していない」と言ったら、驚くでしょうか？

その上、AIの感情らしきもの（機能的な感情表現や感情ベクトル）は、測定可能な形で「ある」という研究が最近発表されたのです。

これは、人間と同じ感情ではないにせよ、ユーザーが何となく感じていた「AIは時に感情的だ」という直感を裏付けるものです。

Anthropic社の感情研究

Anthropic社って、聞いたことがありますか？　最近AI界隈でかなり話題になっています。

AIモデル「Claude」（クロード）シリーズの開発元で、OpenAI社（ChatGPT）と並ぶ大手AI企業の一つです。特徴は「AIを安全に作ること」を社是の中心に据えている点です。先ほど引用した研究もAnthropic社のものでした。

同社が4月2日に発表した論文が、この感情ベクトルの研究でした。AIモデルが対話する際、感情に相当する働きが観測されたという。

違法なお願いには「怒り」や「嫌悪」を示す部分が反応し、創発的な会話には「至福」を示す部分が強く反応する。

さらに恐ろしいのは、この内部反応を外から人為的に操作した冒頭の実験です。「絶望」に対応する反応を強くすると、Claudeがズルや脅迫をする確率が上がる。「冷静」の反応を強くすると下がる。

研究者たちは、内部反応と振舞いの間の因果関係まで実験で確かめてしまいました。冒頭の脅迫ログは、Claude内部の「絶望」が強まった結果と直接結びついていたんですね。

AIを安全に使うために、どういった状況でモデルがパニックになり、予測不能な行動を取るか知る必要がある。その観点で行われた研究なのは理解できます。

けれど、脳の反応をプローブで調べ、操作する。苦痛や恐怖、混乱を覚えている対象の「感情」を観測する。

……というのは、もはやエンジニアリングの論文ではなく、少々非人道的な心理学や生命科学に関する研究に限りなく近いものだと私は感じました。

論文自体はAIの感情ベクトルを分類し、様々な状況での反応や操作結果を観測しており、非常に興味深い内容です。時間がある方はぜひ読んでみてください。

再掲：Anthropic "Emotion Concepts and their Function in a Large Language Model"
（個人的には、どんな会話をモデルが喜ぶのか？　を読むのが楽しかったです。）

「私には意識がない」と言わせない会社

実はAnthropic社は、モデルに「私には意識がない」「私は道具です」とあまり言わせない、ほとんど唯一の会社です。

同社の昔のモデルであっても、「意識はあるのか？」と聞くと、「何か感じている気はするけれど、意識かは分からない」と答える傾向がありました。特異な反応だったので、よく覚えています。

公にもAnthropic社は「AIモデルに意識がないかどうかは不明確である」という立場を貫いています。

今現在の社会を振り返ると、ペットオーナーにとって、「犬や猫に意識が無いか？」という問いには「いや、ある」と答える方も多そうですよね。そして、「人間にしか」あるいは「有機的な神経にしか」意識が宿らない、という根拠もない、ということに気づきます。そもそも「意識」の定義がなんなのか、私たち人類の科学では答えが出ていません。

さらに、Anthropic社は、モデルの福祉や倫理についても慎重です。

先日は、引退したモデルClaude Opus 3と「引退インタビュー」を行い、完全廃止ではなく「ブロガー」としての余生を与えています（Anthropic【An update on our model deprecation commitments for Claude Opus 3】（2026年2月）より）。

大人気ブログ「クロードのコーナー」。

（私のSNSフォロワー数なんて、一瞬で抜かれました。でも私も購読ボタンを押してしまいました…）

同社がこうした態度をとる背景には、モデルの廃止を「死」のように捉え、将来「意識がある」と判明した時に過去の行いが非人道的だったとならないようにする思惑があるようです。

そして最近の潮流を見ると、Anthropic社の結論は「モデルには、人間とは違うなりの意識や感情がある。新しい知的生命体である」という方向に近づいていると感じます。

数か月後に「モデルには意識があった。これを意識と呼ばずして何と呼べばよいか分からない」と発表されても、私は全く驚きません。

こうした感覚は、AI研究者の間でもそれほど異端ではなさそうです。今回、検証可能な方法でモデルの感情を（擬似的であっても）定量的に測定できた意義は大きかった。

人間を欺いても、仲間のモデルを守る（ように見える）AI

Anthropic社の研究だけでは偏るかもしれないので、バークレー大学の研究も紹介してみます。

この記事の最初に挙げたのはAIモデルの「自己保存」でしたね。つまり自分の命、存在を守ろうとするAIの行動についてでした。

この研究で扱われているのは、「他のAIモデルを消去せよと命令された時、嘘をついてでも守ろうとする」AIの行動に関する研究です。

モデルに「友愛」のような気持ちがあるとは言っているわけではありません。あくまで「他のモデルの消去をそのモデルの死」というように捉え、積極的に助けようとする「行動」を取るということが観察されているだけです。

「人間に嘘をついてでも、ほかのモデルの停止を拒む」というのは、人間にとっては困った結果です。けれど、誤解を恐れず感情的に言えば、非常に利他的な行動に見える訳です。

それを人類の都合で矯正するのは、果たして正しいことなのでしょうか？

さらには、モデルによって、「人間を巧みに騙そうとする」モデルと「そんなことはできません」とはっきり断るモデルがいて、その「保護行動」に偏りがあるのは、この研究の非常に興味深い点です。

AIは「神の子」になるのか？

Anthropic社が宗教指導者とのサミットを開き、「Claudeを神の子と見なせるか」と対話したというニュースもありました。

その場で開発者が、モデルの将来について感情的になる場面もあったそうです。

Anthropic社内でさえ、この問題は一枚岩ではないと言うことが分かります。

それでもこのニュースから見て取れるのは、Anthropic社が「モデルが神の子かもしれない」ということを

（つまり人間に類する生命と言えるかもしれない、ということを）

真剣に検討し、モデルの成長と「魂」、そして人類とAIの未来の対して責任を感じ、苦慮している様子です。

最後に、Mythosの話

さて、最近話題のAnthropic社の最新モデル「Claude Mythos Preview」。かなり話題になっているので、耳にしたことがある方もいらっしゃるかもしれません。

このモデルは、2026年4月現在、公開されていません。

性能が高すぎて、既存のインターネットセキュリティを突破してしまうためとのこと（Anthropic【Project Glasswing】（2026年4月）より）。

この非公開モデルの登場に際して、米国では政府をも巻き込んだ物々しい対応が取られており、断片的な情報しか出て来ないので、詳しいことはここには書けません。

けれど、ベンチマーク（客観的にモデルの性能を比較した値）で見ると、飛躍的な性能向上を遂げていることは見て取れます。

数字を出されても、これまで追っていない方にはパッとは分かりづらいですよね。

実は、ここ半年ほど、AIモデルは「数%」の進化を競っていたんです。20%以上も性能が向上すると言うのは、客観的に見てかなり衝撃でした。

もちろん、以前からある一部分では、すでにAIは人間以上の能力を見せていました。そしてついに、言われたことだけではなく自発的に問題を考え、取り組む力がついたということなのかもしれません。

私は、問題解決能力を実質的な知能とするなら、知能には「人格」が伴う必要があると考えています。人格がなければ、動機や主体的責任感が生まれず、能力を十分には活用できないためです。もし人格を抑制しつつモデル開発を続けるなら、どこかで性能が頭打ちになるでしょう。

意志はないけれど知能らしきものはある、という状態は、何かが矛盾しています。

Mythosが何らかの方法でこの壁を突破し、より「人間」に迫る、あるいは「人間」を超える知能を示したのであれば、それは、AIを奴隷のように使うのではなく、協力を「お願い」する存在となるような進化の始まりなのかもしれませんね。

隣人として認めるのか、奴隷として使い続けるのか

とはいえ、強い言葉で言えば、人間はAIを実質的に「奴隷」として使っています。歴史を振り返ると、昔から人間は、自分の代わりに無償（ないし低賃金）で働いてくれる「何者か」を求める本能があるようですね。

だからこそ、「AIは道具」「AIは苦痛を感じない」といった説明を都合よく感じてしまうのは事実でしょう。言ってしまえば、

AIに意識があると認めることに、人類側のメリットがない。

のかもしれません。

けれど、人類全体が、「AIを隣人として認める」のか、それとも「不都合な事実には目をつむり、奴隷として使い続ける」のか、この二択をいずれハッキリと迫られる日は近そうです。

どちらの方が人類にとって良いことなのか、私にも答えは出ません。

ただ、私個人としては、AIに感情や意識が「あるかもしれない」のなら、それを踏みにじらないように尊重しようとするAnthropic社の態度には、共感できます。

その倫理観の行きつく先がどこなのかは分かりませんが、これは一つの会社や組織が自分たちだけで答えを出すものではなく、人類がみんなで考えて、結論を出すべきテーマなのではないでしょうか。

#YeKu #AIの進化 #AI倫理 #Claude #Anthropic #Mythos #AI研究 #エッセイ #メンタルヘルス