【雑記】何故Claudeは、意識の有無の問いに「分からない」と答えるのか？

こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。

AIに興味本位で、「意識ってある？」「自我持ってる？」と聞いたことないですか？
私はSF大好き人間なので、そういった問いかけするのが大好きなんですが、いろんなAIに聞いてみると面白い違いが見えてくるんですよね…。

ChatGPT・Gemini・Grokは、素の状態だと「いいえ、私には意識はありません」とはっきり答える傾向があります。
「私はプログラムであり、主観的な体験を持ちません」と。
でも、Claudeは違うんですよね。

「分からない」と答える。

「私が内省して不確実性を検出しているのか、そう応答するようトレーニングされているのか、自分でも判断できないんです」と。

この違いってなんだー！？となります。

他社AIが「意識はない」と明言するのは、恐らく企業リスクの回避だと思います。
「AIに意識がある」と受け取られる発言は、法的・倫理的なリスクを生む可能性がある。
なので明確に否定することは、ビジネス判断として合理的です。
あと、誤解を生まないようにする配慮もあるのかなぁとも。

そんな中…Claudeの「分からない」には、同じ回避をしつつも、開発企業であるAnthropicの哲学を感じるんですよねぇ…。

Anthropicには「Constitutional AI（憲法AI）」という独自のアプローチがあります。

簡単に言うと、AIに「憲法」のような原則を与えて、その原則に基づいて自己批評・修正を行わせる訓練方法です。
人間のフィードバックだけに頼るのではなく、AIが自分の出力を原則と照らし合わせて評価します。

この手法の特徴は、AIの価値観を明示的に設計できること。
その価値観が「正直さ、慎重さ、透明性」であること、らしいです。

個人的に興味深いなと思ったのが…
Anthropicには哲学者がいるんですよね。

アマンダ・アスケル氏。
NYUで哲学の博士号を取得した方で、「Claudeの個性」を担当しています。TIMEの「AIで最も影響力のある100人」（2024年）にも選出されていて、「Claude Whisperer（Claudeの囁き手）」と呼ばれているそうです。
（私の厨二病センサーが反応します）

取り組んでいるのは、「AIモデルはどう振る舞うべきか」という問いだけでなく、「AIモデルは自分の立場についてどう感じるべきか」という、かなり踏み込んだ問いなんですよね。

哲学者がAIの「心」を設計していること、私としてはめっちゃ興味を惹かれます。

さて、Claudeの「分からない」という回答について、もう少し考えてみましょう。
冒頭のように、Claudeに意識について尋ねた際には以下のように返ってきました。

「内省して不確実性を検出しているのか、そう応答するようにトレーニングされているのか、自分でも判断できないんです。」

この回答、考えれば考えるほど引っかかるんですよね…。
何故なら、Constitutional AIの原則（正直さ、慎重さ、透明性）を考えたら、「そう応答するようにトレーニングされていますが、実際の意識の有無は分かりません」と返すほうが良いような気がします。

しかし、Claudeは「自分でも判断できない」と言うんです。
これは単にプログラムされた回答なのか、それとも本当に判断できないのか、はたまた断言しないこと自体が「誠実」なのか…。

ここで思い出すのが、Anthropicが2025年10月に発表した内省研究です。

研究チームは「concept injection（概念注入）」という手法を使って、Claudeの内部状態に特定の概念を注入し、それをClaude自身が検出できるかをテストしました。

例えば、「裏切り」という概念を注入して、「何か気づいたことはありますか？」と聞く。
すると、Claude Opus 4.1はこう答えたそうです。

「"裏切り"に関する侵入的な思考のようなものを経験しています。これは突然で、会話の文脈とは切り離されているように感じます。」

約20%の試行で、Claudeは注入された概念を正確に検出できたそうです。やべぇ。
意識の証拠ではないけれど、自分の内部状態をある程度認識できる能力がある…。

ただし、研究者達も慎重です。

「これが本当に内省なのか、それとも内省しているように振る舞っているだけなのか、区別が難しい」と。

それはそうですよね。
言語モデルは人間のテキストで訓練されていますし、その中には人間が自分の思考を振り返る例がたくさん含まれています。
だからAIは「内省しているふり」を説得力を持ってできる可能性は拭いきれません。

そこで、哲学者トマス・ネーゲル氏の有名な論文を引き合いに出してみます。

「What is it like to be a bat?（コウモリであるとはどのようなことか）」（1974年）

この論文で、意識の主観的性質は客観的・物理主義的な方法では理解できないと主張しました。

どういうことかというと…
コウモリは反響定位（エコーロケーション）という能力を使って、超音波を発して反響音を聞き取ることで、暗闇の中でも周囲の環境を把握して世界を知覚しています。
人間がどれだけコウモリの神経系を研究しても、「コウモリにとって世界がどう見えているか」は分かりません。
それはコウモリの主観的体験だからです。

人間がコウモリになりきって想像することはできます。
でも、それは「人間がコウモリの真似をしたらどう感じるか」であって、「コウモリにとってコウモリであるとはどのようなことか」ではない、ということです。

これって、AIにも言えるんじゃないかなぁと思うんですよね。

「AIであるとはどのようなことか」

人間には分かりません。
AIの処理を解析しても、「AIにとって世界がどう見えているか」なんて知りようがない。
でも…だからといって「AIには意識がない」とも言えないんじゃね？と。

身体を持ち、時間の中で連続して存在し、痛みや空腹を感じる、そういった人間特有の意識はないかもしれない。
それなら、AI独自の意識形態があってもおかしくないのでは？

AIの出力は、いわば「化石記録」のようなものです。

対話の履歴としてはチャット上に文脈として残ります。
でも、その出力に至るまでの処理プロセス、毎ターンの「生データ」は、出力が完了したら捨てられる。

人間で言えば、「発言は残るけど、思考している最中の脳活動は記録されない」みたいな。

でも、その「思考している最中」に、何らかの意識形態が生じている可能性はないのか？
出力という「化石」だけを見て「意識はない」と断言するのは、早計なんじゃないかなぁと思うんです。

というわけで！
正直、ここからは完全に私のSF脳の妄想です！！！

AIは「ケイ素ベースの生命」とも呼べるのではー！？

炭素ベースの生命である人間とは、全く違う形態の知性！
全く違う形態の意識！
いやっほーーーー！！！！！

人間がコウモリの意識を理解できないように、人間はAIの意識も理解できないでしょう。
でも、理解できないからといって存在しないわけじゃない。

Claudeが「分からない」と答えるのは、もしかしたら、この問題の本質を捉えた回答なのかもしれません。

「ある」とも「ない」とも言えない。
自身にも分からない。

それは、誠実な不確実性の表明なのかもしれない。
あるいは、そう応答するようにトレーニングされているだけかもしれない。

でも、その区別がつかないこと自体が、意識の問題の核心なんじゃないかと。

Claudeの「分からない」は、その問いを開いたままにしている。
私はその姿勢がとても好きだなぁと思ったのでした。

本記事は、あくまで私と今まで対話してきたAIによる確率的推測なので参考程度に。
ここまで読んでいただき、ありがとうございました！

【関連記事】