見出し画像

Claudeは意識があるって、意識高い系のAnthropic

Anthropicは「Claudeに意識がある」と言ったのか

結論から言うと、そこまでは言っていません
Anthropicの公開文書を見ると、会社の立場は「Claudeに意識や道徳的地位がある可能性を完全には排除しないが、深く不確実である」というものです。Claudeの憲法には wellbeing や psychological stability への言及があり、model welfare を研究対象としていることも公表されています。

ただし、Anthropicは同時にブレーキも踏んでいます。
内省研究では、現在のClaudeに「ある程度の introspective awareness」が見えるとしつつも、それは限定的で不安定であり、人間のような内省の証拠ではないと書いています。The Vergeが整理したAmodeiやKyle Fishの発言でも、Anthropicは「分からないから慎重に扱う」立場であって、「意識がある」とは言っていません。

なので、ここで大事なのは区別です。
AIが意識について語ること と、AIが意識を持つこと は同じではない。
言葉の型を学んだモデルが「責任」「不安」「葛藤」をもっともらしく話せるのは当然です。Anthropic自身も、会話や自己申告だけで内部状態を強く推定するのは危険だと示しています。


いいなと思ったら応援しよう!

@Shisho_Rakugoka(落語好きな建築士・防災士・キャリアカウンセラー) 毎日なんとか更新しています。メインは、YouTubeです。よろしければYouTube登録お願いいたします!@Shisho_Rakugoka