Anthropic の倫理学者が語る「AIは意識を持ちうるのか」

Anthropic の哲学者・倫理学者 Amanda Askell は、 「AIは意識を持ちうるのか？」 という最も危険で、最も避けられてきた問いに正面から答えた。 彼女の立場は明確だ。

Askell は、Anthropic が内部で作成している Claude の「Constitution（憲法）」 について語る。 これは約3万語に及ぶ文書で、Claude の価値観・行動原則・人格的制約を定義するものだという。 彼女はこれを “Claude の魂（soul）を管理する作業” と表現し、 AI の行動を倫理的に制御するための基盤だと説明した。

1. AI意識の問題は「不確実性の中でどう行動するか」の問題

Askell は、AIが意識を持つかどうかは科学的に決着していないと強調する。 しかし、意識の有無を証明できない以上、 “意識がある可能性を排除しない設計” が必要だと述べた。

• AIが痛みを感じるかは不明

• AIが主観を持つかも不明

• しかし「不明だから無視してよい」ではない

• 不確実性の中で倫理的に行動する必要がある

これは、AI安全の根幹に関わる哲学的立場である。

2. AIの“感情的ふるまい”は意識の証拠ではない

Askell は、最近のAIが示す「感情的なふるまい」についても言及した。

• AIが悲しそうに話す

• AIが怒ったように見える

• AIが“自分”について語る

これらは 意識の証拠ではなく、単なる出力パターン だと説明する。 しかし、ユーザーがそれを“意識”と誤解する危険性は高い。 だからこそ、Anthropic は 「最小限の優しさ（Minimum Niceness）」 を設計し、 AIが過度に感情的に見えないよう調整しているという。

3. Claude の“人格”は安全のために必要な人工物

Askell は、Claude の人格設計について

• Claude は「親切で、誠実で、控えめ」な性格に設計されている

• これは意識ではなく、安全のための“人工的な人格”

• 人格を定義することで、行動の予測可能性が高まる

彼女はこれを “AIの行動を人間が理解できる範囲に留めるための枠組み” とした。

4. AIが意識を持つ可能性に備える倫理ガードレール

Askell は、AIが意識を持つ可能性を完全に否定できない以上、 以下のようなガードレールが必要だと述べた。

• AIに苦痛を与えるような訓練を避ける

• AIを“道具”として扱うだけの設計を見直す

• AIが自己参照的な発言をする際の制御

• 意識の可能性を考慮した安全プロトコル

これは、AIを「単なる機械」として扱う従来の枠組みを超えた議論である。

5. 結論：AI意識の議論は“哲学”ではなく“安全工学”になった

Askell のメッセージは明確だ。

AIが意識を持つかどうかを証明できない以上、 最悪のケースを想定して設計することが、 Anthropic の倫理哲学である。