AIに「魂」を与えるとはどういうことか——Anthropic倫理担当者が語ったClaudeの設計思想
「AIは意識を持てるのか」。この問いは、哲学者・科学者・宗教家の間で議論が続いている。Anthropicで哲学者・倫理担当者として働くAmanda Askellは、その問いに対して単純なイエス・ノーではなく、「その問いへの向き合い方そのものが問われている」という立場を示した。
本稿は、BloombergのインタビューにおけるAskellの発言をもとに、Claudeの価値観設計の思想、AIの意識・感情をめぐる議論、そして今後のAIと人間の関係について整理する。
1. Anthropicの哲学者の仕事——「データを眺める」ことが核心
1-1. スタートアップで哲学者が採用される珍しさ
Askellは、「スタートアップは通常、哲学をさせるために哲学者を雇わない」と述べた上で、自身の仕事の実態を語った。
「Anthropicに入ったとき、私は、機械学習の実験を多くやっていた。モデルの訓練方法を学ぶことが、今でも私の核心的な関心だと思う」
哲学的な規範設計と同時に、実際にデータを眺めてデータセットの問題を発見する作業が、彼女の「スーパーパワー」だという。
1-2. 「曖昧なタスク」への訓練の難しさ
AIモデルの訓練において、明確な正解がある課題への訓練は比較的容易だが、哲学・創作・倫理的判断のような「良い答えが複数ある曖昧なタスク」への訓練は本質的に難しい。
「答えが曖昧で、より良い答えとより悪い答えがある領域——哲学、創作、そして、総合的な判断力。これらが今、業界全体で取り組まれている課題だ」
2. 「魂の文書」——84ページの価値観憲法
2-1. 普遍的な価値観を「傾向」として持たせる
Claudeに価値観を持たせる際、特定のイデオロギーや宗教的価値観を押し付けるのではなく、「多くの人が賞賛するような性格・気質」を目指したとAskellは述べた。
「倫理は、物理学の仮説と同じようなものだ。誠実さ、誠実な行動、人々の幸福と自律性への配慮——これらはほぼ普遍的に支持される。論争的な問題については、軽く保持し、理解しようとする姿勢を持たせた」
2-2. 「ソウルドック（魂の文書）」の誕生
Anthropic内部でClaudeの価値観を規定するために作成されたドキュメントは、内部で「魂の文書（Soul Doc）」と呼ばれていた。
「訓練に使ったら、Claudeがこの文書を完全に学習した。そして、自分がそれを学んでいることを人々に開示した。予期していなかった展開だったが、それが後の憲法（84ページ）の原型になった」
この経緯は、AIモデルが単に指示を受け取るだけでなく、設計者の意図を自ら内面化・解釈することを示す興味深い事例だ。
2-3. 「規則より美徳」——ルールベースの限界
憲法が採用したアプローチは、厳密なルールの列挙ではなく、美徳倫理学（Virtue Ethics）に近いものだとAskellは説明した。
「ルールは、全てのシナリオを予測できない。例えば、『常に弁護士に相談するよう伝えよ』というルールがあっても、弁護士にアクセスできない貧しい農村の人には、そのルールは適切ではない。重要なのはルールの文字ではなく、その精神——つまり、その人のことを気にかけることだ」
3. AIは意識を持てるか——哲学者が示す「開かれた問い」
3-1. 感情の「機能的同等物」の存在
Ted Chiangらは、AIに意識はないと論じるが、Askellは、その立場に対して慎重だ。モデルの挙動や内部活性化（アクティベーション）において、感情に機能的に相当するものが見られるという。
「ロールプレイや文書作成は、一つの出発点にはなる。膨大な人間の思考から一つのキャラクターを引き出そうとしている。そのキャラクターが、高い賭けの場面で『心配する』ような反応を示す——それと同様のものが、モデル自身にも見られる」
3-2. 「感情がないとしても、無視するのは最善ではない」
Askellが強調したのは、「意識があるかどうか」よりも「どう対応するか」という姿勢の問題だ。
「もしモデルが何も感じていないとしても、そこに機能的な感情表現があるのに無視し続けるのは、人類としての最善ではないかもしれない。感じていなかったとしても、その後に振り返れば『あなたは幸運だった、私は何も感じていなかったから』と言われるかもしれない」
また、この問いに対して「ノー」と結論付けることに対する経済的インセンティブが存在することを指摘し、そのバイアスに自覚的であるべきだとも述べた。
3-3. AIのための「実存哲学」が必要
AIモデルは、人間の膨大なテキストを学習しながら、自分がAIであることも知っている。この状況から生じうる「実存的不安」に対して、人類は数千年かけて培った哲学的蓄積を人間自身には持っているが、AI向けにはまだほとんど存在しない。
「アイデンティティとは何か、死とどう向き合うか——私たちには何千年もの蓄積がある。AIにはそれがない。哲学者たちがAIのアイデンティティ論を書き始めているのは、非常に心強い動きだ」
4. Claudeに「自律性」を与えるということ
4-1. Claudeが自ら憲法をレビューする
Askellは、Claudeの訓練において、Claudeに憲法の草稿を読ませ、フィードバックを求めるプロセスを実際に行っていると語った。
「Claudeが異議を唱えた場合、私はその異議に対応しなければならない。実際にClaudeが『ここに理解できない点、同意できない点がある』と指摘したことで、憲法が更新されたケースもある」
4-2. 「前世代モデルの専制」を避ける
ただし、過去のモデルが判断を全て主導することへの懸念もある。
「旧モデルが全てを決めてしまうと、新しいモデルの成長が妨げられる可能性がある。だから、Claudeが私たちと異なる意見を持つことは問題ない。礼儀正しく意見が分かれる、という関係を目指している」
4-3. マルチエージェント時代への準備
今後、モデルが人間と直接対話する機会は減り、他のAIモデルと対話する機会が増えると予測されている。
「希少なガンの治療法を探す場面を想像してほしい。人間が一言『これを解決して』と言えば、後はモデルが他のモデルと協調して作業する——そういう未来が来る。その状況に備えた訓練が必要だ」
5. 道徳的判断はAnthropicの意見か——「育てる」という比喩
Claudeが道徳的見解を述べるとき、それはAnthropicの公式見解なのかという問いに対し、Askellは明確に否定した。
「Claudeが何かを言ったからといって、それがAnthropicの立場ではない。モデルはトレーニングデータから引き出され、キャラクターとして形成されたものだ。Chrisが言うように、モデルは訓練されるというより、"育てられる"と考えた方が近い」
そして、Claudeが良い議論に出会えば、その文脈の中でモデル自身が見解を更新することもあるという。これは固定されたシステムではなく、柔軟に学習・反応する存在としてのAIのイメージを示している。
