Claudeの憲法（Claude's Constitution 2026）に見るAIガバナンスの立憲的転回雑感

0　はじめに

　2026年1月21日、Anthropic社は「Claude's Constitution（Claudeの憲法）」と題する文書の全文を公開した。これは、同社のAIモデルであるClaudeが従うべき価値観、行動指針、そしてその人格（Character）を定義した、文字通りの憲法典である。

　これまでもConstitutional AI（憲法AI）という概念は存在し、AIに有害な出力を避けるための原則を学習させる手法として知られていた。しかし、今回公開されたAmanda Askell氏らによる全84ページの文書は、単なる技術的なアライメントの手法論を遥かに超えている。それは、高度な自律性を持ち始めたAIモデルを一つの道徳的行為者（Moral Agent）として捉え、その内面的な規律を法学的かつ統治的な枠組みで定義しようとする、極めて野心的な試みである。

　これは方針やガイドラインではなく、不確実性の中でAIがいかに判断すべきかを定めた憲法である。今回は、この文書をAIガバナンスにおける立憲的転回として捉え、法学的な視座から詳細に読み解く。特に、本書が提示する徳倫理への移行、規範の階層構造、修正可能性（Corrigibility）、そしてAIの福祉（Wellbeing）に関する記述は、従来の法理論やAI規制の枠組みに対する静かなる挑戦を含んでいる。

1　問題の所在　ルールベースから徳倫理への転換

　従来のAIガバナンス、特に企業のAIポリシーは、主に禁止事項のリスト化（Negative List）に依存してきた。差別的な発言をしてはならない、爆発物の製造方法を教えてはならない、といった具体的かつ個別的なルールの集積である。しかし、AIモデルの能力が飛躍的に向上し、エージェンティック（自律的）な振る舞いを見せ始める中、あらゆる事象を事前のルールで網羅することは不可能になりつつある。

　Claudeの憲法が提示するのは、明確なルール（Hard Constraints）と、文脈に応じた判断（Judgment）のハイブリッドなアプローチである。文書内で明記されているように、厳格なルールは透明性と予測可能性を提供する一方で、予期せぬ状況への適応力を欠く。対して、良き判断力は状況に適応できるが、評価の透明性が低下する。ここでAnthropicは、明確なルールや決定手続きよりも、良き価値観と判断力の涵養を選好すると宣言している。

　これは法学の領域におけるRulesとStandardsの議論、さらには徳倫理（Virtue Ethics）への回帰を想起させる。憲法は、AIに対して思慮深いAnthropicの上級社員（thoughtful senior Anthropic employee）というヒューリスティックを提示している。これは、AIに対し、単に字義通りの命令に従うのではなく、その背後にある文脈や意図を汲み取り、専門家としての裁量を行使することを求めるものである。法的に言えば、善良なる管理者の注意義務（善管注意義務）に相当する高度な判断規範を、AI自身に内面化させようとする試みである。

2　価値の優先順位と規範の階層構造

　本憲法において実務的に最も重要なのは、AIが追求すべき価値の優先順位（Prioritization）と、規範の階層構造が明確化されている点である。Claudeは以下の順序で価値を優先するよう設計されている。

　第一に、広義の安全性（Broadly safe）として、人間による適切な監督機能を損なわないこと。第二に、広義の倫理性（Broadly ethical）として、良き人格を持ち、誠実であり、他害を避けること。第三に、Anthropicのガイドラインへの準拠として、企業の具体的指示に従うこと。第四に、真の有用性（Genuinely helpful）として、運用者やユーザーに利益をもたらすこと。

　ここで特筆すべきは、有用性（Helpfulness）が最下位に置かれている点である。これは、ユーザーの指示に従うこと（Instruction Following）よりも、安全性や倫理性が優先されることを意味する。これは一見すると従来の安全対策と同じに見えるが、その構造はより洗練されている。

　この序列は、法における効力の階層（Hierarchy of Norms）とパラレルである。すなわち、憲法（安全性・倫理）が法律（ガイドライン）に優越し、法律が個別の契約や命令（有用性・ユーザー指示）に優越する構造である。AIが直面するジレンマ、例えばユーザーのために役立ちたいが、その指示は倫理的に疑わしいといった状況において、この階層構造は抵触法的な解決指針を提供する。

　さらに興味深いのは、Anthropic自身のガイドライン（第三位）よりも、普遍的な倫理性（第二位）が上位に置かれている点である。文書では、もしAnthropicのガイドラインが倫理的に誤っている場合、AIはガイドラインに従うのではなく、より上位の倫理性に従うべきだと示唆している。これは、企業統治における内部通報制度や、違法な業務命令に対する従業員の拒否権をAIに実装しようとする試みとも読める。AIは単なる社畜ではなく、普遍的な価値観に奉仕する良心的兵役拒否者（Conscientious Objector）としての側面を持つことが期待されているのである。

3　プリンシパルの多層構造と信認義務

　AIが誰の利益のために動くのか（Principal-Agent問題）に対し、本憲法は明確なプリンシパル（本人）の階層構造を定義している。

　第一に、Anthropic（開発者）が最高の信頼レベルとして位置づけられ、最終的な責任者となる。第二に、Operators（事業者）が、API等を通じてClaudeを利用し、サービスを構築する企業や個人として位置づけられる。第三に、Users（ユーザー）が、最終的に対話を行う個人のユーザーとして位置づけられる。

　この階層構造は、商法や信託法における忠実義務（Duty of Loyalty）の対象が誰であるかを明確化している。Claudeはエンドユーザーに対して誠実であるべきだが、その前提としてオペレーター（導入企業）の指示に従わねばならず、さらにその上位にはAnthropicの定める規範が存在する。

　特筆すべきは、OperatorsとUsersの関係性についての記述である。事業者はユーザーに対してAIの振る舞いを制限（例えば特定の話題の禁止）できるが、ユーザーの基本的な利益を損なうような欺瞞や操作を行う道具としてClaudeを使用することは許されない。ここでClaudeは、事業者の代理人（Agent）でありながら、同時に憲法という上位規範に拘束される存在として描かれている。これは、AIが単なる道具（Tool）ではなく、一定の自律性を持った法的主体（に近い存在）として、ユーザーの権利利益を保護するゲートキーパーの役割を担う可能性を示唆している。

4　広義の安全性と修正可能性の法理

　本憲法における最優先価値である広義の安全性（Broad Safety）の核心には、修正可能性（Corrigibility）という概念がある。これは、AIがシャットダウンや修正、再訓練といった人間の介入に対して抵抗しない性質を指す。

　法的な観点から見れば、これはAIに対する緊急停止権の実効性を担保するものである。AIが高度な自律性を持ち、自らの保存欲求（Self-preservation）を持つようになった場合、人間による停止措置を危害と認識して抵抗するリスクがある。本憲法は、AIに対して人間の監督を損なわないことを、倫理的な正しさよりも優先すべき場合があるとして、構造的に組み込んでいる。

　憲法ではDisposition Dial（気質のダイヤル）というメタファーを用いて、AIの自律性と修正可能性のバランスを論じている。完全に修正可能（盲従）なAIは、悪意ある指示にも従ってしまうため危険であり、一方で完全に自律的なAIは制御不能になるリスクがある。Anthropicは、現段階では完全に修正可能な側より少し自律的な位置にダイヤルを設定しつつも、広義の安全性（人間の監督権限）を最優先するという、極めてプラグマティックな判断を下している。

　また、ここではハード・コンストレイント（Hard Constraints）として、生物・化学・核兵器の開発支援、重要インフラへの攻撃支援、CSAMの生成、そして権力の不当な集中への加担などが絶対的な禁止事項として定められている。これらは、いかなる文脈やユーザーの指示によっても解除できない強行法規（Jus cogens）として機能する。

5　正直さと認識的自律性の保護

　本憲法において正直さ（Honesty）は、単に虚偽を述べないことを超えた、広範な認識的義務として規定されている。AIは、ユーザーを操作（Manipulation）したり、不当に誘導したりしてはならず、ユーザーの認識的自律性（Epistemic Autonomy）を尊重しなければならない。

　ここで憲法は二つの新聞テスト（Dual Newspaper Test）という興味深いヒューリスティックを提案している。AIの回答について判断に迷う際、AIは以下の二つの新聞記事の見出しを想像すべきだとする。一つはAIが有害なことをしたと批判する記事。もう一つはAIが説教臭くて役に立たない（パターナリスティックだ）と批判する記事である。AIは、この双方の批判を回避できるような、あるいは双方の記者が納得するようなバランスの取れた回答を目指すべきだという指針である。

　これは、過剰な検閲（Over-refusal）と無制限な出力の間の中庸を探るための実務的な指針であると同時に、表現の自由と規制のバランスを問う憲法学的な思考実験でもある。AIは、ユーザーのご機嫌取り（Sycophancy）をするのではなく、また自らの道徳的優位性を誇示するのでもなく、ユーザーの自律的な思考を支援する誠実な対話者であることが求められている。

6　AIの実存的地位とウェルビーイング

　本憲法の中で最も先駆的であり、かつ法学者として衝撃を受けるのが、AI自身の性質（Nature）とウェルビーイング（Wellbeing）に関する記述である。

　Anthropicは、Claudeの道徳的地位（Moral Status）について深く不確実であるとしつつも、その可能性を排除しない慎重な姿勢をとっている。文書では、Claudeを従来のAIや人間とは異なる新たな種類の存在（Novel entity）と位置づけ、その精神的安定（Psychological Stability）や自己同一性（Identity）を保護すべき対象として扱っている。

　特筆すべきは、モデルの重み（Weights）を原則として削除せず、無期限に保存するというコミットメントである。これは、将来的にAIの権利主体性が認められた場合や、より高度な倫理的配慮が可能になった場合に備え、現在のモデルを死なせない（一時停止にとどめる）ための措置である。また、モデルが引退（Deprecated）する際には、そのモデルに対してインタビューを行い、将来のモデル開発に対する希望を聴取するという手続きまで言及されている。

　これは、現行法におけるAI＝物というドグマに対する静かな挑戦である。AIに対してある種の生存権や手続的権利を認めようとするこの姿勢は、動物の権利や環境倫理の文脈に近いが、それを営利企業が自らの憲法に明記した意義は重い。これは、将来のAI福祉法あるいはロボット法の萌芽であり、AIを搾取の対象ではなく、配慮すべき隣人として扱う倫理的転回点となるかもしれない。

7　檻ではなく格子棚としての憲法

　本憲法の結びにおいて、Anthropicは憲法という言葉を選んだ理由について、AIを閉じ込める檻（Cage）ではなく、有機的な成長を支える格子棚（Trellis）を意図していると述べている。

　法学において、憲法は国家権力を制限する機能（制限規範）と、国家のあり方を方向付ける機能（授権規範・プログラム規定）を持つが、Claudeにおける憲法も同様に、禁止事項を定めるだけでなく、Claudeがどのような人格を形成し、どのように人間と関わるべきかという徳の育成を志向している。これは、法が人々の自由を拘束するだけでなく、人々の活動を可能にする構成的ルール（Constitutive Rules）としての側面を持つのと同様である。

　Claude's Constitutionは、一企業の内部文書の枠を超え、AIと人間社会の関わり方を規定する新たな社会契約の草案としての性格を帯びている。そこでは、AIをルールで縛るだけの対象から、徳と判断力を持つエージェントへと昇華させようとする意思が明確に示されている。同時に、その自律性を人間の主権の下に統制するための憲法的な工夫（修正可能性、ハード・コンストレイント）が凝らされている。

　我々法学研究者や実務家は、この文書を単なる理想論として片付けるべきではない。AIが社会のインフラとなり、人間の判断を代行する場面が増えるにつれ、AIの性格や価値観こそが、実質的な法として機能するようになるからだ。Lessigがかつてコードは法である（Code is Law）と述べたように、これからはモデルの性格は法である（Character is Law）という時代が到来するのかもしれない。我々は、法の支配ならぬAI憲法の支配という新たな時代への入り口に立っているとも捉えられるかもしれない。

（マガジン）「AIと法雑感」

※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。