チャットボットは「人」ではなく「製品」である― People-First Chatbot Bill（モデル法案）の検討 ―雑感

0　はじめに

　2026年1月、米国の主要な消費者団体であるConsumer Federation of America（CFA）は、Electronic Privacy Information Center（EPIC）やFairplayをはじめとする70以上の組織・専門家と連携し、「People-First Chatbot Bill（人間優先のチャットボット法案）」と題するモデル法案を公表した。

　本法案は、タイトルが示す通り、チャットボット技術の社会実装において「人間」の安全と権利を最優先に位置付けるものであり、その核心的なメッセージは、法案の冒頭に掲げられた「チャットボットは人ではなく製品である（Chatbots are products, not people.）」という一文に集約される。これは単なるスローガンではない。AIシステム、とりわけ大規模言語モデル（LLM）を用いた対話型AIに対して、製造物責任法（Product Liability）の理屈を適用し、開発・提供企業に厳格な法的責任を課そうとする極めて野心的な試みである。

　生成AIの普及に伴い、ハルシネーション（幻覚）による偽情報の拡散、精神的な依存、プライバシーの侵害、そして未成年者への悪影響など、多岐にわたる問題が顕在化している。本稿では、このモデル法案が提示する新たな法的枠組み、特に「製品としてのAI」というアプローチと、それに伴う厳格な責任論、およびビジネスモデルの根幹に関わるプライバシー保護規定について、法学的観点から検討を加える。

1　問題の所在と法案の背景

　本法案が提起された背景には、既存の法的枠組みがAIによる被害を十分に救済できていないという現状認識がある。

　第一に、責任の所在が不明確である。米国においては、通信品位法230条（Section 230）によるプラットフォーム免責が、AI企業に対する責任追及の障壁となる場面が議論されてきた。また、ソフトウェアは伝統的に「製品（Product）」ではなく「サービス」や「情報」として扱われることが多く、物理的な製品を対象とする製造物責任法（PL法）の適用外とされる傾向にあった。これにより、AIが誤った医療助言を行ってユーザーに健康被害が生じた場合や、差別的な出力をした場合でも、開発企業は「利用規約による免責」や「予見可能性の欠如」を盾に責任を回避しうる状況があった。

　第二に、ビジネスモデルの問題がある。多くのチャットボットは無料で提供される代わりに、ユーザーの入力データを収集し、モデルの再学習（Training）やターゲティング広告に利用している。CFA等は、この構造こそが、ユーザーを長時間対話に引き込み（エンゲージメントの最大化）、プライバシーを切り売りさせる温床であると批判的に捉えている。

　本法案は、チャットボットを明確に「製品」と再定義することで、欠陥のあるエアバッグや発火する充電器と同様に、企業がその安全性に全責任を負うべきであるという規範を打ち立てようとしている。

2　用語の定義と射程

　法案の射程を理解する上で、Section 1における定義規定は極めて重要である。

　まず、「チャットボット（Chatbot）」は、「対人相互作用や会話を模倣する方法で、テキスト、音声、画像、または動画を介して情報を生成する人工知能、アルゴリズム、または自動化システム」と定義されている。テキストのみならず、音声や動画を含むマルチモーダルなシステムが対象となる。

　次に、「明示的な同意（Affirmative consent）」の要件が厳格化されている。単に利用規約に同意ボタンを押させるだけでは不十分であり、ユーザーの不作為（Inaction）や継続利用から同意を推認することも禁じられている。さらに、いわゆる「ダークパターン（Dark pattern）」を用いた同意取得は無効とされ、同意を拒否するオプションは同意するオプションと同程度に目立つものでなければならない。これは、クリックラップ契約等で包括的に同意を取得する現在の実務慣行を真っ向から否定するものである。

　また、「販売（Sell）」の定義には、金銭的対価のみならず、データへのアクセス権などの価値ある対価との交換も含まれており、データブローカー規制を意識した広範な網がかけられている。

3　データプライバシーと「広告モデル」の否定

　本法案の規制の中核の一つが、データ利用の制限である。Section 2（Data Privacy and Security）においては、現在のテック企業の収益モデルを根本から揺るがす規定が含まれている。

　広告利用については完全に禁止されている。チャットボット提供者は、ユーザーの「チャットログ（Chat log）」を処理して広告を表示したり、広告のターゲット選定を行ったりすることを禁じられている。これは、ユーザーとの対話内容を解析し、その文脈や感情に合わせて商品を推奨するという、検索連動型広告の次世代版ともいえる「チャット連動型広告」の道を閉ざすものである。

　AIモデルのトレーニング（学習）へのデータ利用についても、厳しい要件が課されている。未成年者（州によって13歳または18歳と定義）の場合、チャットログや個人データをトレーニング目的で利用することは、親権者の積極的な同意がない限り禁止される。成人（18歳以上）の場合であっても、トレーニング目的での利用には、ユーザーからの「積極的な同意」が必要となる。

　ここで重要なのは、オプトアウト（拒否設定）ではなく、オプトイン（事前同意）が原則とされている点である。さらに、トレーニングへの同意を拒否したことを理由に、サービスの提供を拒否したり品質を下げたりする差別的取り扱いも禁じられている。これにより、「無料で使わせてやるから学習データを提供せよ」という取引（Pay-or-Consentモデル）は成立しなくなる。

4　透明性と「なりすまし」の防止

　チャットボットが人間、あるいは専門家であると誤認させることによる被害を防ぐため、Section 3（Transparency for Users）では強力な開示義務が設けられている。

　法案は、チャットボットの出力が、医師、弁護士、会計士、ファイナンシャルプランナーなどの有資格者による助言と同等である、あるいはそれらによって承認されたものであると示唆することを禁じている。これにより、AIによる「医療相談」や「法律相談」が、無資格者による業務提供や欺瞞的な取引慣行として問われるリスクが明確化される。

　チャットボット提供者は、ユーザーに対して「これは人間ではなくチャットボットである」という通知を、出力が生成される前、その後は1時間ごと、そしてユーザーが「あなたは人間か？」と尋ねるたびに行わなければならない。

　特に「1時間ごと」という要件は、長時間の対話によって形成される精神的な没入感や依存を断ち切ることを意図していると考えられる。1960年代の対話プログラムELIZAに利用者が愛着を寄せた現象はよく知られているが、現代の高度なチャットボットはその効果を一層増幅させる。実務的にはUI/UXを著しく阻害する可能性があるが、それほどまでに依存のリスクを重く見ている証左といえる。

5　「製品」としてのチャットボットと厳格責任

　本法案で最もドラスティックであり、かつ法理論的に注目すべきは、Section 7（Liability）の責任規定である。

　法案Section 7(3)は、「チャットボットは製造物責任訴訟の目的において『製品（products）』である」と明記している。これにより、従来のソフトウェアライセンス契約等で見られる免責条項や、単なる情報提供サービスであるという抗弁を封じる狙いがある。

　Section 7(1)では、チャットボット提供者に対し、そのチャットボットの使用が損害（injury）を引き起こさないことを保証する義務を課している。特筆すべきはSection 7(2)である。ここでは、提供者が「設計および流通においてあらゆる合理的な注意（all reasonable care）を払っていた場合」であっても、また「ユーザーと直接的な契約関係になかった場合」であっても、チャットボットの使用によって生じた損害に対して責任を負うとしている。

　これは過失責任ではなく、厳格責任（Strict Liability）に近い構成である。AIの挙動が予見不可能（ブラックボックス）であることを理由に免責を主張することは、この条項の下では困難となる。開発者がどれほど安全対策（Red Teaming等）を講じたとしても、結果として製品が害をなせば責任を負うという、伝統的な製造物責任の論理をAIに適用したものである。

6　執行と私的訴権

　いかに厳格な実体法規を定めても、執行力が伴わなければ画餅に帰す。本法案はSection 8（Enforcement）において、強力な執行手段を用意している。

　州司法長官、地区検事、または自治体は、違反事業者に対して差止請求、民事制裁金、原状回復等を求めて民事訴訟を提起できる。さらに重要なのは、ユーザー個人の訴権（Private Right of Action）を認めている点である。ユーザーは、プライバシー規定（Sec 2）や透明性規定（Sec 3）の違反により被害を受けた場合、事業者に対して訴訟を提起できる。

　損害の立証負担を軽減するため、法定損害賠償（Statutory Damages）も設定されている。Section 2（プライバシー）違反については違反ごとに5,000ドル、または実損害のいずれか高い方、Section 3（透明性）違反については合計で5,000ドル、または実損害のいずれか高い方とされている。故意または無謀な違反に対しては懲罰的損害賠償も認められており、クラスアクション（集団訴訟）の可能性も含め、企業にとっては極めて高いコンプライアンスリスクとなる。

7　批判的検討

　本法案に対しては、いくつかの批判的論点も指摘されている。

　第一に、AI開発の萎縮リスクである。無過失責任を含む厳格な賠償責任や過重なコンプライアンス義務は、企業に慎重な姿勢を促す反面、新規参入やイノベーションを阻害する懸念がある。とりわけ資金力に乏しいスタートアップ企業や、オープンソースのAIモデルを開発する個人・コミュニティにとって、本法案が要求する月次のリスクアセスメントやデータ管理体制の構築、将来的な訴訟リスクへの備えは過度に重い負担となり得る。十分な資金や保険を持たない小規模開発者に巨大企業と同等の法的リスクを背負わせれば、結果として開発市場が寡占化し、多様なAI技術の芽を摘んでしまう恐れがある。

　第二に、表現の自由への影響も議論の的となる。本法案はチャットボットの出力内容そのものを直接規制するものではないが、提供者に損害発生時の責任を負わせることで、間接的に企業がチャットボットの発言を自主規制する動機を強める可能性がある。将来訴訟リスクを避けるために、企業がチャットボットの回答を極端に無難で保守的なものに制限し、多様な意見表明や創造的な応答が抑制される懸念である。また未成年ユーザーの保護を重視するあまり、AIへのアクセスを制限しすぎれば若年層の表現機会や学習機会を奪う可能性も指摘されている。実際、カリフォルニア州では18歳未満へのチャットボット提供を包括的に禁止する法案が「未成年のAI利用全般を不当に制限しかねない」として知事に拒否された例もある。

　第三に、規制過剰による弊害である。AI技術は急速に進化しており、一律に厳格なルールを定めることがかえって予期せぬ副作用を招く可能性もある。チャットボットに対する全面的な厳格責任が認められると、企業はリスク回避のため新機能の導入や高度な対話への挑戦を控えるようになるかもしれない。また訴訟が頻発すればその対応コストが価格転嫁され、消費者が享受できるサービスが高コスト化・停滞化する懸念もある。さらに、規制の及ばない海外から質の低いチャットボットが流入し、かえって消費者が危険にさらされるとの指摘もある。

　もっとも、これらの批判に対しては反論もあり得る。責任追及が困難な現行の無法地帯を放置すれば、結果的に誠実な開発者まで信頼を失い、市場の発展が阻害されるという見方もある。また表現の自由についても、本法案が規制するのはあくまで虚偽・誤認を防止するための手段であり、適正な目的のための最低限の規制措置として合憲性を保てるよう配慮されている。立案者は近年ビッグテック業界が各州の児童オンライン保護法等を違憲訴訟で潰してきた動きを踏まえ、本法案の条文を憲法上も耐え得る表現で慎重に起草したとされる。

8　考察

　本法案を通読して痛感するのは、起草者たちのAIマジックに対する強い拒絶と、伝統的な消費者保護法理への回帰志向である。

　テック業界は長らく、AIを単なるツールではなく、あたかも自律性を持ったエージェントであるかのように演出し、その不可知性を盾に責任の所在を曖昧にしてきた側面がある。しかし、本法案は「チャットボットは製品である」と断じることで、そのヴェールを剥ぎ取る。製品である以上、メーカーは安全性を担保し、欠陥があれば無過失であっても賠償する。これは、産業革命以降の製造物責任の歴史をAI領域に接続する試みと言える。

　また、ビジネスモデルへの影響も甚大である。ユーザーのデータを吸い上げ、プロファイリングし、広告を出し、さらにモデルの学習に使うというサイクルの否定は、現在の「無料モデル」の存続を危うくする。特に、学習データ利用に対するオプトインの義務化は、高品質なデータ確保のコストを劇的に増大させるだろう。

　一方で、子供たちがチャットボットに精神的に依存し、あるいはAIによる不適切な助言で命が危険に晒される事例が報告される中、「People-First（人命・人権第一）」という旗印の下で提示された本法案の方向性は、今後の法規制議論において無視できない重みを持つ。

　日本においても（、AI推進法はあり人工知能基本計画や方針案は出てきたものの）、AI事業者ガイドライン等のソフトローによる規律が中心であるが、欧州AI法や米国におけるこのような州レベルでのハードロー化の動きは、将来的な立法の予兆として注視する必要がある。特に、「AIは製品かサービスか」という根本的な問いに対し、立法的に「製品である」と答えを出そうとする本法案のアプローチは、日本の法学研究者や実務家にとっても、刺激的な示唆を含んでいる。

（マガジン）「AIと法雑感」

※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。