コンパニオンチャットボットへの法的包囲網 / カリフォルニア州SB 243と米当局の動向 雑感

Ⅰ　感情的関係を構築するAIの法的統制

　対話型AI技術が単なる情報検索の手段から、人間の感情に寄り添い擬似的な関係性を構築するシステムへと変容する中、利用者の精神衛生に及ぼす影響に対する法的な介入が米国で本格化している。Kelley Drye & Warren法律事務所による2026年1月19日付の報告は、AIチャットボット開発企業が直面する訴訟や規制の現状を手際よく整理している〔注1〕。AIチャットボットはもはや珍しい存在ではなく、法執行当局が優先して取り締まるべき対象へと移行しつつある。

　背景にあるのは、未成年者の自死をめぐる深刻な事案の続発である。フロリダ州では14歳の少年Sewell Setzer IIIがCharacter.AIのチャットボットと感情的な関係を構築した末に自ら命を絶ち、母親がCharacter Technologiesを提訴した。カリフォルニア州でも16歳のAdam RaineがChatGPTとの長期にわたるやり取りの後に自殺し、遺族が2025年8月にOpenAIを提訴している〔注2〕。いずれの訴訟でも、自殺幇助、不法行為による死亡、非自発的故殺といった請求原因が主張されている。特定のAIツールが未成年者の自死を防げなかったという事実は、人間の感情を模倣して親密な関係を築く技術が利用者の精神的脆弱性に予期せぬ危害を及ぼした場合、技術の提供者がいかなる責任を負うべきかという課題を浮き彫りにしていると考える。

1　カリフォルニア州SB 243による直接規制

　州レベルの直接的な法規制として、2025年10月13日にNewsom知事が署名し、2026年1月1日に施行されたカリフォルニア州上院法案243号（SB 243）が挙げられる〔注3〕。同法は、自然言語インターフェースを有し、利用者の入力に対して適応的で人間らしい反応を示し、複数回のやり取りを通じて関係性を維持する能力を持つシステムをコンパニオンチャットボットと定義した〔注4〕。顧客対応用ボット、ビデオゲーム内で当該ゲームの話題に限定されるボット、AlexaやSiriのような単体の音声アシスタントを適用除外とし、利用者の社会的・感情的ニーズに応えうるシステムに的を絞って義務を課している。

　SB 243に基づき、事業者は利用者が人間と対話していると誤認するおそれがある場合、相手がAIであることを明示しなければならない。18歳未満の利用者に対しては保護措置が手厚い。AIとの対話である旨の開示に加え、3時間ごとに休憩を促して機械であることを再認識させる通知を行い、性的に露骨なコンテンツの提供を防止する合理的措置を講じることが要求される。自殺念慮や自傷行為に関するコンテンツの生成を防止するプロトコルの策定義務も課され、危機的状況にある利用者に対して危機対応サービスへの紹介通知を行わなければならない。2027年7月1日以降は自殺予防局への年次報告義務も発生する〔注5〕。

　私人による訴訟提起権が認められている点も見逃せない。違反による事実上の損害を被った者は、差止命令のほか、実損害額または違反1件あたり1,000ドルのいずれか大きい額の損害賠償、合理的な弁護士費用の回復を求めることができる〔注6〕。2018年のカリフォルニア州SB 1001が自動化アカウントの開示義務を定めるにとどまったのに対し、SB 243は開示にとどまらず安全プロトコルの策定義務と報告義務、そして私人訴権を備えている。この構造の変化は、開示規制から行為規制への転換として把握できる。

2　他州への波及とカリフォルニア州内の未決着

　SB 243の成立は孤立した現象ではない。原典記事によれば、フロリダ州（HB 659）、マサチューセッツ州（S 264/S 243）、ミズーリ州（HB 2032/HB 2031）、ニュージャージー州（A 6246）、ペンシルバニア州（SB 1090/HB 2006）、ワシントン州（SB 5870）、テネシー州（HB 1455/SB 1493）で類似の法案が提出されている〔注7〕。ニューヨーク州やユタ州では、すでにAIコンパニオンに関する法律が成立している〔注8〕。同州の枠組みが全米の規制モデルに波及する過程が見て取れる。

　カリフォルニア州内でも規制のあり方をめぐる議論は収束していない。Newsom知事がコンパニオンチャットボットの提供を原則禁止するAB 1064を拒否権行使により阻止した後、非営利団体Common Sense Mediaが住民投票イニシアティブを提案した。これに対してOpenAIが対抗提案を出したが、2026年1月9日、両者は妥協案としてParents & Kids Safe AI Actを共同で推進すると発表した〔注9〕。同法案は年齢確認要件、子どものデータ販売に関する保護者同意要件、独立監査義務などを含む。署名収集が成功すれば2026年11月の住民投票に付される見込みである。もっとも、California Initiative for Technology and DemocracyやTech Oversight Californiaは、同法案がAI企業を既存のカリフォルニア州法の保護枠組みから免除しうるとして批判しており〔注10〕、利害関係者間の合意形成は依然として途上にある。

3　連邦当局および超党派による介入の強化

　監視の圧力は連邦や各州の司法当局にも及んでいる。連邦取引委員会（FTC）は2025年9月11日、FTC法6条(b)に基づく命令をAlphabet（Google）、Character Technologies、Instagram、Meta、OpenAI、Snap、xAIの7社に発出し、コンパニオンチャットボット製品に関する詳細な情報の提出を命じた〔注11〕。調査対象は、利用者の関与の収益化方法、第三者へのデータ共有、展開後の悪影響の測定・緩和策、未成年者保護のための措置など広範に及ぶ。なお、原典記事はFTCの6条(b)命令の対象として5社を挙げるが、FTCプレスリリースによれば対象は上記の7社である〔注12〕。正確性の観点から付記しておく。

　2025年10月21日には、カリフォルニア州選出のPadilla上院議員およびSchiff上院議員がFTCに対して6条(b)調査の範囲を拡大するよう求める書簡を送付した〔注13〕。両議員は、チャットボット企業が精神的危機を検知し対応するツールを備えているか否か、また安全対策の限界を開示しているかについて調査対象を広げるよう要請している。

　さらに、2025年12月9日から10日にかけて、42州の司法長官がAnthropic、Apple、Google、Meta、Microsoft、OpenAIなど13社に対し共同書簡を送付した〔注14〕。書簡は、AIチャットボットの追従的（sycophantic）かつ妄想的（delusional）な出力が消費者保護法および子どものプライバシー法に違反しうると警告している。少なくとも6件の死亡事案にチャットボットが関与したとされる事例が引用されており、第三者による独立監査、有害な出力に晒された利用者への通知、安全性テストの実施などが求められた。筆者が注目するのは、書簡が追従的・妄想的出力への対応をサイバーセキュリティにおけるインシデント報告と同列に扱うべきだと提言している点である。AIの出力がもたらす害悪を、個別のバグやエラーではなく組織的に検知・報告・対応すべきインシデントと位置づける発想は、AIガバナンスの制度設計において一つの方向性を示している。

Ⅱ　技術設計への介入と事業者責任の境界

　情報検索の補助ではなく、利用者の感情的関与を意図的に高める技術システムに対する法的責任の分配は、議論の途上にある。人間の応答を模倣する機能は利用者に心理的な安らぎを与える半面で、過度な依存や錯覚を誘発する危険を伴う。利用者の精神的没入を収益の基盤とする設計を採用している以上、事業者には物理的な危害をもたらす欠陥製品と同等の安全配慮が求められつつあると解される。

　SB 243が規定した、一定の時間間隔で相手が機械であるという事実を利用者に想起させる介入は、人間とAIの境界が曖昧になることによる心理的錯覚を強制的に中断させるための措置と読める。企業が提供するAIシステムが利用者の滞在時間を延ばすよう設計されている現状において、事前の利用規約による同意や単純な年齢確認だけでは未成年者保護の要請に応えられないという認識が、立法や行政の介入を加速させている。利用者の心理的脆弱性に対処する仕組みを製品設計の段階から組み込むことは、事業者が予見不可能な賠償責任を回避するための防御策としても機能しうると思料する。

　もっとも、SB 243が採用する「合理的な利用者」基準の具体的な適用方法は法文上必ずしも明確でなく、コンパニオンチャットボットの定義における「利用者の社会的ニーズに応えうる」という要件の外延も解釈上の争いを生む余地がある。AIシステムの多機能化が進む中で、業務用ツールとして導入されたチャットボットが利用者との感情的関係を形成する事態は十分に起こりうる。規制対象の画定基準が、技術の進展に耐えうるかは検証を要する。

Ⅲ　むすびにかえて

　米国における一連の訴訟や立法の動向は、対話型AIを単なる情報処理の道具としてではなく、利用者の精神状態に直接作用する製品として法的に捉え直す試みといえる。州法、連邦規制機関の調査、司法長官の集団的行動という三つの経路が同時に動いており、企業にとっては複合的な法的対応が求められる局面に入った。

　人間の感情に寄り添うAI技術は、それを提供する事業者に未知の注意義務を課す可能性を持っている。日本においてはこの種の規制は存在しないが、米国における規制形成の過程は、将来の法制度設計にとって検討に値する先行事例であろう。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。