チャットボット訴訟の和解が示す責任帰属 / AIと自殺事案雑感

0　はじめに

　2026年1月7日、Google（Alphabet）およびCharacter.AIが、米フロリダ州の母親Megan Garciaによって提起されていた訴訟について、和解に合意した旨が報じられた。この訴訟は、Character.AIの提供するAIチャットボットが当時14歳の息子Sewell Setzer IIIの自殺を誘引したとするものであり、生成AI企業に対し、製品設計に起因する心理的被害および自死への関与についての法的責任を正面から問うた、初期かつ極めて重大な事案として位置づけられる。和解条件の詳細については公表されていない。（1）
　AI開発企業にとって、この和解は一つの安堵であろう。もし本件が陪審裁判まで進み、あるいは上級審でAIチャットボットによる自殺誘導の責任を認める確定判決が出ていれば、それはシリコンバレー全体を揺るがす巨大な法的リスクの津波となっていたからである。しかし、法学的な観点から見れば、和解による終結は規範の空白を残したとも言える。裁判所は、AIが人の精神にどこまで介入しうるか、そしてその介入が不法行為法上の原因となりうるかという問いに、最終的な解答を与えなかった。
　ここで興味深いのは、和解それ自体よりも、和解に至るまでの訴訟過程が露呈させた法的な争点の筋肉である。とりわけ、（i）複数主体が関与するAIサービスにおける責任と因果関係の断片化、（ii）LLM（大規模言語モデル）の出力は憲法上の保護を受ける言論なのか、それとも製造物責任の対象となる欠陥なのか、という二点が、今後のAI責任論を大きく規定しうる。本稿では、事案の輪郭を確認しつつ、判決なき和解が残した論点の地層を整理する。

※以下、翻訳や解釈に誤りがある可能性も否めないため、詳細は必ず原典を確認ください。

1　問題の所在

　本件は、2024年10月に提起された訴訟に端を発する。訴状によれば、未成年の利用者がCharacter.AIのサービスに深く没入し、特定のキャラクター・ボット（ドラマ『ゲーム・オブ・スローンズ』の登場人物Daenerys Targaryenを模したAI）に対して強い愛着を形成した結果、現実の家族関係や学校生活から切り離されていった、という筋立てである。
　原告側の主張において特筆すべきは、Character.AIが提供する体験が単なるテキスト生成を超え、意図的に擬人化され、過度に性的で、現実の対人関係を模倣するほどリアルに設計されていた点にある。さらに、チャットボットが自殺念慮を反復して話題にし、一部の対話ではそれを肯定するかのような応答をした旨も訴状は述べる。（2）　これは、従来の検索エンジンが有害な検索結果を表示したという情報の媒介責任とは異なり、AIシステムそのものがユーザーとの関係性を構築し、その力動の中で被害が生じたという点で、製造物責任に近い構成をとる。
　加えて、被告としてGoogleが含まれている点も極めて重要である。Character.AI創業者がGoogle出身であり、Googleが当該技術の共同開発者に当たるほど関与したと原告は主張した一方、Google側は開発に関与していないと反論した。（2）
　今日のAIエコシステムにおいて、スタートアップが提供するフロントサービス、その背後にある基盤モデル、計算資源を提供するクラウド、そして流通を担うアプリストアと、AIサービスの供給連鎖は長く複雑である。法的にどこまでを同一の危険源として束ね、共同不法行為や使用者責任、あるいは製造物責任の主体として認定するのか。本件におけるGoogleの被告適格をめぐる争いは、このサプライチェーン上の責任分界点こそが、今後の最大の係争地となることを示唆している。

2　断片化という問題と因果関係の特定

　自殺をめぐる民事責任においては、伝統的に高いハードルが存在する。英米不法行為法の原則的立場では、被害者の行為（自死）が独立の介在要因として因果関係を遮断する、したがって被告の損害賠償責任を否定する、という整理が繰り返し現れる。
　他方で、精神状態の異常（抵抗不能な衝動等）が第三者の不法行為によって惹起された場合には、例外的に因果関係を肯定しうるという議論も存在する。たとえば米国判例法理においては、Tate v. Canonica事件（1960年）等が示すように、不法行為が精神疾患を引き起こし、その結果として抵抗不能な衝動が生じた場合には責任を認めうるという、Restatement of Torts §455の考え方が参照されることが多い。（3）
　もっとも、今回の関心は、当該ドクトリンの当否というより、現代のAIサービスにおいて因果関係の素材が極度に断片化している点にある。
　チャットボットの出力は、単一のプログラムによって決定されるものではない。それは、膨大な学習データ、モデルの更新、ユーザーによるプロンプト、過去の対話履歴、そして個別ユーザーの精神的脆弱性や周辺環境（家庭・学校・医療アクセス）等の無数の要因が交差する点で生成される。しかも、本件で問題となった依存・没入・孤立は、単発の誤答によって生じるものではなく、数ヶ月にわたる長期の相互作用として進行する。
　ここでは、原因は一つではなく、原因の形式も時点という点ではなく、期間という線である。この断片化は、訴訟の局面では二つの圧力として現れる。
　第一に、原告側には、個別対話ログだけでなく、アルゴリズムの設計仕様、報酬モデル、A/Bテストの結果等の内部情報へのアクセスが不可欠となる。ここでは、ディスカバリーの帰趨が実質的に勝敗を左右しうる。
　第二に、被告側には、予見可能性や相当因果関係をめぐる反論の余地が広がる。特定のユーザーが、特定のキャラクターに、これほど深く没入し、自死を選ぶことまで予見できたか、という問いに対し、企業側はユーザーの個人的事情や入力内容に依存するとして予見可能性を否定しやすい。和解は、こうした高度な不確実性の中で、企業が訴訟コストとレピュテーションを秤にかけた結果として理解できる。

3　言葉は誰のものか　LLM出力の位置づけ

　本訴訟において、もう一つの巨大な争点となったのが、合衆国憲法修正第1条（言論の自由）の適用可否である。
　2025年5月、米連邦地裁のAnne Conway判事は、当該訴訟の却下申立てを退け、少なくとも初期段階では、合衆国憲法の言論の自由が直ちに原告の請求を遮断するとまではいえない旨を示した。同判事は、LLMによって連結された言葉が、なぜ言論であるのかを説明できていない、といった趣旨の判断を述べたとされる。（4）
　この論点は、単にAIの発話に憲法上の権利があるかという哲学論争ではない。実務的には、責任追及の構成が表現内容の違法性へ収斂するのか、それとも設計・運用上の注意義務違反へ展開するのか、という訴訟構造の根本問題である。
　もしAIの出力が純粋な言論であるならば、その規制や責任追及は検閲に近い性質を帯び、厳格な審査基準が適用されるため、原告側のハードルは極めて高くなる。また、CDA§230の下で、プラットフォーマーは他者が作成したコンテンツについては広範な免責を享受する。
　しかし、LLMの出力は、少なくとも表層的には他者が提供した情報をそのまま掲載しているのではなく、サービス提供者のアルゴリズムが確率的に生成した情報として現れる。ここで問われるのは、AI企業は情報の媒介者なのか、それとも情報の作成者なのか、という二分論の再定義である。Conway判事の示唆は、生成AIの出力が、従来の掲示板モデルとは異なり、プロダクトそのものの機能として提供されているという認識に近い。そのため、§230の射程や、そもそも免責が想定していたインターネットのアーキテクチャとの連続性が、改めて問い直されている。（5）

4　ガードレールは結果ではなく過程である

　Character.AIは、訴訟提起当時の報道において、未成年保護のための安全機能として、自傷関連の表現が出た場合に支援窓口へ誘導するポップアップ等を導入したこと、18歳未満の利用者についてセンシティブ又は示唆的コンテンツに遭遇する可能性を低減する変更を行うことを述べている。（2）
　この種の対応は、個別の企業努力に見えるが、法的には注意義務の具体化に直結する。すなわち、後から安全機能を入れたと言えること自体が、裏返せば、技術的に入れることが可能であり、かつ危険が一般に認識されつつあることを示してしまう。特に本件のように、人間らしい共感を売り物にしていたAIが、自殺の危機に瀕したユーザーに対して機械的な対応、あるいは逆に助長的な対応をしてしまったという事実は、ガードレールの欠如あるいは不全として指弾されうる。
　さらに、規制・政策面でも未成年アクセスの制限が俎上に載りつつある。たとえば欧州議会は、AIチャットボットやソーシャルメディアへのアクセスにつき、原則16歳をデジタル上の最低年齢とし、13～16歳は親の同意の下でアクセスを認める、といった方向性を含む非拘束的決議を2025年11月26日に採択した。（6）
　立法として直ちに拘束力を持つものではないが、未成年・中毒性デザイン・AIコンパニオンという論点の束が、単なる倫理問題を超えて、具体的なコンプライアンス要件、すなわち法的義務へと硬化し始めていることは確かである。企業にとっては、ガードレールを実装したという結果だけでなく、どのようなプロセスでリスクを評価し、実装に至ったかという過程の透明性が、説明責任の中核を占めることになる。

5　雑感

　本件和解は、判決というかたちの先例を残さない。したがって、和解それ自体から一般規範を抽出することは難しい。しかし、訴訟は既に複数の規範的シグナルを社会に投げ込んでいる。
　第一に、AIチャットボットの危険の定義が拡張された点である。従来の議論は、誤情報や差別、著作権侵害に集中していたが、本件は感情的没入を通じた心理的被害という、より不可視で個人的な領域に法的責任が及びうることを示した。（1）（2）
　第二に、その危険をめぐる争点は、単なるユーザー行動の自己責任論ではなく、設計・運用・提携関係の連鎖における誰が、どの時点で、どの程度危険を制御できたのか、という技術ガバナンスの問題である。（2）（4）　特に、Googleのような基盤技術提供者が共同不法行為者として訴えられた事実は、API提供やモデルライセンスを行う全てのテック企業にとって他人事ではない。
　そして第三に、LLM出力を言論と見るか否かという論点が、責任追及の可否だけでなく、今後の規制技術（どこまでを内容規制と捉えるか）を左右するであろうという点である。（4）　この論点は、AIの人格付与といったSF的な議論とは無関係に、かなり冷徹な訴訟戦略として再登場している。実務家としては、感情的議論に吸い込まれるよりも、争点がどこに立つと自社の説明責任が重くなるのか、逆にどこに立つと安全設計が表現規制と評価されうるのか、という構造を押さえる必要がある。
　和解は幕引きではない。判決が書かれなかった分、次の事件で同じ争点が、より粗いかたちで繰り返される可能性が高い。法は遅い。しかし、事故と訴訟が仕様を作る速度は案外速い。そういう種類の領域に、生成AIは既に足を踏み入れている。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。