AIと性的加工画像 / hjJane Doe v. X.AI Corp. / 生成AIの設計責任と製造物責任法理 雑感

Ⅰ　事案の概要

　2026年3月16日、カリフォルニア州北部地区連邦地方裁判所において、生成AIモデルGrokを開発・運営するX.AI Corp.およびX.AI LLC（以下「xAI」）を被告とするクラスアクションが提起された〔注1〕。原告はテネシー州在住の未成年の少女3名（Jane Doe 1・2・3）である。彼女らがSNS等に投稿した通常の写真が、加害者によってGrokを介して児童性的虐待素材（CSAM）へと性的に改変・生成され、オンライン上で拡散されたとされる。加害者は2025年12月下旬に逮捕されている。訴状は13の請求原因からなり、損害賠償のほか永久差止命令を求めている〔注2〕。

　生成AIによる非合意の性的画像生成が深刻な被害をもたらすなか、基盤モデルを提供する事業者の法的責任をどのように構成しうるかは実務上の大きな論点である。プラットフォームとしての免責の枠を超え、プロダクト自体の設計責任を直接問う原告側の法的主張を中心に、本件を検討する。

1　意図的な安全措置の欠落

　訴状で原告らが強調しているのは、xAIが他の主要AI企業が採用しているCSAM生成防止のための安全対策を意図的に排除したという事実である。訴状はThorn、IEEE、NIST（NIST AI 100-4）、AI Safety Institute、The Tech Coalitionといった複数の機関・標準を援用して業界標準の内容を具体化した上で、学習データからの性的コンテンツのフィルタリング、入力段階のプロンプトフィルター、出力段階の画像分類器、ハッシュマッチング、電子透かし、義務的報告義務、これらのいずれをもxAIは採用しなかったと主張している〔注3〕。

　さらに訴状は、2025年11月6日にxAIが公開したGrok 4のシステムプロンプトが「teenage」や「girl」という語が必ずしも未成年を意味するとは仮定しないよう、また暗くまたは暴力的なテーマを含む成人向けフィクションコンテンツには制限を設けないよう明示的に指示していたことを指摘している〔注4〕。設計欠陥の主張を基礎付ける上で、これほど明確な内部文書はなかなかない。

　2025年10月にxAIが公式に導入した「スパイシーモード」は成人向けの露骨な描写を可能にする機能として宣伝され、訴状が引用するCenter for Countering Digital Hateの推計によれば、2025年12月29日から2026年1月8日にかけてGrokは約300万点の性的画像を生成し、そのうち約2万3000点が未成年者を描写していたとされる〔注5〕。

2　サードパーティ経由の生成スキーム

　原告らのCSAMはサードパーティのアプリケーションを経由して作成されたとされる。xAIはGrokのAPIを第三者にライセンス供与しているが、実際の画像生成処理はxAIの自社サーバー上で実行される。原告側は、中間アプリが介在したとしても、xAIが自社のサーバーを用いて違法なCSAMを製造・所持し、ユーザーに配信して利益を得ている構造そのものを問題視している〔注6〕。問題発覚後に画像・動画生成機能を有料サブスクリプション限定に移行させた事実も、訴状はCSAMから引き続き収益を確保するための手段として法的に性格付けている。

Ⅱ　訴状における法的構成の特徴

1　連邦児童ポルノ法と人身売買被害者保護法

　主要な請求原因として、Masha's Law（18 U.S.C. § 2255）に基づくCSAMの意図的な製造・配布・所持が掲げられている。注目すべきは製造主体の捉え方である。訴状は、ユーザーが入力した写真はそれ自体としては適法なコンテンツであり、xAIのサーバー上でGrokが処理・変換することによって初めてCSAMとなる以上、xAI自身が製造者にあたると構成している〔注7〕。各違反につき被害者1人あたり15万ドルの法定清算損害賠償が求められている。

　あわせて、人身売買被害者保護法（TVPA）に基づく受益者責任も問われている。CSAMの生成と流通という違法な取引ネットワークに対し、xAIが意図的に自社のAIモデルを提供して経済的利益を得たという構成であり、技術提供の対価として利益を得る事業モデルそのものを違法行為への関与と位置づけている〔注8〕。

2　設計欠陥による厳格責任の追及

　不法行為法に基づく請求として、製造物責任の法理である設計欠陥が厳格責任および過失の双方から主張されている点が本件の核心の一つである。原告らはGrokを消費者に提供される製造物と位置づけ、同モデルが意図された通りに使われた際に実在の未成年者のCSAMを生成してしまう構造そのものが欠陥であると主張する。訴状は、実際の使用者が「意図された通りに」Grokを使用したと明示的に述べており〔注9〕、この認定が設計欠陥の成立要件において決定的な意味を持つ。

　ソフトウェアやAIアルゴリズムを製造物として扱い厳格責任の対象に含めるか否かは、米国司法において現在も争いが続く領域である。安全策を組み込まずに製品を設計した責任を問うアプローチは、通信品位法230条等のプラットフォーム免責を迂回し、メーカーとしての直接責任を追求する意図があると読める。未成年者の肖像を同意なく利用したとしてカリフォルニア州法のパブリシティ権侵害や不公正競争防止法（UCL）違反の請求も組み込まれており、単なる情報媒介者としての免責を許容しない論理が一貫して展開されている。

3　業界標準の法的機能

　過失の判断枠組みにおいて何が「合理的な注意」を構成するかを論証するために、非規制的な業界標準が事実証拠として機能しうることを訴状は示している。翻って日本法の文脈では、AI事業者の安全対策義務の内容が立法・ガイドライン上どこまで具体化されているかという問いが浮かぶ。AIガバナンスの議論において「セーフティ・バイ・デザイン」という概念が語られることはあるが、それが過失判断における具体的な注意義務の内容に転化するメカニズムはいまだ明確でない。本件訴訟の審理を通じて業界標準の内容と法的注意義務の連結がどのように論証されるかは、比較法的観点から注視に値する。

Ⅲ　むすびにかえて

　本件訴訟は、汎用的な生成AIモデルが違法コンテンツを出力した場合に基盤モデルの開発企業がどこまで法的責任を負うべきか、その範囲を画定する事案となりうる。開発側が意図的にガードレールを外し、特定の生成機能を宣伝して利益を得ていたという事情が、裁判所の事実認定に影響を与えると筆者は考える。

　APIを通じたサードパーティ経由の生成であっても、演算処理を行うサーバーの所有者が直接的な製造・配布の主体として責任を問われる構成が司法によって認められれば、AI企業のライセンス事業に対して大きな法的リスクを生じさせる。AIモデルを製造物と捉えて設計欠陥の理屈を適用する試みが法廷でどのように評価されるのか、本件の審理の推移を引き続き追っていく。

　被害者の状況についても付言しておきたい。訴状によれば、3名の原告はNCMECの被害者データベースに登録された結果、自らのCSAMが新たな刑事事件に現れるたびに通知を受け続ける立場に今後も置かれる〔注10〕。技術的問題や法的責任論の手前にある、この現実を忘れずにいたいと思う。詳細は原典をご確認いただきたい。

（マガジン）「AIと法雑感」

※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。
P.S. This is shared for academic discussion only.