ニューメキシコ州におけるAI規制の最前線 / ディープフェイクと自動意思決定への法的介入雑感

０　はじめに

　生成AIの技術的進展に伴い、米国では連邦レベルでの包括的な法整備が難航する一方、州議会が先行的な規制を導入する動きが加速している。かつてブランダイス判事が述べた「民主主義の実験室」としての州の役割が、AI規制の文脈で再び注目を集めている。
　今回取り上げるのは、ニューメキシコ州議会の2026年通常会期において審議されている最新の法案である。クリスティン・チャンドラー下院議員らが提出した下院法案22号および下院法案28号は、AI技術がもたらす具体的リスクとして性的ディープフェイクと自動意思決定の不透明性に焦点を当てている。
　今回は、これらの法案の概要を整理した上で、人格権保護と手続的公正の観点から法的論点を検討し、日本のAI法制への示唆を探る。

※翻訳や解釈が誤っている可能性もあるため、詳細は必ず原典を確認下さい。

１　問題の所在

　AI技術の社会実装が進む中、法が対処すべき課題は抽象的なリスクから具体的な権利侵害へと移行しつつある。ニューメキシコ州の法案は、以下の二つの領域における法的空白を埋めようとする試みである。
　第一に、ディープフェイク技術の悪用である。実在の人物の顔や身体を無断で使用した性的画像の生成・流布は、被害者の尊厳を著しく傷つける。従来のリベンジポルノ法制は撮影された真正な画像を前提としていたため、AIによる合成画像は法の射程外に置かれるおそれがあった。下院法案22号は、この間隙を埋め、被害者に実効的な救済手段を提供することを目的としている。
　第二に、雇用等の重要局面におけるAI判断のブラックボックス化である。採用や解雇、融資といった生活の基盤に関わる決定がAIによって行われる際、その判断根拠が不明確であれば、不当な差別や誤謬に対する異議申し立ては困難となる。下院法案28号は、こうしたプロセスに透明性と人間による関与を義務付けるものである。

２　下院法案22号の検討―ディープフェイクと民事救済

（1）規制の概要と刑罰化

　下院法案22号は、親密なディープフェイクを含む特定のAI生成画像の配信を規制する。同法案は、被害者の同意なく、嫌がらせや侮辱を意図して性的ディープフェイク画像を配信する行為を軽犯罪と分類し、再犯の場合には第4級重罪へと加重する規定を設けている。
　また、配信をほのめかして脅迫する行為についても処罰対象としており、ディープフェイクの作成・流布が単なる表現行為ではなく、人格権を侵害する犯罪であることを明確にしている。

（2）民事訴訟権の確立

　下院法案22号の特筆すべき点は、影響を受けた個人が民事訴訟を提起できることを明文化したことである。刑事罰による抑止に加え、被害者が主体的に被害回復を図るルートを確保することは、インターネット上の拡散被害を食い止める上で不可欠といえる。
　法案では、名誉毀損やプライバシー侵害に基づく請求を可能とし、実損害の賠償に加え、懲罰的損害賠償や弁護士費用の回収も認めている。チャンドラー議員が指摘する風評被害や精神的苦痛に対し、金銭的制裁を通じて強力な抑止力を働かせる狙いがある。

（3）作成同意と配信同意の峻別

　法的構成として重要なのは、作成への同意が必ずしも配信への同意を意味しないとする規定である。たとえば、私的な範囲での生成には同意していた場合であっても、それが無断で公衆に拡散された場合には、なお権利侵害が成立するという論理である。同意の範囲を厳格に解釈し、個人のデータ・コントロール権を最大限尊重する姿勢の表れといえよう。

３　下院法案28号の検討―自動意思決定と透明性

（1）雇用決定における不服申し立て

　下院法案28号は、AIシステムを用いて行われた雇用決定等に対する不服申し立て手続きの確立を義務付けている。
　具体的には、雇用、住居、金融、医療といった重大な決定においてAIを使用する場合、事業者は事前にその旨を通知しなければならない。さらに、AIによる決定が消費者にとって不利益な結果となった場合、消費者はその理由の説明を求め、人間による再審査を受ける権利を有する。
　これは、EU一般データ保護規則第22条に見られる自動化された意思決定のみに基づかない権利と共鳴するものであり、米国州法レベルで手続的適正をAIガバナンスに組み込む動きとして注目される。

（2）チャットボットの開示義務

　また、下院法案28号は、チャットボット等の対話型AIに対し、ユーザーが人工知能とやり取りしていることを定期的に開示することを義務付けている。
　とりわけ、ユーザーと長期的な関係を築くコンパニオン製品については、対話セッションの開始時だけでなく、一定の間隔でAIであることを通知・想起させることが求められている。法案の文言によれば、テキストベースでないセッションにおいては最低でも30分ごとに30秒以上の通知を行わなければならない。ユーザーがAIを人間だと誤認し、感情的あるいは金銭的に搾取されるリスクを防ぐための消費者保護規定である。

４　日本法への示唆と展望

　ニューメキシコ州のこれらの法案は、日本におけるAI法政策にも示唆を与えている。
　第一に、ディープフェイクに対する民事救済の強化である。日本では名誉毀損や著作権法による対応が中心だが、AI生成による非実在の性的画像に対する保護は必ずしも十分ではない。下院法案22号のように、AI生成物に特化した民事責任規定を設け、損害賠償の要件を明確化することは、被害者救済の実効性を高める上で検討に値する。
　第二に、雇用AIにおける手続的保障である。日本でもAIによる採用選考が普及しつつあるが、不採用の理由説明や異議申し立てのプロセスは各企業の裁量に委ねられている。下院法案28号のような人間によるレビューを受ける権利の法定化は、労働者保護の観点から将来的な議論の対象となり得るだろう。

（参考）

５　むすび

　ニューメキシコ州の下院法案22号および下院法案28号は、技術革新を阻害することなく、個人の尊厳と公正な手続きを守るための現実的な解を模索する試みである。
　チャンドラー議員らが目指すイノベーションと保護のバランスが、実際の法運用においてどのように実現されるか、引き続き注視が必要である。米国の州レベルでの立法実験は、グローバルなAI規制の潮流を占う試金石となるだろう。

６　アメリカAI動向の総まとめ

（参考）アメリカAI行動計画（トランプアクションプラン）

（参考）州法

（参考）アメリカAI行動計画（トランプアクションプラン）と州法

（参考）その他

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。