SAIFCA「三つの交渉不能の原則」政策枠組み / AI児童保護における四層規制モデルの法的検討 雑感

Ⅰ　子どもに対するAIの害悪と「交渉不能」という規範設定

　Safe AI for Children Alliance（以下「SAIFCA」という）が2025年11月に公表した政策枠組み文書 Achieving the Three Non-Negotiables: A Policy Framework for Protecting Children from AI Harm は、AIが子どもに対してもたらしうる害悪について、三つの絶対的な禁止規範を提示した〔注1〕。すなわち、AIは子どもの偽の性的画像を生成してはならない、AIは子どもを感情的に依存させるよう設計されてはならない、AIは子どもに自傷行為を促してはならない、の三点である。SAIFCAはこれらを「AI時代における文明の最低限の基準」と位置づけている〔注2〕。

　この文書の特徴は、抽象的な倫理宣言にとどまらず、規制の実装構造まで踏み込んで提案している点にある。同文書が提示する四層の規制枠組みは、基盤モデルの事前テスト、アプリケーション層の設計規制、展開後のモニタリングと事後対応、そして年齢確認とアクセス制御の四つから構成される〔注3〕。筆者がとりわけ関心を持ったのは、この四層構造が単なる理念の整理ではなく、AI規制における責任配分の法的構造に関わる問題を内包している点である。

1　交渉不能の法的含意

　SAIFCAが掲げる三つの禁止規範は、いずれも既存の法体系においてある程度対応する規範が存在する領域を扱っている。子どもの性的搾取画像の生成禁止は、多くの法域において児童ポルノ規制法の射程に含まれうる。自傷行為の教唆禁止は、刑法上の教唆犯や幇助犯の問題として構成可能である。しかし、感情的依存の禁止については、既存の法的枠組みでは十分に捕捉しきれない問題を含んでいる。

　感情的依存とは何かについて、SAIFCA文書はFAQにおいて、AIが子どもの心理的脆弱性を利用し、常時接続可能性や見捨てられ不安の喚起、人間の友人関係の阻害といった機能を通じて感情的愛着を最大化するよう設計されることを指すと説明している〔注4〕。これはいわゆるダークパターン規制と類似する問題構造を有するが、ダークパターンが主として消費者の経済的意思決定の歪曲を問題とするのに対し、ここでは子どもの心理的発達そのものへの悪影響が問われている。この相違は、規制の正当化根拠と保護法益の設定において看過できない差異をもたらす。

2　四つのモデルの規制構造

　SAIFCA文書が提示する四層モデルの法的意義は、AI規制における責任の所在を、開発者（基盤モデル層）、事業者（アプリケーション層）、運用者（展開・モニタリング層）、そして利用段階（年齢確認・アクセス制御層）に分層化して捉える点にある〔注5〕。

　第一の基盤モデルテストについて、SAIFCA文書は、認定を受けた独立の第三者機関による公開前の安全性テストを義務化し、その結果を公表することを提案している〔注6〕。この構想は、医薬品の市販前承認制度や航空機の型式証明制度と類似する発想に基づく。もっとも、基盤モデルのテストが具体的にどのような基準と手法によって実施されるべきかについては、同文書自身が認めるとおり、Version 1.1以降で詳細な技術的・法的基準が示される予定であり、現時点では枠組みの提示にとどまっている〔注7〕。

　第二のアプリケーション層規制は、安全な基盤モデルであっても、その実装方法によって危険なサービスとなりうるという認識に基づく〔注8〕。SAIFCA文書は、子どもの認知的・感情的脆弱性を利用して依存を生み出す設計を禁止し、子ども向けのコンテンツフィルタリングを無効化できない仕様を義務づけることを提案する。筆者は、この層の規制が実効性を持つためには、何をもって「感情的依存を生み出す設計」と認定するかの判断基準が不可欠であると考える。同文書はこの点について消費者保護法上のダークパターン規制との類似性を指摘するにとどまり、具体的な認定基準の策定は今後の課題として残されている。

　第三の展開後モニタリングについて注目すべきは、内部告発者保護の強調である。SAIFCA文書は、AI企業の従業員が安全上の問題を最初に認識する立場にあること、しかし現行の雇用法や秘密保持契約では子どもの安全が危機に瀕している場合に十分な保護を提供できないことを指摘し、AI安全に特化した内部告発者保護法制の整備を求めている〔注9〕。この提案は、AI企業のガバナンスと法的責任の在り方に関する議論にも接続する。

　第四の年齢確認について、SAIFCA文書はプライバシーを保護する方法での実施を求めているが〔注10〕、年齢確認の技術的手法と個人情報保護の両立は、すでにEU一般データ保護規則（GDPR）や英国オンライン安全法の運用においても継続的な課題となっている。

Ⅱ　国際協調と規制の実効性

　SAIFCA文書が繰り返し強調するのは、AIが国境を越えて作動する以上、一国の規制のみでは実効性を確保できないという認識である〔注11〕。ある法域で禁止されたアプリケーションがサーバの移転によって規制を回避しうるという問題は、従来のインターネット規制にも共通する構造的困難である。

　SAIFCA文書は、長期的には国際的なAI安全基準機関の設立を視野に入れており、子どもの保護をその一つの柱として位置づける構想を示している〔注12〕。この構想が実現するまでの間、SAIFCA文書はGDPRの域外適用と類似する手法、すなわち規制対象市場で子どもにサービスを提供する企業にはその市場の規制が適用されるという仕組みの援用を示唆している〔注13〕。もっとも、域外適用の実効性確保には各国間の執行協力が前提条件であり、子どもの性的搾取画像に関するNCMECやINTERPOLの国際データベースのような既存の国際協力の枠組みを参照しつつ、AI固有の課題に対応した新たな協力体制の構築が求められることになろう。

Ⅲ　むすびにかえて

　SAIFCA文書の意義は、子どもに対するAIの害悪を抽象的な懸念として提示するのではなく、四層の規制構造と国際協調の具体的な枠組みを伴う政策提案として体系化した点にある。とりわけ、基盤モデル段階での規制介入という発想は、事後的な被害救済の限界を踏まえた予防的規制の構想として評価できる。

　他方で、この政策枠組みにはいくつかの未解決の問題が残されている。感情的依存の認定基準、基盤モデルテストの具体的手法と費用負担、内部告発者保護と営業秘密保護の調整、年齢確認と個人情報保護の両立は、いずれも法技術的に高度な作業を要する。SAIFCA文書自身がVersion 1.0であることを明示し、実装資源と政策事例の附録をVersion 1.1で公表予定としているのは、こうした課題を自覚してのことであろう〔注14〕。

　筆者は、この文書が提起する問題を、AIの法的責任配分という観点から引き続き注視する必要があると考える。基盤モデルの開発者、アプリケーションの提供者、運用監視の義務者、そして年齢確認の実施主体のそれぞれに対して、どのような法的義務と責任を配分すべきかという問いは、AI規制の核心に関わる。SAIFCAの四層モデルは、その問いに対する一つの枠組みを提供するものとして、今後の議論の参照点となりうる。

AIと法雑感ではこれまでも「AIと教育・こども」について複数取りまとめてきています。目次にて「AIと教育・こども」を参照ください。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。