国連共同声明「AIと子どもの権利」が突きつける設計責任と摩擦設計への転換雑感

0　はじめに

　2026年1月26日、国連システムは、AIが子どもに与える脅威がディープフェイクからグルーミングまで多層化し、しかも増幅していることに警鐘を鳴らした。同月19日には、ITUをはじめとする国連関連機関が連名で「人工知能と子どもの権利に関する共同声明」を発表している。これは、生成AIの爆発的普及に伴い、ディープフェイクやグルーミングといった脅威が、もはや個人のリテラシーや保護者の監督能力を超えた領域にあることを、国際社会が公に認めた分水嶺といえる。

　すでに2025年末、オーストラリアが16歳未満のソーシャルメディア利用を法的に禁止するという、世界初の強硬措置に出たことは記憶に新しい。表現の自由やアクセス権といった従来の聖域に対し、子どもの安全という法益が優越することを立法的に確定させた事例として、法学的に極めて重い意味を持つ。

　今回は、今回の国連共同声明とオーストラリアの先行事例を素材として、AI規制における設計責任の浮上と、従来型のリテラシー教育の限界、そして企業が直面する新たなガバナンス課題について、雑感を記す。結論は強くない。むしろ、制度が見落としがちな論点の配置を整理することに重心を置く。

1　問題の所在

1.1　周辺事象ではなくなった現実

　子どもに関するオンライン被害は以前から存在した。しかし生成AIの普及以降、被害の形が量産される局面が目立つようになっている。米国のNCMEC（National Center for Missing & Exploited Children）は、過去2年間で生成AIに関連する児童の性的搾取に関する通報が7000件超に上ると述べ、これは把握できた分にすぎず未把握はさらに多い可能性があるとしている。また、IWF（Internet Watch Foundation）は、2025年にAI生成の児童性的虐待関連動画の発見が急増し、加えて2025年は同団体の分析官が確認したオンライン上の児童性的虐待関連コンテンツが過去最悪の規模だったと報告している。

　ここで重要なのは、数の大きさそのものというより、制度設計上の含意である。違法コンテンツの取締りのみでは追いつかない速度で、生成・加工・再流通が起きうる。取締りを前提とした事後モデルだけでは、ゲームのルールが変わったことに気づきにくい。

1.2　偽物でも被害は本物である

　法は伝統的に、虚偽・偽造を真実の侵害として捉えてきた。しかしディープフェイク領域では、侵害されるのは真実だけではない。NCMECは、たとえ搾取的な画像が完全に捏造であっても、子どもと家族への害は現実のものだと明言している。ここで問題となる被害は、名誉やプライバシーにとどまらない。恐怖、羞恥、将来の搾取可能性、日常生活の萎縮といった、長い尾を持つ害である。

　この点を踏まえると、本当に本人なのか、実在の被害者がいるのかという問いを、救済の入口要件として強く置きすぎる設計は危うい。害は、真実性の有無とは独立に立ち上がるからである。

1.3　集合的な無能という断罪

　これまで、デジタル・リスクへの処方箋として常に掲げられてきたのがリテラシー教育であった。しかし、今回の国連声明は、このリテラシー神話に対して、極めて冷徹な事実認定を行っている。

　声明は現状を「集合的な無能（collective inability）」と表現し、子ども本人だけでなく、教師、保護者、そしてあろうことか政策立案者においてさえ、AIのリスクを理解し対処する能力が欠如していると断じた。

　法政策論的に見れば、これはユーザー側の注意義務に依存したリスク管理モデルの破綻宣告に等しい。相手が人間であれば「知らない人について行ってはいけない」という教育が機能するかもしれない。しかし、相手が子どもの親友のように振る舞い、無限の時間と忍耐を持ち、心理学的に計算された言葉を投げかけるAIエージェントである場合、リテラシーだけで防御することは不可能に近い。ここに至り、規制の重心はユーザーの教育からシステムの設計へと、不可逆的にシフトせざるを得ない状況が生まれている。

2　AIは何を変えたのか

　AIが子どもを狙う構図を、技術の個別機能（画像生成、音声合成、チャット等）に還元すると、手当てが局所最適になりやすい。もう少し抽象度を上げて整理しておく。

2.1　量の爆発

　生成AIの怖さは、生成そのものというより生成の反復が容易になる点にある。IWFは、AI生成コンテンツが最小限の技術知識でも大量生産され得ること、そしてそれが危険な規模に寄与していることを強調し、AI企業に対して安全を設計に埋め込む（safe by design）ことを求めている。

　この量の問題は、刑事法の構成要件を満たすか否か以前に、社会の監視・通報・削除・捜査のキャパシティを飽和させる。法はしばしば「違法なら取り締まる」という形式で安心しがちだが、量が飽和を超えると、違法性の宣言は現場の実効性に直結しない。

2.2　狙い撃ちの精密化

　国連側の問題提起は、グルーミングを含むターゲティングの精密化にも及んでいる。AIは、対象の嗜好や反応に合わせて言葉を選び、関係の構築を高速化し得る。ここでのポイントは、犯罪者が熟練している必要が薄れることである。

　この局面では、単純な「危険なコンテンツを削除する」モデルだけでは足りない。危険は、関係形成のプロセスに埋め込まれるからである。メッセージ単体では無害に見えるやり取りが、連続として見ると有害になり得る。

2.3　立証と救済の困難

　ディープフェイクは、被害者の救済を二段階で難しくする。第一に、本人性が疑われる。第二に、疑われること自体が被害者の語りを萎縮させ、相談・通報を遅らせる。Thornは、ディープフェイクが絡むと「信じてもらえない」不安が強まり、助けを求める障壁になり得ると指摘する。

　法制度の観点では、この疑義が極めて厄介である。被害の立証は、もともと被害者側に重い。そこに「映像があるのに信用できない」「映像がないから信用できない」という二重拘束が生まれる。これは、真偽判定技術（検出器）を整備すれば解決する類いの問題でもない。信頼は技術だけでなく、制度と社会実務の共同作品だからである。

3　国連共同声明の射程と設計責任

3.1　共同声明が突きつけるもの

　ITU等が公表した共同声明において、筆者が最も注目したのは、テック企業の責任に関する以下の記述である。

　「テック企業が製造するAIツールの大部分は、現在、子どもとそのウェルビーイング（幸福）を念頭に置いて設計されていない（currently not designed with children and their well-being in mind）。」

　この指摘は、AIプロダクトにおける欠陥の定義を拡張する可能性を孕んでいる。製造物責任法の文脈において、予見可能な誤使用に対する設計上の配慮が求められるのと同様に、AIにおいても子どもが利用しうることが予見可能である以上、子どもに対する安全性が設計段階で組み込まれていなければ、それは欠陥であるという論理構成が可能となる。

　ITU電気通信開発局長のCosmas Zavazava氏の発言は、この点についてさらに踏み込んでいる。氏は、企業側が当初イノベーションの阻害を理由に規制に懸念を示していたことを認めつつ、利益の追求と責任あるAIの展開は両立すると断言し、民間セクターの関与を強く求めている。

3.2　子どもは保護対象である前に権利主体である

　共同声明は、子どもを国際法上の独立した権利主体として位置づけ、AIの設計・開発・展開・ガバナンスを子どもの権利に整合させるよう求める。ここで重要なのは、子どもを単なる弱者ではなく、権利の担い手として制度に登場させる点である。

　共同声明は、子どもの権利影響評価（child rights impact assessments）を含む監視・評価メカニズムの整備や、子どもにも理解可能な形での公表を求めている。透明性を「大人の監督官庁向けの書類」と誤解せず、子どもに届く説明を含めて制度設計せよ、という要求である。地味だが重い。

3.3　子ども中心のAIは例外ではなく標準であるべきである

　UNICEF Innocentiのガイダンス（2025年12月版）は、子どもがAI利用の最前線にいる一方で、AIの設計や政策形成に子どもが十分に関与できていない現状を指摘する。加えて、AIが子どもの権利を損なう場面として、AI生成の露骨なディープフェイクやAI生成の児童性的虐待関連コンテンツ等を挙げ、害の現実性を明確にしている。

　同ガイダンスはまた、子ども向けに設計されていないAIシステムであっても、子どもが相互作用したり影響を受けたりし得る以上、政策と実装の両面で子ども中心の要請が及ぶことを強調する。この一文は、企業実務にとっても重要である。「当社プロダクトは子ども向けではない」では免責されない、という話になりやすいからである。

4　オーストラリア・モデルと禁止の法理

4.1　16歳未満禁止法の衝撃

　国連の動きと並行して、あるいはそれを先取りする形で、2025年12月10日にオーストラリアで施行されたオンライン安全法改正（ソーシャルメディア最低年齢）法は、世界中の法関係者に衝撃を与えた。

　その立法事実は強烈である。政府委託調査によれば、10歳から15歳の児童の約3分の2が憎悪的・暴力的コンテンツに晒され、半数以上がサイバーいじめを経験しているという。このデータを前にして、立法府は「プラットフォームの利用規約（13歳以上）」が空文化している現実を直視し、一律禁止というハードローを選択した。

　規制対象となったプラットフォームは、Facebook、Instagram、TikTok、Snapchat、YouTube、Reddit、X、Threads、Twitch、Kickの10サービスである。違反したプラットフォームには最大4,950万豪ドルの罰金が科される。注目すべきは、この法律が子ども本人や保護者には罰則を設けず、専らプラットフォーム企業に遵守義務を課している点である。

4.2　法益衡量の転換

　憲法学や人権法の観点からは、この禁止措置は子どもの表現の自由や知る権利を侵害するとの批判も強い。VPN等による回避が可能であるため、実効性を疑問視する声もある。

　しかし、重要なのは、民主主義国家であるオーストラリアが「リスクは利益を上回る」と判断し、パターナリズムを正当化したという点である。これは、マレーシア、ニュージーランド、英国、フランス、カナダといった国々が追随の動きを見せていることからも、一国特有の現象ではなく、グローバルな法の振り子が自由放任から厳格規制へと大きく振れたことを示している。

5　日本企業と法務への示唆

5.1　ガラパゴスからの脱却

　ひるがえって日本の状況を見ると、こども家庭庁を中心とした議論は進んでいるものの、オーストラリアのような強力な禁止措置や、国連が求めるレベルの厳格な設計責任の法制化には至っていない。

　しかし、日本企業がグローバルにAIサービスを展開する場合、この温度差は致命的なリスクとなる。日本国内の感覚のまま、欧州やオセアニア市場にサービスを提供すれば、巨額の制裁金やレピュテーションの毀損に直面することは避けられないかもしれない。

5.2　実務的対応、利用規約からアーキテクチャへ

　企業の法務・コンプライアンス担当者は、以下の点について、自社のAIガバナンス体制を再点検する必要がある。

　第一に、年齢確認（Age Assurance）の実装である。単なる年齢入力ゲートではなく、実効性のある年齢推定技術の導入が求められる。同時に、そのための生体データ取得がプライバシー侵害とならないよう、ゼロ知識証明などの技術的措置を組み合わせる必要がある。オーストラリアの規制当局（eSafety Commissioner）は、単なる生年月日の入力だけでは合理的な措置とは認めないという立場を明確にしている。

　第二に、子ども向け影響評価（Child Rights Impact Assessment）の実施である。開発段階において、そのAIモデルが子どもに対してどのような影響（中毒性、バイアス、不適切な回答、認知的オフローディング）を与えうるかを評価し、ドキュメント化すること。共同声明も、企業に対し子どもの権利影響評価を含む定期的な監査の実施を求めている。

　第三に、デフォルト設定の変更である。未成年者と推定されるユーザーに対しては、プロファイリング広告、位置情報追跡、無限スクロール機能などをデフォルトでオフにするアーキテクチャの実装が必須となる。

　第四に、ここまでやってもゼロリスクにはならない。だからこそ、通報・削除・証拠保全・相談支援（学校や福祉機関との連携を含む）までを、プロダクト設計の外に追い出してはならない。NCMECが示すように、通報件数は把握できた分にすぎず、未把握が残る前提で設計しなければならない。

6　雑感

　AIガバナンスは、しばしばイノベーションと規制のバランスという魔法の呪文で語られる。しかし子どもの領域では、バランスという言葉が、ときに責任の薄め液になる。子どもは、被害の回復力が低いという意味で弱いだけではない。発達・学習・対人関係の形成といった基盤が、まさにいま作られているという意味で時間に弱い。遅れた救済は、取り返しのつかなさを増幅する。

　共同声明やUNICEFガイダンスが繰り返すのは、子どもをAI政策の周辺に置かないことである。これは理念ではなく、実務上の合理でもある。子どもに耐えない設計は、いずれ大人にも耐えない。

　雑感を述べれば、オーストラリアのような全面禁止は、法の敗北に近い側面があり、諸手を挙げて賛成することはためらわれる。子どもたちがデジタル社会で生きる力を育む機会を奪うことになるからである。しかし、その機会を担保するためには、その空間が安全であることが大前提となる。今のAI空間は、柵のない工事現場のようなものである。そこに子どもを遊ばせて「怪我をするのはリテラシーがないからだ」と言うのは、大人の怠慢でしかない。

　我々は今、AIを賢くするための競争から、AIを行儀良くする（特に弱者に対して）ための競争へと、リソースの配分をシフトすべき時期に来ている。法はそのためのインセンティブ設計を担わなければならない。Safety by Designが単なるスローガンでなく、実装コードとして書き込まれるまで、この議論は終わらないだろう。

　以上、雑感としての整理である。制度の細部を詰めるほど論点は増えるが、少なくとも「子ども安全＝摩擦設計」という視点は、AIと法の議論を少し現実に引き戻すはずである。

（参考） AIと教育・こども

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。