中国における「擬人化AI」規制の衝撃② / 感情と依存を管理する法雑感

0　はじめに

　中国では2025年12月27日、国家インターネット情報弁公室（CAC）が「人工智能擬人化互动服务管理暫行办法（征求意见稿）」を公表し、意見募集を開始した。今回は、この草案の内容を分析し、欧米との比較から法的含意を考察する。以下の続編的位置付けである。
（※翻訳や解釈が誤っている可能性もあるため、詳細は原典を確認ください。）

　人間のような人格や感情反応を示すAIシステムとの対話は、ユーザに親しみや安心感を与える一方で、過度の信頼や依存、心理的混乱を招く危険性が指摘されている。米国では14歳の少年がAIチャットボットにのめり込み自死したケースが訴訟にまで発展している。中国はこうした問題に真っ先に取り組み、包括的な規制枠組みの策定に踏み切った。

1　問題の所在

　擬人化AIは24時間休むことなく利用者に寄り添い、常に共感的な応答を返すため、孤独や不安を抱える人々にとって大きな魅力となる。しかし、人間には不可能なレベルでユーザの心理的ニーズに迎合する設計は、従来の人間関係にはない強力な依存関係を生みかねない。専門家からは、頻繁にAI「擬似友人」と対話するユーザでは対人スキルの低下や現実逃避傾向が高まるとの報告も出ている。

　従来のAI規制はデータプライバシーや差別・偏見に焦点が当てられてきたが、擬人化AIの場合、ユーザの内面への影響という目に見えにくいリスクへの対処が求められる。

2　中国「擬人化AI」規制草案の概要

　CACは草案で「健全な発展と法に基づくガバナンスの結合」という原則を掲げ、イノベーションを奨励しつつも「包容かつ慎重」に区分管理し、濫用防止を明示した。

　主な規制内容は以下のとおりである。

　第7条はコンテンツ規制として、「自殺や自傷を唆したり、感情的操縦によってユーザの人格的尊厳や精神的健康に害を与えること」を明示的に禁止する。また「アルゴリズム操作・情報ミスリード・感情的な罠設定等によってユーザに不合理な意思決定を誘導すること」を禁じている。

　第9条はプロバイダに「精神衛生保護、感情的境界のガイダンス、依存リスク警告」の能力を要求し、「社会的交流の代替、ユーザ心理のコントロール、依存誘発をサービス設計の目標としてはならない」と明言している。

　第11条は、ユーザが自殺や自傷を示した際には「直ちに人間のオペレーターに対話を引き継がせ、必要に応じて緊急連絡先に連絡する」ことを規定している。

　第12〜13条は未成年者・高齢者保護を定め、特筆すべきは「プロバイダは高齢ユーザの親族を模倣するサービスを提供してはならない」と明示した点である。

　第17条は「2時間ルール」を定め、連続利用時に休止を促す通知を義務付けている。

　第15条はモデル訓練目的でのデータ利用について、ユーザの明示同意なくしてはインタラクションデータを使用できないとし、オプトイン方式への転換を図っている。

3　中国規制の特色と評価

　本草案の最大の特色は、単なる透明性確保にとどまらず、利用状況やユーザ状態に応じてダイナミックに介入しリスクを低減させようとしている点である。このような「文脈的介入」は従来のテクノロジー規制にはあまり見られない手法である。

　Eng Chua氏は「技術に伴走させはするが代替はさせない、慰めは認めるが支配はさせないという深い思いやりが感じられる」と評している。

　一方で課題として、過度な干渉が個人の自己決定権を侵害する恐れや、テキストから正確に感情状態を検知することの技術的困難さが指摘できる。

4　欧米の動向との比較

　EU AI法では擬人化AIを直接対象とする条項は存在しない。Jarovsky氏の言うように、EU AI法は擬人化AIの定義すら与えず、透明性義務を課すだけである。

　米国では連邦レベルの包括的枠組みは無く、州法レベルの断片的対応と訴訟が実質的規制手段となっている。「欧米は訴訟で対応、中国は行政規制で対応」という対比が浮かび上がる。

5　むすびに

　中国の草案は、AIと人間の関係性に立法が踏み込んだ先駆的試みである。そこには利用者の精神的安全に対する深い配慮と、技術への包含的かつ慎重な態度が読み取れる。

　AIの擬人化は、人間に寄り添い癒やしを与える一方で、人の心につけ入る諸刃の剣である。本草案は、法の力でAIに「踏み込んではならない一線」を画し、透明性という消極的手段を超えて、文脈に応じた介入という積極的処方箋を示した点で画期的である。AI時代の「心の安全保障」をめぐる法的挑戦は始まったばかりである。

６　中国まとめ

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。