韓国AI基本法の下位法令に対するCAIDPの勧告 / 禁止と透明性の規制技法雑感

0　はじめに

　2026年1月18日、米国ワシントンD.C.に拠点を置く非営利団体Center for AI and Digital Policy（以下「CAIDP」という）が、韓国の国家情報社会振興院（National Information Society Agency、以下「NIA」という）に対し、人工知能基本法の下位法令およびガイドライン案に関するパブリックコメントを提出した。

　韓国では、AIの発展促進と信頼基盤の確立を目的とした包括法、いわゆるAI基本法が制定され、現在その施行に向けた詳細規定の策定が進められている。この動きは、アジアにおけるAIガバナンスの試金石として、日本を含む周辺諸国からも注目を集めている。CAIDPは、韓国が信頼できるAIの推進において先導的立場にあることを認めつつ、施行令レベルにおいてより厳格な人権保護メカニズムを組み込むよう求めている。

　今回は、CAIDPの意見書が提起した「受容できないリスクの禁止」「リスク評価文書への一般アクセス権」「児童の権利保護」という3つの論点を検討する。これらは、AIガバナンスにおける「手続的コンプライアンス」と「実体的権利保護」の緊張関係を浮き彫りにする論点であり、韓国一国の問題にとどまらない。

1　問題の所在　包括法は運用で決まる

1.1　韓国のリーダーシップ

　CAIDPは、意見書の冒頭において、韓国がAI戦略の包括性と人権尊重の姿勢において世界的リーダーの地位にあることを強調している。CAIDP Index 2025において、韓国は最上位層に位置づけられる評価を受けた。韓国はOECDのAI原則を支持し、OECD人工知能ガバナンス作業部会の運営グループに参加し、GPAIの創設メンバーの一つであり、UNESCOのAI倫理勧告の起草にも貢献してきた。

　AI基本法は、EU AI法などの世界的ベストプラクティスと整合する重要なマイルストーンとして評価されている。同法は、個人の権利と尊厳を保護しつつ、AIの開発と利用に関する国家競争力を高めることを目的とし、韓国市場やユーザーに影響を与える場合には、国外で開発・利用されるAIにも適用される域外適用の側面も有している。

　同法に基づき、科学技術情報通信部（MSIT）をはじめ、国家情報社会振興院、国家AI委員会、国家AI政策センター、AI安全研究所といった重層的なガバナンス機関が設立または位置づけられた。

1.2　下位法令という決定的局面

　包括法は、抽象度が高い。抽象度が高いからこそ政治的合意を得やすいが、抽象度が高いからこそ、実装段階で価値判断が噴出する。促進しつつ規律する、という曖昧な両立命題を、どの条項にどの強度で埋め込むかが核心となる。

　NIAがAI基本法の実効的な施行のために下位法令やガイドラインの整備に尽力している点をCAIDPは評価しつつも、現状の案には依然として人権保護の観点から看過できない「抜け穴」が存在すると指摘する。その抜け穴の正体は、リスク対応が文書化という手続的義務に矮小化され、実体的な禁止や市民による監視が欠落している点にある。

2　「受容できないリスク」の法的禁止

2.1　文書化による管理の限界

　CAIDPの第一の勧告は、人権および法の支配に抵触する「受容できない」AIシステムの禁止である。

　韓国のAI基本法およびその下位法令案では、生成AIに対するラベル付け義務や、高影響AI事業者に対する説明責任ガイドライン、リスク評価文書の作成義務など、透明性の確保に重点が置かれている。しかし、CAIDPは、リスク管理において文書化のみでは不十分であると断じる。

　現在のガイドライン案の構造では、あるAIシステムが人権や尊厳と根本的に対立する性質を持っていたとしても、あるいは科学的な妥当性を欠いていたとしても、所定のリスク評価文書さえ整備されていれば、法的に展開可能となってしまう恐れがある。意見書の言葉を借りれば、「with the current guidelines, AI systems may be found to have unacceptable risks but still deployed if the documentation is in place」という事態である。リスク評価はあくまでリスクを低減・管理するための手段であり、人権侵害そのものを正当化する免罪符ではない。

2.2　禁止カテゴリの復権

　CAIDPは、リスク評価と文書化だけでは対処できない領域、すなわち「受容できないリスク」のカテゴリーを明確に定義し、禁止規定を設けるべきだと主張する。

　参照されているのがEU AI法である。EU AI法第5条では、サブリミナルな操作、脆弱性の搾取、公的機関による社会的スコアリング、リアルタイム遠隔生体認証、予測的ポリシング、感情認識システム、生体情報の分類など、基本的権利に対する脅威が明白な特定のAI実践を禁止されたAI慣行として明示的に排除している。

　CAIDPは、韓国のNIAに対し、これと同様のアプローチを採用し、人権や法の支配と矛盾するAIシステムを禁止するよう求めている。差別、操作、侵襲的な監視などの害悪から個人を守るための境界線を法的に画定する必要がある。科学的根拠のないAIや、民主主義的価値を毀損するAIについては、リスク評価の対象とするまでもなく、その存在自体が許容されないという規範的判断を下位法令レベルで明確化すべきだという主張である。

　禁止カテゴリは、規制当局にとっても企業にとっても居心地が悪い。だが、禁止がなければ、最終的に残るのは「書類を整えれば出せる」という官僚的世界観である。

3　リスク評価文書への公衆アクセスと対抗可能性

3.1　透明性の射程拡張

　第二の勧告は、企業が作成したAIリスク評価文書への一般市民のアクセス権を確保するメカニズムの提供である。

　現状の案では、リスク評価文書は規制当局への提出や内部保存が主眼とされていると考えられるが、CAIDPはこれを一般に公開すべきであると提言している。AIシステムがどのようなデータで訓練され、どのようなバイアスを含みうるか、そしてどのようなリスク対策が講じられているかを知ることは、AI社会における市民の自律性を確保するために不可欠である。

3.2　対抗可能性の実質化

　法的な観点から特に重要なのは、CAIDPがこの公開性を対抗可能性（contestability）の前提条件と位置づけている点である。

　AIによって権利や利益が侵害された個人が、その決定に対して異議を申し立てるためには、そのAIがどのようなロジックやリスク評価に基づいて運用されているかを知る必要がある。ブラックボックス化されたAIに対して有効な異議申し立てを行うことは、事実上不可能に近い。武器対等の原則の観点からも、被害者救済のためには情報の非対称性を是正する必要がある。

　したがって、高影響AIについて作成されたすべてのリスク評価文書に一般市民がアクセスできる仕組みを提供することは、単なる情報公開を超えて、適正手続の現代的要請といえる。企業秘密との調整が実務上の課題となることは予想されるが、高リスク領域においては人権保護の観点から透明性が優先されるべきだという強いメッセージが含まれている。

　透明性がなければ、最終的に残るのは「何が起きたか誰も分からない」というブラックボックスである。

4　児童の精神的健康とウェルビーイングの保護

4.1　脆弱性という固有の問題

　第三の勧告は、児童を危険にさらす行為に対処し、児童の精神的健康とウェルビーイングを守るための規則・原則・禁止事項の執行である。

　CAIDPは、行動プロファイリング、ターゲティング広告、操作的なデザイン機能、有害またはリスクのあるコンテンツのアルゴリズムによる増幅など、児童のリスクを高める慣行に対して強い懸念を表明している。UNESCOのAI倫理勧告が指摘するように、児童向けのAIツールは「manipulative, deceptive or capable of jeopardizing users' emotional states and decision-making」となりうる。

4.2　生成AIと児童

　特に近年、生成AIを搭載した対話型ツールが普及しており、これらが児童の感情状態や意思決定を操作し、欺瞞的な影響を与える可能性が指摘されている。意見書では、米国における訴訟事例として、生成AIとの対話が児童の自殺につながったとされるケースにも言及されている。OECDの報告書「How's Life for Children in the Digital Age」（2025年5月）が示すように、判断能力が発達途上にある児童は、AIによる操作に対して特に脆弱である。

　児童領域の規制が難しいのは、本人の同意能力が弱いこと、脆弱性が高いこと、影響が長期化することという三点にある。大人向けに設計された「同意」や「注意喚起」では足りない。したがって、児童領域では、手続保障よりも、実体規制すなわち禁止と制限が前に出やすい。CAIDPの提言もまさにそこを突いている。

　子ども領域から逃げれば、AIガバナンスは大人の都合の良い自己規律に転落する。

5　断片化という問題と因果関係の特定

　現代のAIシステム、特に高影響AIや汎用AIモデルは、開発者、提供者、デプロイヤー、そしてエンドユーザーという長く複雑なサプライチェーンの中で運用される。リスク評価が文書化されるとしても、それがサプライチェーンのどの段階で、どのような前提条件の下で行われたかが不透明であれば、事故や権利侵害が発生した際の責任の所在は曖昧になる。

　CAIDPが求める「リスク評価文書へのパブリックアクセス」は、この断片化された責任の連鎖を可視化する試みと解釈できる。文書が公開されていれば、あるAIシステムが当初どのようなリスクを想定し、どのような制約条件の下で設計されたかを事後的に検証することが可能になる。

　また、「許容できないリスクの禁止」は、因果関係の特定が困難なAI被害に対する予防的アプローチとして機能する。AIによる差別やサブリミナルな操作は、被害が発生してからその因果関係を法的に証明することが極めて困難である。リスクの顕在化を待って事後的に救済するのではなく、発生蓋然性の高い特定の類型については、入口段階で禁止することが、法の支配と社会コストの観点から合理的である。

6　おわりに

　CAIDPによる韓国NIAへの勧告は、AIガバナンスにおける潮目の変化を示唆している。これまでのAI規制議論は、倫理指針や自主規制が中心であったが、2026年現在、明確な禁止事項や罰則を伴う法的規制へと軸足が移りつつある。

　韓国のAI基本法が、産業振興と安全確保のバランスを模索する中で、施行令レベルにおいて「禁止」という強力な措置をどこまで盛り込めるかは、韓国のみならず、同様の法整備の議論が続く日本にとっても重要な先行事例となる。日本のアジャイル・ガバナンスや事業者ガイドラインにおいても、リスク評価の重要性は説かれているが、「何を禁止すべきか」という議論は依然として慎重である。CAIDPの主張は、リスクベース・アプローチが機能するためには、その前提として「リスクの許容限界」が法的に画定されている必要があることを再認識させるものである。

　また、リスク評価文書の公開を求めた点は、AIガバナンスを「政府対企業」の二者関係から、「政府・企業・市民社会」の三者関係へと拡張するものである。対抗可能性を担保するための情報アクセス権は、説明可能AI（XAI）の技術的進展と並んで、法的制度設計における車の両輪となるべきものである。

　結局、AIガバナンスは、禁止と透明性という、古典的な法の技法へ回帰する。そこに新しいのは、対象がアルゴリズムであり、実装がソフトウェアとデータとインターフェースに分散している、という一点だけである。だからこそ、下位法令の設計は、条文の書き方以上に、技術と運用を知る者の想像力を要求する。AI法は条文で終わらず、運用で始まるように思う。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。