AIと人権 / AIコンプライアンスは「権利の特定」から始まる 雑感

Ⅰ　問題の所在

　AIガバナンスの議論は、とかく、リスク分類やチェックリスト整備に引き寄せられる。もちろんそれも重要である。しかし、法と人権の観点から見ると、コンプライアンスの出発点は別のところにある。すなわち、当該AIシステムが、どの文脈で、誰の、いかなる権利・利益に、どのような形で触れ得るのかを特定する作業である。

　この権利の特定を、手続と実装の言葉で前に押し出している文書として、欧州評議会（Council of Europe）の「Handbook on human rights and artificial intelligence（草案）」がある。〔注1〕本稿は、当該草案の読みどころを整理する。

1 AIコンプライアンスが空語になりやすい構造

　AIコンプライアンスという語は便利であるが、何を守るのか、法令なのか、社内規程なのか、倫理規範なのか、が曖昧なまま、守った気分だけが生成されやすい。とりわけ厄介なのは、リスクベース規制、典型はEU AI Actに触れた途端、ハイリスク該当性の判定それ自体が目的化しやすい点である。該当・非該当のラベリングは重要だが、それで人権上の問題が消えるわけではない。むしろ実務上は、該当しないはずの用途・文脈で、権利侵害、あるいは侵害の疑いが起きることがある。

　そこで、制度横断で効く問いとして影響を受ける権利の特定を据えるべきだ、というのが今回の立場である。そして、その立場を政策文書の形で強く裏打ちするのが、ハンドブック草案である。〔注1〕

Ⅱ　ハンドブック草案の要点

1 欧州評議会の基本的方向性

　欧州評議会は、人権運営委員会（Steering Committee for Human Rights: CDDH）を通じて、人権に基づく人工知能アプローチを強化し、AIシステムの設計・運用・使用を、民主主義、法の支配、基本的人権に完全に準拠させるという方向性を明確化している。〔注1〕AIシステムの利用状況や基本的人権リスクを制限するために何が必要かを起点に、影響を受ける権利を特定することによって、その目的を明確にする構図である。

2 EU AI Actとの接続可能性

　これらの要件はEU AI Actとも接続し得るものであり、両文書は制度設計上、相互補完的に機能し得る。このアプローチは権利保護に資するだけではなく、AIシステムを開発・導入する企業にとっても有益である。影響を受ける可能性のある権利を明確に特定することで、企業は法的・倫理的リスクをより正確に予測し、初期段階から適切なセーフガードを設計し、体系的かつ信頼できる形でコンプライアンスを文書化できる。期待値を明確にすることは法的不確実性を減らし、リスクが限定的な場面での過剰遵守や不必要な制限を避けることにも資する。〔注1〕〔注2〕

3 草案段階での強調点

　まだ草案段階ではあるが、当該文書は、AIが公共機関、司法制度、民主的プロセスに与える影響の拡大を強調し、差別、恣意性、個人の権利への不当な干渉を防ぐための明確な安全策が必要であることを繰り返し示す。〔注1〕

4 人間の監督と人権保護の優先

　当該文書は、人間の監督が効果的かつ意味のあるものでなければならず、基本的人権が関わる場合に自動意思決定が人間の判断に取って代わるべきではないことを強調する。これは、EU AI Act上「ハイリスク」に該当するか否かとは切り離して捉えられるべきである。人権保護は、分類より先に置かれるべき基準である。〔注1〕

5 用途・文脈に応じた権利特定の重要性

　当該文書は、AIシステムの用途・文脈に応じて影響を受ける基本的人権を特定する重要性を示し、画一的なアプローチを警戒する。権利への影響を具体的なシステム機能・ユースケースに結びつけることにより、差別禁止、プライバシー、表現の自由、サービスへのアクセス、適正手続などの領域で、リスクをより正確かつ比例的に評価することが促進される。〔注1〕

　さらに、権利の特定をリスク管理やインパクトアセスメントに組み込めば、企業はユーザー、規制当局、ビジネスパートナーとの信頼を強化できる。早期に技術設計の選択を規制要件と整合させ、市場アクセスと長期的な法的確実性を促進し、責任ある人間中心のAIへのコミットメントを示すことにつながる。〔注1〕〔注4〕

Ⅲ　「権利の特定」の内実

1 権利は「一覧表」ではなく「文脈」で作動する

　ハンドブック草案は、ECHR（欧州人権条約）とESC（欧州社会憲章）を土台に、AIの利用における権利制約の一般原則（適法性、正当目的、必要性・比例性、最小侵害など）を整理する。〔注1〕

　ここで重要なのは、権利が抽象的な項目ではなく、文脈依存の作動条件を伴って現れる点である。たとえばプライバシー（ECHR8条）は、監視・プロファイリング・同意の自由度などの条件に応じて、必要性・比例性の評価が変わる。〔注1〕

2 「横断3点セット」の意義

　ハンドブック草案は、複数セクターに共通して反復出現する中核論点として、(i)差別・平等、(ii)個人データ保護・プライバシー、(iii)AIベースの決定を争う能力（有効な救済）を挙げる。〔注1〕

　この三点は、企業実務でも最小セットとして扱う価値がある。なぜなら、どの産業でも、どのモデルでも、どのプロダクトでも、結局この三点がボトルネックになりやすいからである。

Ⅳ　人間の監督の実質化

1 Meaningful human oversightの含意

　ハンドブック草案は、AIが人権に影響する決定を実質的に形成する場合、効果的な手続的保障として、人間による事前・事後のレビューを含む「human oversight」が挙げられるとする（枠組条約の説明報告書に言及する形で示される）。〔注1〕

　ここでのポイントは、監督（oversight）が「人間がボタンを押した」程度の関与では足りない、という含意である。監督とは、判断の理由にアクセスし、反証可能性（challengeability）を担保し、必要ならば結論を覆す力を持つことを意味する。〔注1〕〔注2〕

2 自動化バイアスという「人間側」の脆弱性

　ハンドブック草案は、福祉領域の文脈で、AIは多くの場合、人間専門職の判断を支援するために設計されるのであり、人間の判断を置き換えるべきではない、と述べる。そのうえで、時間・資源不足や自動化バイアスにより、人間がAI推奨を追認してしまう危険にも触れる。〔注1〕

　「人が最終承認したから大丈夫」という物語が崩れる瞬間は、たいていここで起きる。人間を挟めば安全、ではない。人間を挟む設計を、ちゃんと設計する必要がある。

Ⅴ　企業コンプライアンスへの実装

1 人権デューディリジェンスとAI

　ハンドブック草案は、UNGPs（国連「ビジネスと人権に関する指導原則」）の枠組み（Protect, Respect and Remedy）を踏まえ、企業がAIライフサイクル全体を通じて人権リスクを評価・緩和すべきこと、AI特有の人権影響評価が開発・適用されるべきこと、さらに国家が企業に対して人権デューディリジェンス（必要に応じてプロジェクト別の人権影響評価を含む）を奨励・要求し得ることを述べる。〔注1〕

　ここから出てくる実務メッセージは単純である。AIコンプライアンスは、法令要件の充足だけで閉じない。ステークホルダーに対して「知っている（know）」だけでなく「示せる（show）」状態にせよ、という要求に収斂する。〔注1〕

2 HUDERIAという「人権RIA」の骨格

　欧州評議会は、枠組条約の履行を支える実務ツールとしてHUDERIA（人権・民主主義・法の支配の観点からのAIリスク・インパクト評価方法論）を位置づけ、公共・民間双方が利用可能な、非拘束のガイダンスであることを明示する。〔注4〕

　HUDERIAは、①文脈ベースのリスク分析（COBRA）、②ステークホルダー関与（SEP）、③リスク・インパクト評価（RIA）、④緩和計画（MP）という要素で整理され、軽微な用途に過剰負担を課さないよう、選別も組み込む。〔注4〕

　「権利の特定」を実務に落とす際、このような型は強い。なぜなら、技術チームと法務・コンプライアンスの会話を、抽象倫理から工程管理へ引きずり下ろせるからである。

3 透明性と説明可能性の現実的な線引き

　ハンドブック草案は、透明性の原則の実装にあたり、知財・営業秘密を理由に透明性が妨げられたり、人権影響評価が阻害されたりしてはならない旨を示す。〔注1〕

　ここは企業実務で揉めやすい。だが、人権影響評価（そして救済可能性）を担保するために必要な情報は、必ずしもモデルの全内部情報ではない。争点は、「誰が、何を、どの粒度で、いつ、知る必要があるか」である。要するに、透明性は情報の総量ではなく目的適合性の問題である。

Ⅵ　日本への示唆

　日本のAIガバナンスは、原則論、人間中心、透明性、説明可能性等と、個別プロダクト対応、生成AI利用指針、個人情報対応、セキュリティ等の間が、しばしば断裂する。ここに権利の特定と手続の型（HUDERIA的な発想）を挟むと、議論の整理ができる。

　具体的には、(i)ユースケースを粒度よく切り、(ii)影響を受け得る権利（差別・プライバシー・救済を最低ラインに）を特定し、(iii)必要なセーフガード（人間監督、異議申立て、ログ・監査証跡、ステークホルダー関与等）を設計し、(iv)示せる形で文書化する、という流れである。〔注1〕〔注4〕

　この流れは、EU AI Actのようなリスクベース規制との接続もよい。ラベル、ハイリスク等に先立って権利を見に行くため、規制適用の境界事案でも、社内の意思決定が止まりにくい。制度を跨いで機能するのが、権利の特定という発想の強みである。

Ⅶ　むすびにかえて

　ハンドブック草案は、法学者にとっては、ECHR/ESCの一般原則をAIに当てはめるための整理であり、企業実務家にとっては、人権を中心に据えたリスク管理の実装ガイドにも見える。面白いのは、この二つが同じ文書の中で同居している点である。〔注1〕

　AIガバナンスの議論がしばしば疲れるのは、抽象語、倫理、信頼、安全で話し合いが終始するからである。権利の特定は、かかる状況をやめさせる万能薬ではないが、少なくとも「誰が困るのか」「何が失われるのか」を書き出させる。AIコンプライアンスは、その書き出しからしか立ち上がらないようにも思う。

（参考）

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。