AIガバナンス / PDFではなくオペレーティングシステム / 運用主義への転回雑感

0　はじめに

　AIガバナンスと聞くと、多くの組織はまず「方針（ポリシー）を作る」方向へ走る。「AI倫理指針」や「生成AI利用ガイドライン」といった文書を策定し、PDF化してイントラネットに掲示することで、統治の責務を果たしたと安堵する。もちろん、組織の意思決定として文書は必要である。しかし、AIに関して文書だけを整えても、現場のリスクはほとんど制御できないのが実情である。 

　なぜなら、AIは導入して終わりではなく、学習データの推移や再学習、あるいはユーザーの入力傾向の変化によって、その性能も挙動も事後的に変わり得るからである（モデルドリフト、概念ドリフト、用途の拡張、サプライチェーン更新等）。従来の確定的なソフトウェアとは異なり、AIは確率的な挙動をするシステムであり、静的なルールの網だけでは捉えきれない。

　したがって、真に機能するガバナンスとは、規範文書の静的な集合ではなく、運用・監視・是正・説明が継続的に回る動的な仕組み、すなわち組織の「オペレーティングシステム（OS）」として設計されるべきであるといえる。

　国連開発計画（UNDP）とAstana Civil Service Hub（ACSH）が2025年に公表した報告書『Global approaches to AI governance』は、まさにこの「文書からOSへ」の転換を示唆している（注1）。本稿は、同報告書や国連AI諮問機関の提言など、近時の国際的な規律・制度の断片を手掛かりに、(1) リスクを「ダイヤル」として扱う発想、(2) 国際調整の必然性、(3) スローガンではなく執行（実装）の仕組みの重要性、の三点を軸に、企業・行政の実務に引き直す試みである。

1　「ガバナンス＝PDF」という誤解と限界

　ガバナンスを文書化すれば足りるという直観は、コンプライアンスの世界ではしばしば裏切られる。立派なコンプライアンス規程集が整っている大企業でも、不祥事は起きる。AIでも同様である。

　AI活用における典型的な失敗は、「差別をしてはならない」「プライバシーを守る」といった「禁止の列挙」や「倫理原則の掲示」によって防がれるものではない。むしろ、失敗の多くは、企画・開発・調達・運用・監査の各段階において、誰がどの基準で検証し、どのログを確認するのかという「責任分界」と「検証手順」が曖昧なままプロジェクトが進むことから生じる。

　従来のITシステムであれば、仕様書通りに動くことが期待され、検収時点での適合性確認（静的コンプライアンス）が有効であった。しかし、機械学習モデルは環境との相互作用の中で振る舞いを変え、あるいはデータセットの偏りが事後的に発覚する。

　OSの比喩を続けるなら、ポリシーは「マニュアル」にすぎない。実務を実際に動かすのは、異常を検知する「センサー（常時モニタリング）」と、権限を制御しプロセスを停止させる「アクチュエータ（介入権限）」、そしてブラックボックスとしての挙動を記録する「ログ」である。これらが組織内のワークフローとして結線され、異常時に即座にフィードバックループが回って初めて「統治している」と言えるのである。

　2024年に成立したEUのAI規則（AI Act）が象徴的なのは、抽象的な原則の宣言にとどまらず、リスク分類に応じて技術文書の作成、ログ保存、人間による監督（human oversight）といった具体的な要求事項を規定し、事前の適合性評価（コンプライアンス）と事後の市場監視を制度化した点にある（注2）。ここで重要なのは、AIガバナンスがリリース前の「一度きりの審査」ではなく、ライフサイクル全体を通じた継続的な管理プロセスとして構想されていることである。

2　リスクは「ダイヤル」である

　AIリスクの管理において最も重要な視点は、それが二値（0か1か）ではないということだ。「AIを導入するか、しないか」「安全か、危険か」という単純なスイッチではない。どの用途で、どの程度の自律性を持たせ、どのデータで学習し、どの範囲のユーザーまで影響を及ぼすか、という複数のパラメータを連続的に調整する「ダイヤル」である。

　EU AI Actのリスクベース・アプローチは、まさにこの「ダイヤル」の発想を法制度に落とし込んだものである。同規則は、許容されないリスク（禁止）、ハイリスク（厳格な義務）、限定的リスク（主に透明性義務）、最小リスクといった区分を設け、リスクの強度が上がるほど義務の密度がスケールする仕組みを採用している（注2）。

　企業実務でありがちな失敗の一つは、このダイヤル調整を誤ることだ。例えば、社内FAQ用の低リスクなチャットボットに対して、法執行や与信審査、採用判断のような高インパクト用途と同じ「重さ」のガバナンスを適用し、過剰な承認フローで現場を疲弊させてしまう。結果として、肝心の高リスク領域に資源が回らなくなる。

　他方で、逆に「PoC（概念実証）だから」「内製ツールだから」という理由で、実質的にハイリスクな用途（例：人事評価の自動化や顧客の感情分析など）を無防備に走らせてしまう「過小コンプライアンス」の失敗も多い。

したがって、組織が最初にやるべきは、以下の三点に集約される。

(a) 自組織のAI利用を網羅的に棚卸しする。

(b) リスク分類（ダイヤル）の基準を定義する。どこまでが「高リスク」かを社内基準で明確化する。

(c) 直ちに「展開しないリスト（No-Go List）」を置く。

　ダイヤルを回して調整する以前に、そもそも電源を入れてはいけない領域（レッドライン）があることを合意しておく必要がある。これは「何ができるか」を議論する前提としての「何をしないか」の定義である。

3　調整はもはや任意ではない

　AIガバナンスの難所は、それが一国一企業の国内法だけでは完結しない点にある。AIモデル（特に基盤モデル）は国境を越えて提供され、学習データも計算資源もサプライチェーンも多国籍である。したがって、各国で規律がバラバラになる「断片化（fragmentation）」は、単なる比較法上の興味深い問題にとどまらず、実務上の甚大なコストと、規制の空白（ギャップ）を生む。

　国連のAIハイレベル諮問機関（HLAB）は、その最終報告書『Governing AI for Humanity』において、AIが適切に統治されなければ便益が一部の国や企業に偏在し、国家間のデジタル・ディバイド（AI格差）が拡大し得ること、そして既存の規範・制度がパッチワークのままであることを強く警告した（注3）。

　UNDP等の2025年報告書もまた、国際協力を「共通理解」「共通の土台」「共通の便益」「一貫した取組」という柱に整理し、科学的合意形成のためのパネル、グローバルな観測（オブザーバトリー）、標準・データガバナンス枠組み、政策対話、能力開発ネットワーク、国連事務局内のAIオフィスといった多層的な制度メニューを提示している（注1）。

　ここでの論点は、「世界政府」的な統一規制を作ることの是非ではない。むしろ、相互運用可能性（interoperability）の確保である。企業の目線でいえば、(a) 市場アクセス（各国の規制適合）と、(b) 説明責任の共通言語（監査・第三者評価の尺度）を、どの程度グローバルに揃えられるかが、競争力と社会的正当性を左右する。異なる規制環境下でも、「自社のAIガバナンスは機能している」と証明できる共通のプロトコルが必要となるのである。

4　スローガンより執行の仕組み

　ガバナンスをOSにするとは、スローガンを唱えることではなく、執行可能な部品（メカニズム）を揃えることである。抽象的に「公平性」「透明性」「安全性」と経営理念のように唱えても、現場のエンジニアやPMのコードや仕様書は変わらない。必要なのは、外部から検証可能な状態（assurance）を生む具体的な仕組みである。

　第一に、サンドボックスである。EU AI Actは、加盟国が少なくとも一つのAI規制サンドボックスを設置し、2026年8月2日までに運用可能とすることを求めている（注2）。サンドボックスは単なる「規制の例外（緩和）」特区ではない。それは管理された実験環境として、当局・開発者・利用者が相互に学習し、イノベーションと法的適合性の実務を擦り合わせるための「学習装置」である。企業にとっても、自社のガバナンスOSが規制当局の期待値と合致しているかを、市場投入前にテストする場となる。

　第二に、自己試験（self-testing）と第三者検証である。シンガポールの「AI Verify」は、企業が自社AIについて技術的テストとプロセス面のチェックを行い、主張を客観的に示すためのテスティング枠組み・ツールキットとして整備されている（注4）。重要なのは、倫理原則を文書で再掲することではなく、「公平性テストを実施し、バイアスが許容範囲内であることを確認した」「反事実的な説明が可能である」といった「検証できる主張（verifiable claims）」に落とすことにある。これにより、信頼は主観的な期待から、客観的なエビデンスへと質的転換を果たす。

　第三に、インパクト評価と継続監視である。カナダ連邦政府は、行政上の意思決定に用いる自動化システムについて、アルゴリズム影響評価（Algorithmic Impact Assessment: AIA）を義務的ツールとして位置付け、影響レベルに応じて透明性・人間の関与・説明・監督等を段階的に要求している（注5）。加えて、AIは導入後に変化する以上、モデルドリフトの検知、予期せぬ挙動に対するインシデント対応、判断根拠となるログの保持といった「運用の監査可能性」が中核となる（注1）。

このループを回す主体として、Chief AI Officer（CAIO）のような統括責任者や、法務・セキュリティ・現場を束ねるAIガバナンス委員会を置くことが、結局は最もコスト対効果が高い。事故が起きてから対処するコストに比べれば、OSのライセンス料（維持費）としての組織コストは微々たるものである。

5　行動リスト

　以上を踏まえると、組織が今すぐ着手すべきことは、派手なAI戦略の発表ではない。地味だが不可欠な、OSの初期設定（セットアップ）である。

(1) リスク分類法を作り、「展開しないリスト」を先に確定する。

　すべてのAIを一律に管理しようとしない。まず、「やってはいけないこと（Red Lines）」を決め、次に「慎重にやるべきこと（高リスク）」と「自由にやっていいこと（低リスク）」を分ける。この分類こそが、リソース配分の要諦である。

(2) ワークフローとしての透明性を実装する。

　意思決定ログ、モデル・データの来歴（由来）情報、システムカード（説明文言）、問い合わせ窓口を、運用手順の中に物理的に埋め込む。後から「なぜこの判断をしたのか」と問われたときに、ログが出せないシステムは、説明責任を果たせないシステムであり、導入してはならない。

(3) アシュアランス・ループを立ち上げる。

　一度きりのリリース前レビューで満足しない。継続的モニタリングとドリフト追跡、インシデント対応訓練へ移行する。運用フェーズでの異常検知こそが、ガバナンスの実効性そのものである。

(4) 調達を乗数器として使う。

　外部ベンダーからAIを調達する場合、マーケティング資料の美辞麗句ではなく、テスト結果、評価票、監査可能な証跡の提出を要求する。自社のガバナンスOSに接続できない（監査不可能な）モジュールは、買わないという判断が必要である。サプライチェーン全体にガバナンスを波及させることで、自社のリスク管理能力を乗数的に高めることができる。

　AI技術は、ルールブック（法改正）が印刷されるよりも速く進化し、動く。信頼は、四半期ごとのキャンペーンやスローガンではなく、継続的な能力（capability）としてのみ獲得される。ガバナンスを「PDF」から「OS」へ転回させることが、いま、我々が採りうる最短距離であるように思う。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。