AIと監査 / AI導入フレームワークと法 / 監査可能性の設計図として雑感

0 はじめに

　AIを巡る議論は、倫理原則の表明から、泥臭い実装と運用の現場へ、そしてそれらを統御するガバナンスの設計へと、その重心を急速に移している。ところが、実際は原則は美しくとも、そこにある手続は雑多で、断片的である。「人間中心」や「透明性」といった言葉は、コードや業務フローに実装されない限り、単なる響きのいい言葉に過ぎない。AIは「導入した瞬間」よりも、「導入した後」に事故を起こす。したがって、真に求められるガバナンスとは、PoC（概念実証）の華々しい成功談よりも、運用フェーズにおける退屈で緻密な内部統制の設計論となる。そして、その退屈さの設計こそが、現在の主戦場であるといえる。

　最近目にしたAshley P. Moore氏による『A Comprehensive Set of Structured Frameworks for Assessing AI Adoption – From Strategy, Procurement and to Internal Assessment』（2025年）は、その退屈さを正面から、そして執拗なまでの解像度で引き受けた文書である。Blue Fox Consulting Services of Virginiaから公開されたこの224ページに及ぶ文書は、AI導入を単なる技術プロジェクトとして扱わず、戦略・ガバナンス・人材育成・人間の監督（HITL）・エンドユーザーリスク・適合性評価を横断する「組織変革」として捉え、CEOの戦略策定から現場の内部自己評価に至るまでを一気通貫で設計しようとする野心作だ（注1）。今回は、この膨大なフレームワークを補助線として、AIガバナンスにおける法的思考の核心、すなわち「監査可能性（Auditability）」の設計について検討する。

1 フレームワークの価値は統治と翻訳にある

　AIガバナンスの世界は、フレームワークが増殖する世界である。OECD原則、EUの信頼できるAIの要件、NISTのAI RMF、ISO/IEC 42001、各国のガイドライン、いずれも正しいことを言う。しかし、組織が事故を起こすのは、正しさを知らないからではなく、正しさを手続に落とせないからである。結果として起きるのは、いわゆるcompliance theatre（遵守の演劇）であり、規定のファイルは厚くとも、実質的な統制は薄いという空虚な状態である。

　気になるフレームワークがあれば「AIと法-雑感」で取り上げているため、目次を確認いtだきたい。

　本フレームワークの特筆すべき価値は、抽象的なガバナンス概念を、COBIT 5やNIST AI RMFといった既存の強力な統制基準とマッピングさせ、「内部統制（Internal Controls）」「指標（Metrics）」「証拠（Evidence）」という監査言語に翻訳している点にある。同文書は、戦略から人事、調達に至るまでを相互に関連する部品として定義している。

　例えば、Part 2においてCIO（最高情報責任者）向けのガバナンスを論じる際、単に「リスク管理せよ」とは言わない。NIST AI RMFの「Map & Measure」機能を引用しつつ、AI導入の成熟度をレベル0（不在）から3（成熟）以上までマッピングし、評価の根拠として何を提示すべきかを「証拠文（evidence statements）」として列挙する（注1）。ここで重要なのは、証拠が「出せるかどうか」が、統治が「回っているかどうか」を代替するという発想である。法は説明を愛するが、裁判所や監督当局が最終的に咀嚼するのは、説明それ自体ではなく、説明を裏づける記録（ログ）である。

2 法は原則ではなく「証拠」を要求する

　AIに関する法的責任の議論は、しばしば「誰が責任主体か」という抽象的な人格論に吸い寄せられる。だが、現場で問われるのは、責任主体の哲学ではなく、注意義務の履行過程の具体である。事故が起きたとき、問われるのは、①どのリスクを想定していたか（予見可能性）、②どの統制で減殺したか（結果回避義務）、③統制は実際に運用されていたか、④運用を示す証拠は何か、という順である。ここに「監査可能性（auditability）」が刺さる。

　EUの「信頼できるAI」指針は、アカウンタビリティの中核として監査可能性を位置づけ、アルゴリズム・データ・設計過程の評価可能性を強調する（注5）。NISTのAI RMFも、権利を損なわず、部門や用途を問わずに、リスクを管理するための実務的枠組みとして提示されている（注2）。ISO/IEC 42001がAIマネジメントシステム規格として公表されたことも、統治を一過性のプロジェクトではなく、PDCAサイクルを持つ「マネジメントシステム」として定常運転させる方向性を後押しする（注3）。

　そして、EU AI Actは、リスクに応じた義務を課す立法として、一定のAIシステムについて品質管理や技術文書、監督の仕組み等を求める（注4）。同法の適用は段階的であり、GPAIや高リスク領域の義務が時間差で立ち上がる設計になっている（注4）。この「時間差」は、実務にとっては猶予であると同時に、準備不足を露呈させる試験期間でもある。この期間に、組織がどれだけ「証拠の生産工程」を整備できるかが、法的防衛ラインの強度を決定するといえよう。

（参考）

3 技術だけでなく「組織能力」を統制する――HRの役割

　通常、AIガバナンスといえば技術部門や法務部門の話になりがちだが、本フレームワークがPart 3およびPart 4を割いて「AI Ready Workforce（AI対応型組織）」の構築を論じている点は極めて示唆的である（注1）。Moore氏は、AIのリスク管理において人事（HR）が果たす役割を、単なる採用の問題とせず、内部統制の中核として位置づけている。

　具体的には、以下の5つの内部統制（Internal Controls）がHR領域に設定されている。

　法的な観点からは、これは「体制整備義務」の具体化と読める。高度なAIシステムを導入しても、それを監視・運用する人間に十分なコンピテンシーがなければ、事故の予見可能性も回避可能性も担保できない。AIによる差別や権利侵害が発生した際、担当者が「AIの仕組みを理解していなかった」という抗弁は、企業側の過失を推認させる事実にしかならない。

（参考）

　本フレームワークでは、従業員のスキルギャップ分析やトレーニング完了率、さらにはベンダーリソースの管理状況を「証拠」として残すことを求めている。ガバナンスの射程は、アルゴリズムから「それを使う人間」へと拡張されなければならない。

4 「人間による監督」とエンドユーザーリスクの解像度

　本フレームワークが提示するPart 5の「Human-in-the-Loop (HITL) Factors」および「User Risk Framework」は、法務担当者にとっての「予見可能性」のカタログとして機能する。

　EU AI Actでも高リスクAIに義務付けられる「人間による監督」だが、現場では「とりあえず人間が承認ボタンを押せばよい」という儀式に堕しやすい。これに対し本フレームワークは、HITLを統制項目（Controls）として定義し、「オーバーライド（人間によるAI判断の覆し）の利用率」や「人間の介入にかかった時間（Latency）」を測定指標とし、さらに「オーバーライドのログと正当化理由（Justifications）」を証拠として要求する（注1）。つまり、「人間が見ていました」という供述ではなく、「人間がいつ、なぜ、どのように介入したか」という記録こそが、法的防御のいわば盾となるのである。

　また、エンドユーザーリスク（Book 2）においては、物理的危害やプライバシー侵害といった典型的なものだけでなく、24のリスクカテゴリーが詳細に整理されている。「依存とスキル喪失（Risk-EU-015）」や「認知・認識的リスク（Risk-EU-008）」といった、従来のPL法（製造物責任法）的な枠組みでは捕捉しにくい長期的な影響までスコープに入れている点は注目に値する。予見可能なリスクを放置して漫然とAIを運用した場合、不法行為責任を問われる可能性は否定できない。この詳細なリスクカタログは、法務が事業部門に対して行う質問リストとして極めて有用である。

5 自律的取組は契約と内部統制で具体化する

　日本の「AI事業者ガイドライン」は、AI開発・提供・利用に必要な取組の基本的考え方を示し、why/what/howを分け、チェックリストや仮想事例も含めてライフサイクル全体での自主的実践を促す（注7）。また、AIに関与する主体を開発者・提供者・利用者に整理し、共通の指針を10項目に整理する（注7）。ここには、法的拘束力の強弱を超えて、組織に「自分で回せ」と迫る空気がある。

　しかし、「自分で回す」ためのボルトとナットは、契約と内部統制である。調達の局面では、ベンダーが何を提供し、何を開示し、どこまで保証し、事故時にどう協力するかを具体化しなければならない。運用の局面では、権限設計、ログ、評価、教育、監査という地味な部品を揃え、回し続けなければならない。

　上記文書が調達と第三者管理に章を割き、Part 6においてAIベンダー向けの「自己適合宣言（AI Self-Declaration of Conformity: AI-SDoC）」を扱っているのは、まさにこのサプライチェーン管理の難所に応えるためだ（注1）。

　AIシステムは多くの場合、複数のベンダーが提供するモデルやデータセットの組み合わせで構築される。そのため、自社だけで全ての適合性を保証することは不可能に近い。Moore氏は、IBMのFactSheets 360やMicrosoftのサプライヤー基準などを参照しつつ、ベンダーが自社製品のコンプライアンスをどう表明すべきかのテンプレートを提示している。

　自己適合宣言は万能の免罪符ではないが、少なくとも「何を基準に、どの証拠で、適合を主張するのか」という論点を可視化する。調達側の法務としては、このSDoCを契約の添付資料とし、表明保証の一部として組み込むことで、ベンダーのリスク管理責任を契約的に固定化することが可能になる。EU AI Actの世界では適合性評価が制度化される領域があり（注4）、日本でも契約ガイドライン等を参照しながらサプライチェーン統治を設計せよ、という方向性が明確化されている（注7）（注8）。自律的取組が、結局はドキュメントと証跡の世界に収斂するのは、当然であるように思える。

6 結局、法務は「証拠の生産工程」を設計する

　では、企業の法務・ガバナンスは何を設計すべきか。抽象的な「倫理」ではなく、証拠が残る工程である。最低限、(1)AIの棚卸（どこで何を使うか）、(2)用途別のリスク区分と許容度（risk appetite）、(3)意思決定と例外処理の権限設計、(4)調達・委託における要求事項（開示・評価・監査協力）、(5)運用監視とインシデント対応、(6)教育・リテラシー、(7)内部監査と継続的改善、が一つの輪として回る必要がある。ここまで揃って初めて、フレームワークはスローガンではなく装置になる。

　上記文書が「CEOのAI導入戦略」から始めるのも示唆的である。AIは現場のツールに見えて、実は投資判断、リスク許容、説明責任の設計を含む経営課題である（注1）。経営が腹を括らない限り、現場は「便利だから使う」だけになり、法務は「事故が起きた後の説明」に追い込まれる。逆に言えば、統治の設計図を先に置けば、現場の創意工夫は「許容された範囲」で加速できる。統治はブレーキではなく、アクセルの踏み代を決める枠である。

雑感

　AIガバナンスを巡る議論は、ともすると新しい原則探しに陥る。だが、原則は既に十分にある。足りないのは、原則を工程に変換し、工程を証拠に変換する技術である。法務が担うべきは、AIを「善く使う」道徳の設計ではなく、AIが暴走したときに止められる組織であることを、後から示せる組織であることの設計である。Ashley P. Moore氏のフレームワークは、その実装のための詳細な部品リストであり、設計図である。AIの未来は派手であるが、責任の未来は相変わらず地味である。地味さに耐えた組織だけが、派手さを享受できるといえるのかもしれない。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。