AIリスク管理フレームワークという明晰さ / 規制と実務を接続する規範の作り方雑感

0 はじめに

　AIガバナンスの現場で、複雑さを明晰さに変えるという言葉がある種の呪文のように唱えられている。ここでいう複雑さとは、モデルの不透明性だけではない。技術と規制と組織と社会が同時多発的に絡み合う、多層的なもつれのことである。

　近時、この結び目に輪郭を与えるアイテムとしてAIリスク管理フレームワークが前景化している。2025年11月にIasonが公表したリサーチペーパーは、OECDやNIST、日本のガイドライン、EU AI Actを俯瞰しつつ、これらが企業統治と規制対応の双方に資することを整理した。1)

　今回の関心は、個別フレームワークの要件をカタログ化することにはない。これらが過失認定や説明義務、契約責任といった法的評価とどう接点を持つか。その接続点を雑感として切り出す。

1 問題の所在　安全の達成から手続の合理性へ

　AIリスクの特性は、その動態性にある。誤りや幻覚、偏り、説明不能性は、開発時には顕在化しない。モデルドリフトや利用文脈の変容によって、運用後にはじめて立ち上がる。1)

　このとき法が現実的に要求できるのは、完全無欠の安全という結果ではない。リスクを把握し、測り、是正し続ける体制というプロセスである。EU AI Actが高リスクAIにリスク管理システムや技術文書、人的監督を求めるのは、その典型である。2)

　将来の紛争局面で問われるのは、事故が起きたかどうかだけではない。どの前提でリスクを把握し、どの手続で測り、どの権限で是正したか。意思決定の合理性が問われる。その合理性を語る共通言語がAIリスク管理フレームワークである。

2 フレームワーク乱立という断片化

　AIリスク管理フレームワークは有用だが、同時に乱立する。OECDは原則と分類枠組みを、NISTは反復プロセスを、日本は役割分担を、EUは拘束力ある義務を提示する。1)3)4)5) 対象も射程も異なるため、どれを読めばよいのかという情報過多と形骸化が生じやすい。

　もっとも、乱立の下にも共通項はある。ライフサイクルを通じた継続的管理、透明性と説明可能性、人的関与、責任の所在の可視化。1)2)4) 実務上の要諦は、どれが正しいかを選ぶことではなく、共通項を核として自社の統治文書へ翻訳することにある。規程、委員会、稟議、契約、監査。そこへ落とし込む。

　日本でもソフトローのアプローチの副作用としてフレームワーク乱立は顕著である。

3 EU AI Act――ソフトローをハードローに接続する装置

　EU AI Actは、AI規制をリスクに比例した義務の体系として提示した。2) 企業が内部でAIを分類し、義務の強度を調整し、適合性を示す手続を整備することを、法がハードローとして要求する。その構造を作った点に意義がある。

　高リスクAIには、リスク管理システム、データガバナンス、技術文書、透明性、人的監督、堅牢性とサイバーセキュリティの確保が義務付けられる。2) 限定リスクには透明性義務、低リスクは任意の行動規範へ委ねる。

　注目すべきは、AI Actが詳細な技術仕様を法律本体に書かず、整合規格を参照する構造を持つことだ。行動規範や標準、ガイドラインといったソフトローを、適合性評価を通じてハードローへ接続する変換装置として機能する。企業がNISTのフレームワークやISO規格に準拠した体制を構築することは、EU法域でのコンプライアンスに直結する。制裁金は最大で全世界売上高の7%に達しうる。

4 NIST AI RMF――GOVERNとMANAGEへの接続

　NISTのAI RMF 1.0は、統治、特定、測定、管理という四つの機能でAIリスク管理を構造化する。4) 法的に問われるのは、測定をやった事実ではない。測定が統治と管理へ接続できているかどうかである。

　技術現場では、リスク管理を精度の測定やバグの修正として矮小化しがちである。だが、測定はリスクの可視化に過ぎない。可視化それ自体は責任の免除ではない。測定された数値を誰が評価し、どの基準で許容範囲内と判断し、逸脱時に誰が止める権限を持っていたか。問われるのはガバナンスの実効性である。

　NISTは生成AI向けのプロファイルも公表している。生成物の来歴管理、ハルシネーション対策、レッドチーミングなどを整理したものである。6) 中心にある思想は、安全の証明ではなく危険の探索と管理である。完全性を求めず、リスク低減の努力を記録化する。このアプローチは不法行為法における過失判断の枠組みとも親和性が高い。

5 OECD分類枠組み――リスクは文脈に宿る

　OECDのAI原則は、信頼できるAIのための価値原則と政策提言を提示し、国際的な共通言語となった。3) その延長として公表された分類枠組みは、AIを五つの次元で捉える。人と地球、経済的文脈、データと入力、AIモデル、タスクと出力。5)

　示唆は単純である。リスクはモデル単体に内在するのではなく、文脈に宿る。同じ大規模言語モデルでも、娯楽の推薦に使うのと、採用や与信、医療に使うのとでは、要求される説明可能性も許容される誤りも異なる。分類が先にあり、管理が後に続く。企業のリスクアセスメントではどのモデルを使うかが先行しがちだが、本来はどの文脈で使うかが法的リスクの総量を決める。

6 日本のAI事業者ガイドライン　

　総務省と経済産業省が策定したAI事業者ガイドラインは、法的拘束力を持たない。だが、AI開発者、提供者、利用者の三者に役割を分け、ライフサイクル上の留意点を整理した点に意味がある。7)

　AIビジネスのエコシステムは複雑化している。基盤モデルの開発者、それをファインチューニングしてAPI提供する提供者、自社業務に導入する利用者が連鎖する。事故が起きたとき、誰がどこまで責任を負うかは不明確になりやすい。実務上、ガイドラインの記述は委託契約や利用規約、サービスレベル合意の条項へ翻訳される場面が多い。

　ソフトローの難しさは、遵守していてもやっていることが記録に残らなければ立証できない点にある。したがってガイドラインは、行為規範であると同時に証拠生成の設計図でもある。

7 雑感

　AIリスク管理フレームワークの普及は、AIガバナンスの民主化でもある。誰もが委員会を作り、チェックリストを回せる。だがそれは、形だけのガバナンスを量産する危うさも孕む。

　NISTの項目を全て埋めましたという報告は経営陣を安心させるかもしれない。だがフレームワークは事故を防ぐお守りではない。事故が起きたときに、我々は為すべきことを為していたという判断の筋道を社会や司法に対して説明するための論証装置である。

　結局、企業に必要なのは外部フレームワークのコピーではない。自社にとって何を高リスクと見なすか。それをどう測るか。誰がいつ止め、誰がどの権限で是正するか。この意思決定の設計である。

　いまのAI導入プロジェクトは、概念実証や導入や活用といった入口の議論ばかりが増え、停止や是正や説明といった出口が置き去りにされがちだ。AIと法の世界で減らすべきは人間の判断そのものではない。判断のプロセスが見えなくなったブラックボックスである。AIリスク管理フレームワークという地図が役に立つのは、それを広げて議論する人間たちが、自分たちの現在地と目的地を直視する意思を持った時だけだろう。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。