ニューヨークRAISE法と州AI安全法の標準化 / AIガバナンス文書が法になるとき / アメリカAIガバナンスまとめ雑感

0　はじめに

　ニューヨーク州のResponsible AI Safety and Education Act（いわゆるRAISE Act）が、カリフォルニア州SB53（Transparency in Frontier Artificial Intelligence Act、以下TFAIA）と並んで「フロンティアAI」規制のベンチマークになり得る、という趣旨の記事を読んだ。1)　米国では連邦法の統一が遅れがちで、州法が先行する領域が繰り返し現れる。AIの「安全」がまさにその局面に入った。

　今回でいう標準化とは、対象を"巨大なモデル・巨大な開発者"に絞り、安全を性能基準ではなくプロトコル（文書と手続）で担保し、インシデント報告で学習回路を回す、という設計が州をまたいで同型化していく現象である。以下、RAISE ActとTFAIAを素材に、標準化の良さと罠を雑感として整理する。

※詳細は必ず原典を確認ください。

1　問題の所在　「フロンティアAI」を誰に、どのように縛るのか

　州法ベースのAI規制は、これまで差別・欺罔・プライバシーといった"近接リスク"を中心に設計されてきた。ところが、RAISE ActやTFAIAが正面から扱うのは、死亡・重大傷害や巨額損失といった"臨界的な害（critical harm／catastrophic risk）"である。2)　個別の利用場面のガードレールではなく、「モデルそのものの危険性」と「開発者の統制能力」に寄せた発想だと言える。

　とはいえ、法律が安全の具体値（合格点や許容誤差）を決めきることは難しい。そこで出てくるのが、プロトコルを法の中心に据えるという法技術である。規制が「モデルの出力」ではなく「開発者の統制プロセス」に着地するのは、技術的不確実性が大きい領域では、ある意味で自然な帰結である。

2　断片化と標準化　「同じ形」の規制が増えると何が起きるか

　TFAIAは、一定の要件を満たす「大規模なフロンティア開発者」に対し、フロンティアAI・フレームワークの作成・実装・公表、破局的リスク評価の提出、重大安全事故の報告スキーム等を要求する。3)　報告期限は原則15日以内であり、死亡・重大傷害の切迫リスクがある場合は法執行機関等の所管当局へ24時間以内に報告しなければならない。4)　違反に対する民事制裁は州司法長官が追行し、上限は1違反あたり100万ドルである。5)

　興味深いのは、透明性を掲げつつ、機密保護の設計も同時に組み込まれている点である。たとえば、重大安全事故の報告や内部利用における破局的リスク評価の提出は、カリフォルニア公文書法の適用除外とされる。5)　「全部出せ」ではなく、「出すべきものを、出し方と出す先を分けて出せ」という二層構造であり、標準化の現実解でもある。

　RAISE Actについては、公表情報に"ねじれ"がある。ホッチュル知事は2025年12月19日にRAISE Actに署名し、同法は成立した。2)　州当局のプレスリリースは、（チャプター改正の合意を含め）安全プロトコルの公表と72時間以内の事故報告、監督オフィスの設置、制裁金（初回100万ドル、再度300万ドル）といった骨格を前面に出す。6)　他方で、署名時点で公開されている法文テキストと当局説明の間にズレがある可能性が指摘されている。7)　標準化は条文だけで完結せず、プレスリリース、ガイダンス、監督オフィス、企業実務が一体となって"標準的な物語"を作っていく過程でもある、という点が透けて見える。

3　安全プロトコルの法技術　「自分で書いたルール」に縛られる構造

　手続型規制の肝は、国家が安全の具体値を決めず、企業に枠組み（framework）を"書かせる"点にある。TFAIAは、国家標準・国際標準・業界ベストプラクティスをどう取り込むかを説明させ、さらに破局的リスクやその管理について「重大に虚偽又は誤解を招く表示」を禁ずる。3)5)　つまり、ガバナンス文書は単なる"作文"ではなく、外部評価に耐える言明としての性格を帯びる。

　ここには、法が内部統制を「外部から監査可能な形式」へ翻訳しようとする意図がある。フレームワークが公表物になる以上、法務・広報・IRの言語がエンジニアリング判断に介入しやすくなる。透明性は上がるが、紙の上の完璧さ（paper perfection）を追求する誘惑も生む。安全は、プロトコルの美しさではなく、運用の泥臭さに宿るからである。

4　インシデント報告　学習回路としての規制

　AI安全を監督するうえで、当局が最も欲しいのは事故データである。TFAIAはOES（Office of Emergency Services）に報告メカニズムを設け、重大安全事故の報告を制度化した上で、匿名化・集計した年次報告を2027年1月以降に作成する。5)　単に罰するためではなく、事故情報を共有財として蓄積し、次の規制やベストプラクティスを更新するための「学習回路」を埋め込む仕組みと読める。

　他方、短い報告期限は企業に事故認定の法技術を突きつける。何を事故と呼ぶか、いつから期限が走るか、どこまで分かったら報告に足りるか、この手続が標準化されていくこと自体が、規制の副次的効果である。事故を"減らす"だけでなく、事故を"定義する"ことが制度の中心に置かれる点が、AI安全らしい。

5　「大規模」概念の政治学――計算資源と売上高という二つの物差し

　境界線をどこに引くかは、フロンティア規制の核心である。TFAIAは、フロンティアモデルを計算量（10^26オペレーション）で定義しつつ、「大規模フロンティア開発者」は年5億ドル超の売上高で切っている。3)　RAISE Actは、計算コストを基準として「大規模開発者」を定義しているが、知事と議員の合意により、後に売上高基準に改正される見込みである。8)　さらにTFAIAでは、2027年以降、Department of Technologyが定義更新の提言を年次で行い、その際には国際標準との整合、ステークホルダー（学界、産業界、オープンソース・コミュニティ等）の意見も考慮する建付けである。5)　定義を"更新可能な政策変数"として扱う設計である。

　結局、標準化は、（1）技術的に測れる閾値（compute）と、（2）政治的に説明しやすい閾値（revenue）の間を行き来しながら成立する。どちらも一長一短であり、「誰を規制したいのか」という政策目的が先に立つ。言い換えれば、標準化は"技術の問題"であると同時に、"政治の問題"である。

6　おわりに　標準化のメリットと罠

　州法が先導するAI安全規制が"同じ形"を取り始めると、企業は複数法域のコンプライアンスを一本化しやすくなる。これは実務にとって救いであり、当局にとっては学習のスピードを上げる。標準化の恩恵である。

　しかし、標準化は「チェックリスト化」を連れてくる。安全プロトコルが"書けている"ことと、安全が"実現している"ことは別物である。文書中心の規制を否定するのではなく、文書を学習装置として設計し続けること――プロトコル、報告、年次更新という手続の束が、実体としての安全にどこまで接続しているかが問われる。

（参考）アメリカAIガバナンスまとめ

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。