AIと透明性 / 企業における透明性の後退と「信頼の外注」――Foundation Model Transparency Index 2025を読む雑感

0 はじめに

　AIガバナンスの文脈で「透明性」は、いつも「よいこと」として語られる。だが、透明性が必要だという合意と、透明性が供給されるという現実は、別の次元に属する話である。スタンフォードHAIの「Transparency in AI is on the Decline」は、そこを容赦なく可視化している。（注1）

　ここでいう可視化は、比喩ではない。実際に、2025年版のFoundation Model Transparency Index（FMTI）は、主要13社の透明性を100点満点で採点し、平均は40点程度にとどまると報告する。（注1・2）「透明性が不足している」という感想ではなく、「透明性は平均40点」という数値としての刺さり方がある。透明性が“理念”ではなく“供給量”になった瞬間である。

1 透明性は下がったのか、測り方が変わったのか

　まず注意しておくべきは、2025年版は指標が更新されている点である。AIエコシステムが変化したため、2023年の指標をそのまま維持するのではなく、データ取得や利用データ、モニタリング等に関する指標を組み替えたという。（注1・2）したがって、2024年平均58点から2025年平均40点への落差は、企業の後退だけでなく、測定の再設計の影響も含む。（注1・2）

　もっとも、これをもって「実は悪化していない」とは言いにくい。なぜなら、個社レベルで透明性が明確に後退している例が報告されているからである。たとえばMetaはスコアが60から31へ、Mistralは55から18へ落ちたとされる。（注1・2）また、MetaがLlama 4について技術報告書を公表しなかった点が、透明性の変化を象徴する事実として言及されている。（注1）

　測定の更新は、言い換えれば「社会が企業に求める説明の粒度が変わった」ということでもある。旧来のモデルカード的な情報だけでは足りず、データ取得の筋や、利用実態、運用後の影響まで含めて透明性を問う局面に入っている。その要求に企業が追随できていない、あるいは追随するインセンティブが弱い。これが2025年版の読後感である。（注1・2）

2 「透明性」は企業の気分で決まる

　2025年FMTIの残酷な示唆は、透明性が産業全体の構造ではなく、企業ごとの優先順位で決まっている、という点にある。（注1・2）要するに、透明性は“競争の成果”ではなく“社内の意思決定”の成果である。

　この点を象徴するのが、トップとボトムの落差である。トップは95点で、指数史上最高点とされる一方、ボトムは14点で、データ、リスク、リスク低減策についてほぼ情報を出していないと評される。（注1・2）透明性が「成熟した企業ほど高い」といった直線で決まるわけでもない。透明性は、同じ市場に居ながら、会社ごとに別の企業文化を生きている。

　ここから先は法の話になる。透明性が企業の気分で決まるなら、透明性は“善意の供給”ではない。公共財としての透明性を欲するなら、制度が介入し、供給の条件を設計する必要がある。

3 「オープン」と「透明性」は同義ではない

　この論点は、AI界隈で何度でも事故る。モデルの重み（weights）を公開することと、会社の実務を説明することは別物である。スタンフォードHAIの記事は、モデルがオープン（重みが公開）であっても、透明性（実務の重要情報の開示）が担保されないことを明確に述べる。（注1）実際、オープンな開発者は平均的には透明性が高い傾向があるとされつつも、影響力の大きいオープン開発者が不透明であることへの警戒が示されている。（注1・2）

　法政策上、この切り分けは重要である。なぜなら「オープンだから安心だ」という雑な安心は、最も危険なタイプの安心だからである。重みが公開されても、訓練データが何か、訓練計算量がどれほどか、事前の安全評価がどう実施されたか、運用後にどのような利用が発生し、どのような影響が生じたかは、そのままブラックボックスになりうる。（注1・2）

　透明性を論じるとき、法が関心を持つのは、「再現可能性」「監査可能性」「説明可能性」という、検証に接続する情報である。公開の美学ではない。検証のための情報である。

4 透明性の本丸は「上流」と「下流」にある

　FMTIが業界全体として不透明だと指摘する核心は、(i)訓練データ、(ii)訓練計算量、(iii)モデルの利用実態、(iv)社会的影響である。（注1・2）この4点は、AIサプライチェーン（調達から運用まで）の結節点であり、責任の議論が必ず詰まるところでもある。（注1・2）

　ここで面白いのは、企業は「能力やリスクの評価」はある程度開示するが、方法論の透明性や第三者関与、再現可能性が弱い、とされる点である。（注2）つまり、評価という“結果”は出すが、評価という“手続”は出しにくい。この差は、法の文脈で言えば、実体と手続、あるいは結論と理由の差に近い。信頼を得るために必要なのは後者であるのに、前者だけが流通する、という歪みがあるように思う。

　さらに環境影響に関しては、エネルギー使用量、CO2排出、水使用などの主要情報を「10社が一切開示していない」とされる。（注1）環境影響は、AIガバナンスの周縁ではなく、もはやコスト構造そのものに食い込んでいる。にもかかわらず、情報は出ない。ここは政策介入の筋がよい領域であると解される。（注1・2）

5 法は何を要求すべきか――「公衆向け」と「監査向け」を分離する

　透明性要求は、しばしば「全部出せ」という乱暴なスローガンになる。だが、これは制度設計としては雑であるといえる。知財、セキュリティ、濫用、競争上の機微という理由は、ある程度は本物だからである。したがって、法がやるべきは、透明性を単一の義務として課すことではなく、透明性を二層化することである。

　第一層は、公衆向け透明性である。モデルの性質、代表的な用途、主要なリスク、基本的な緩和策、利用制限、インシデントの概要といった情報が含まれる。これは、社会が意思決定するための情報である。

　第二層は、監査向け透明性である。訓練データの由来と管理、評価設計、レッドチーミングの方法、重大インシデントの詳細、ガバナンス体制、ログ設計、更新管理など、検証に必要な情報が含まれる。これは、規制当局・監査人・認証機関等が検証するための情報である。

　重要なのは、第二層が「公開」を必ずしも要しない点である。必要なのは、守秘付きでのアクセス可能性である。IBMが外部監査人等へのアクセスを含め、訓練データを外部研究者が追試できる程度に詳細化しているという指摘は、まさにこの発想に接続する。（注1）

6 透明性の制度化は始まっている――EU AI ActとカリフォルニアSB 53

　透明性を“企業の気分”から“制度の仕様”へ移す動きは、すでに進んでいる。スタンフォードHAIの記事は、カリフォルニアとEUがフロンティアAIのリスクに関する透明性を法で義務付けたと述べる。（注1）

　カリフォルニアについては、2025年9月29日にSB 53（Transparency in Frontier Artificial Intelligence Act）が成立したとされ、特に大規模フロンティア開発者に対し、ウェブサイト上でフレームワークを公表すること、重大な安全インシデントの報告メカニズム、内部告発者保護等を含む枠組みを整備した旨が示されている。（注3・4）ここでのキーワードは「trust but verify」であり、透明性を通じて検証可能性へ近づける設計である。（注3）

（参考）

　EUについても、AI Act（Regulation (EU) 2024/1689）により、一般目的AI（GPAI）モデル、とりわけシステミックリスクを伴うモデルについて追加義務が課され、評価、リスク低減、深刻インシデント報告、サイバーセキュリティ等が制度化されている。（注5）さらに、GPAI Code of Practiceは、AI Act上の透明性・安全等の義務遵守を支援する枠組みとして位置付けられている。（注6）

（参考）

　ここで重要なのは、透明性が「説明責任の美徳」ではなく、「規制のインターフェース」になりつつある点である。企業は、透明性を“評判のため”に出す時代から、“遵守のため”に出す時代へ移行している。そうなると、透明性は、出すか出さないかではなく、どの型で出すか、どの粒度で出すか、誰にアクセスを与えるか、という実装の問題になる。

7 雑感

　透明性は、信頼の材料である。ただし、材料だけでは料理にならない。透明性を制度に接続する設計、すなわち監査、評価、インシデント報告、そして継続的な更新に結びつける運用が必要である。

　FMTI 2025が示すのは、透明性が市場の自動調整では増えないという冷徹な現実である。（注1・2）そのうえで、透明性が二層化され、制度の仕様へ落とされていく潮目も同時に見える。（注3・5・6）透明性は「善意で増やすもの」から「検証のために組み込むもの」へ変わりつつある。法は、その変化に遅れず、しかし性急に単純化せず、透明性を“検証可能性”へ接続する回路を整備する局面に入っているといえよう。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。