見出し画像

AIで作ったら「AI製」と書かないと違法？　8月2日から始まるルールの範囲を確かめる

AIショートカット部

「AIで作ったものにAI製と表示しないと違法になる」

そういう見出しを、この数週間で何度か見た。
制裁金の上限は1,500万ユーロ、企業なら前年度の全世界売上高の3%との比較で決まる（中小企業には別の上限調整がある）。
数字だけ見ると、資料をAIに下書きさせている人間はもれなく身構えることになる。

構えたまま一次情報を読むと、話の形がかなり違って見えてくる。
表示や検出の仕組みを整える義務は、主にAIを提供する会社の側に置かれている。
使う側にかかる部分は、思っているより狭い。

ただし狭いというだけで、ゼロではない。
どこまでが自分の話で、どこからが会社の話なのか。
そこを分けておかないと、必要のない対応に時間を使うか、逆に必要な開示を落とすことになる。

8月2日に始まるのは何か

2026年8月2日から、EUのAI法の透明性義務が適用される。

正確には、AI法そのものがこの日に施行されるわけではない。
この法律は段階的に適用されていて、8月2日に始まるのは第50条の透明性義務にあたる部分である。

そして第50条は、義務の相手を二つに分けている。
プロバイダー（AIシステムを提供する側）と、デプロイヤー（自らの権限のもとでAIシステムを使う側）である。

この二つを混ぜて読むと、見出しのような理解になる。

提供する会社に置かれた義務

プロバイダー側で中心になるのは、次の二つである。

対話の明示：人がAIと直接やり取りしていることを明らかにする。
機械可読マーキング：生成した画像や音声、動画、テキストに、機械が読み取れる形で「人工的に生成・操作されたもの」という印を付け、検出できるようにする。

つまり、生成物に印を仕込む仕組みを作る責任は、そのAIを世に出している側にある。
一般のエンドユーザーが、生成のたびに自分で機械可読マークを埋め込むことを求める義務ではない。
ただし、自社の名前でAIシステムを市場に出しているなど、使う側が同時にプロバイダーにも当たる場合は別に確認が要る。

通知や表示のやり方には、第50条(5)の共通条件もかかる。
遅くとも最初の接触時までに、明確で識別できる方法で示し、アクセシビリティの要件を満たすこと。

なお、2026年8月2日より前に市場に出ていたAIシステムに限っては、このマーキング義務の適用が2026年12月2日からになる。

使う側にかかるのは何か

デプロイヤー側の義務は、第50条の(3)と(4)に置かれている。

(3)は、感情認識システムや生体分類システムを使う場合に、対象となる人へ通知するというものである。
会議の様子や採用面接、接客を分析するような使い方をしていれば関係するが、資料や記事、動画を作る作業には通常かかってこない。

普通のコンテンツ制作で確認することになるのは、(4)の二つである。

一つめが、ディープフェイクの開示。
二つめが、公共の利益に関する事項について公衆に知らせる目的で公開する、AI生成テキストの開示である。

ディープフェイクは「AIで作ったものすべて」ではない

ここで、範囲を広げすぎないほうがいい。

ディープフェイクに当たるには、次の三つをすべて満たす必要がある。

  1. 生成・改変された内容と、その対象との類似性が高いこと

  2. 対象が、現実に存在する、存在し得る、または存在し得た人物、物、場所、主体、出来事であること

  3. 見る人に、本物または真実だと誤認させ得る外観を持つこと

AIで生成した画像や音声、動画がすべてこれに当たるわけではない。
明らかに架空のキャラクターが動いているだけの映像は、この条件を満たさない。
一方、実在の人物がしていない発言をしたように見せ、その内容が本物だと誤認され得る動画は、要件を満たす可能性が高い。

文章のほうには免除がある

二つめの、AI生成テキストの開示。
こちらには例外が置かれていて、しかもこの例外は義務の有無をひっくり返す。

内容を判断できる人が実質的にレビューするか、実効的な編集統制があり、かつ公開について編集責任を負う人か法人が存在する場合、開示は不要とされている。

ただし、この「レビュー」の水準は低くない。
対象分野の知識と職業的な判断が求められ、事実確認や情報源の信頼性の確認まで含む想定になっている。
スペルチェックを通しただけでは足りない。

編集責任のほうも、担当者が社内にいるという話ではなく、公開に対する最終的な責任を指す。

自分が対象になるかどうかの線引き

範囲を確かめるうえで、実務的に効いてくる軸が二つある。

一つめは、その利用が仕事なのかどうか。
純粋に個人的で非職業的な活動は、対象から外れる。

ただし、ここは読み違えやすい。
継続的に経済的利益を得ている活動、あるいは業務や職業、フリーランスの活動に関わる場合は、職業的活動として扱われる。
無収益なら自動的に対象外になる、という線ではない。
会社の業務で資料を作っているなら、そこから収益が直接立っていなくても仕事の側である。

二つめは、その成果物がEUで使われるかどうか。
域外適用の条件は、出力がEU内で使用される場合と定められている。

日本にいるから関係ない、と言い切れるかというと、そうでもない。
EUの拠点や顧客に納品する資料、EU向けのサイトやキャンペーンで使う生成物は、日本から作っていても対象になりうる。

この二つは、まず適用範囲に入るかどうかを確かめる入口である。
両方を確認したうえで、使っているシステムや公開する内容が第50条の個別の要件に当たるかどうかを、別に見ることになる。

日本の側はどうなっているか

日本には、すべてのAI生成物に一律で表示を求める一般ルールが現時点でない。

ただ、ここで「日本には法律がない」と締めてしまうと事実を外す。
分野を限れば、すでに成立しているものがある。

改正公職選挙法では、インターネット等で頒布される文書図画のうち、選挙運動に使うものと、一定期間中に当選を得させないための活動に使うものが対象になる。
その中にAIで作成・改変された画像または映像が掲載されていて、実際に撮影したものと誤認されるおそれがある場合、表示が義務づけられる。
義務を負うのは、その文書図画をインターネット等で頒布する者である。
軽微な改変や、撮影物と誤認されるおそれがないものは除かれる。
施行は2027年3月1日で、2027年の統一地方選から適用される見込みとされている。

選挙運動の動画を作る予定がある人は、2027年3月1日以後に公示・告示される選挙に向けて確認が必要になる。

法律より先に効いているもの

日本で動画や記事を出している人にとって、いま実際に効いているのは掲載先の規約のほうである。

YouTubeの場合、開示が必要なのは、AIで生成・大幅改変されていて、なおかつ写真のようにリアルに見えるコンテンツである。
実在の人物が実際にはしていない発言や行動をしているように見せる、実際の出来事や場所の映像を改変する、といったものが該当する。

逆に、開示が不要とされているものもはっきり書かれている。
明らかなフィクション。
美顔フィルタや色調整、背景のぼかし。
そして、台本の作成やサムネイルの生成といった制作支援である。

AIに構成を書かせた、サムネイルをAIで作った。
この二つは、YouTubeの基準では開示の対象に入らない。
ただし、サムネイルとは別に動画本編そのものが開示の要件に当たる場合まで、不要になるわけではない。

繰り返し意図的に開示しなかった場合には、ラベルが手動で適用される、コンテンツが削除される、パートナープログラムの参加が停止されるといった措置がありうるとされている。

早見表

一次情報

制裁金の数字だけを見て身構えていたところから始めて、確かめる先が四つに分かれた。
提供元がやること、自分がやること、日本の分野別のルール、そして掲載先の規約である。

このうち、今日から手を付けられるものはいくつかある。
動画や記事を出しているなら、投稿画面の開示設定。
仕事で使っているなら、自分がどの立場で使っていて、対象になる生成物なのか、レビューと公開責任の体制があるのか。

制度の側は、まだ形が動いている。
EU側は8月2日に適用が始まり、既存システムのマーキング義務に限った猶予が12月2日に切れる。
日本側は2027年3月に選挙分野が動く。
そのときにまた確かめ直すことになる。

※この記事は一般的な情報の整理であり、個別の案件に対する法的助言ではありません。判断に迷う場合は専門家や社内の法務にご確認ください。

いいなと思ったら応援しよう！