【論点】AIボットが「市民の声」を装うとき、日本版FARAはどう扱うべきか
▶︎日本版FARA全体の論点は、以下で体系的に整理している。
→ 外国代理人登録法（論点整理・まとめ）
1. その「市民の声」は、誰のための声か
SNSで、同じ方向の投稿が一斉に流れてくる。ある政策への反対、ある国への擁護、ある政治家や企業への攻撃、ある規制案への「国民の怒り」。
昨日まで誰も気にしていなかったニッチな法案に対して、タイムラインが突如として怒りの声で埋め尽くされる。
もちろん、それが本当に市民の声であることもある。政治的意見が自然に広がること自体は、民主社会にとって健全である。
問題は、実際には外国政府、外国政党、外国企業、外国団体などの関与があるにもかかわらず、それが見えないまま、あたかも国内の自然発生的な世論であるかのように流通する場合である。
生成AIは、この問題を一段厄介にした。短時間で大量の文章を作れる。ボットを使えば、多数のアカウントから同じ方向のメッセージを拡散できる。合成画像やディープフェイクを使えば、存在しない発言や出来事を、それらしく見せることもできる。
ただし、ここで誤解してはいけない。悪いのはAIではない。
翻訳、要約、下書き、画像編集、字幕作成にAIを使うことは、もはや普通の作業である。市民も、企業も、行政も、メディアも、研究者も、AIを使う。AIを使ったというだけで登録義務や規制の対象にすれば、通常の表現活動や政策参加まで萎縮する。
日本版FARAが問うべきなのは、「AIを使ったか」ではない。問うべきなのは、「誰のための影響活動なのか」である。
2. 日本版FARAが扱える範囲は限られる
この論点は、しばしばアストロターフィングの問題として語られる。アストロターフィングとは、草の根運動に見えるように設計された人工的・組織的な世論形成活動である。
ただし、アストロターフィング一般を日本版FARAで処理できるわけではない。国内企業、国内団体、国内政党、国内業界団体による世論演出は、外国影響力透明化制度の中心対象ではない。それらは、選挙法、広告規制、消費者法、プラットフォーム規制など、別の制度領域で扱うべき問題である。
日本版FARAが対象にできるのは、そのうち外国主体との関係がある部分に限られる。
したがって、制度設計の入口は、アストロターフィングかどうかではない。外国主体のための影響活動かどうかである。
3. なぜ今、この論点が問題になるのか
この論点は、抽象的な将来不安ではない。
すでに海外では、偽アカウント、AI生成コンテンツ、協調的な非真正行動を組み合わせた影響工作が観測されている。例えば、OpenAIは2024年5月、同社のAIサービスを用いた複数の秘密影響工作を停止したと公表した。その一つとして、中国系の影響工作ネットワークとされる活動が、福島第一原発の処理水放出をめぐり、日本を批判するコンテンツを生成・発信していたことが報告されている。
Microsoft Threat Analysis Centerも、Storm-1376と呼ばれる中国系影響工作ネットワークが、処理水放出をめぐって日本政府を批判し、国際原子力機関の評価に疑念を生じさせるような多言語キャンペーンを展開したと報告している。
この種の事案は、日本版FARAだけで捕捉できるものではない。むしろ、典型的には登録制度の外側で行われる覆面型の国家的影響工作である。背後の主体は名乗らない。代理人も登録しない。投稿や拡散は、偽アカウント、ボット、第三者媒体、匿名のオンラインネットワークを通じて行われる。
したがって、日本版FARAを、覆面工作を自動的に発見する探知装置として理解してはならない。
日本版FARAが担えるのは、探知された外国影響活動を制度上どのように位置付けるかである。外国主体との関係が明らかになったときに、誰が、誰のために、どのような活動を行ったのかを登録させ、表示させ、記録に残す。そのための受け皿を作ることに意味がある。
投稿内容が真実か虚偽かを国家が判定することではない。
アカウントを削除することでもない。
外国主体のために日本の政策形成へ影響を与える活動が行われる場合に、その関係、資金、目的、活動内容を見えるようにすることである。
4. 登録義務の入口は、外国主体との関係と政策形成への影響目的である
日本版FARAで登録義務の入口に置くべき要素は、二つである。
第一に、外国主体との関係である。外国政府、外国政党、外国企業、外国団体などの指示、要請、委託、資金提供、管理その他の実質的関与の下で活動しているか。
第二に、政策形成への影響目的である。単に世論一般に影響を与える活動ではなく、政策、法令、行政措置、選挙、議会活動、規制形成、外交・安全保障上の判断など、公的意思決定の形成、採択又は変更に影響を与える目的を有する活動かである。
この二つが基本である。
ここで「世論に影響を与える活動」とだけ書くと、射程が広がりすぎる。政治的言論の多くは、広い意味では世論に影響を与える。したがって、制度上問題にすべきなのは、世論一般ではなく、公的意思決定との結びつきを持つ影響活動である。
偽装性を登録義務の要件にしてはならない。FARA型規制の本質は、外国主体のために一定の影響活動をするなら、あらかじめ登録し、表示し、資料を保存せよ、という点にある。偽装しているかどうかは、登録義務の発生要件ではない。むしろ、開示義務が防止しようとしているリスクである。
同じ理由で、組織性・規模も登録義務の要件にすべきではない。一本のオピニオン記事、一人のインフルエンサーへの委託、一つの有力アカウントによる発信であっても、外国主体のために公的意思決定へ影響を与える目的で行われる活動であれば、制度上の問題になり得る。
組織性・規模は、登録義務の入口ではない。軽微除外、報告内容、執行優先順位を決める要素である。
順番を間違えてはならない。
AIから入ると、通常の表現活動を巻き込む。
広告から入ると、有償広告以外の影響工作を取り逃がす。
偽装性から入ると、不開示の活動を捕捉できない。
組織性・規模から入ると、一人の有力者を使った影響活動を取り逃がす。
世論一般から入ると、政治的言論を広く取り込みすぎる。
入口に置くべきなのは、外国主体との関係と、公的意思決定への影響目的である。
5. 外国主体を一括りにしてはならない
もっとも、「外国主体」と一括りにするだけでは粗すぎる。
外国政府そのものと、通常の外国企業、外国NPO、外国大学、外国メディア、外国個人を同じ重さで扱えば、制度は過剰に広がる。活動側を絞るだけでは足りない。主体側にも階層化が必要である。
英国FIRSは、この点で参考になる。同制度は、外国権力の指示に基づく政治的影響活動を登録対象とする政治的影響層と、指定された外国権力又は外国権力支配団体について、より広い活動を対象とする強化層という二層構造を採っている。つまり、主体側のリスクに応じて制度の重さを変えている。
日本版FARAでも、少なくとも次のような階層化を検討すべきである。
第一層は、外国政府、外国政党、外国政府機関、外国公的機関である。これらは、公的な外国権力そのものとして、最も透明化の必要性が高い。
第二層は、外国政府支配団体、国有企業、政府系シンクタンク、政府系メディアなどである。形式上は民間団体であっても、外国政府の支配又は強い影響下にある場合には、第一層に準じて扱う余地がある。
第三層は、通常の外国企業、外国NPO、外国大学、外国メディア、外国個人である。これらについては、外国性それ自体ではなく、具体的な指示、委託、資金提供、管理、政策形成への影響目的を慎重に見る必要がある。
主体側を階層化しなければ、制度は「外国っぽいもの」を広く疑う仕組みに見えてしまう。
日本版FARAに必要なのは、外国性そのものを疑う制度ではない。外国主体との関係が、公的意思決定への影響活動と結びつく場合に、その関係を透明化する制度である。
6. AI時代の本当の論点は「帰属」である
AI・ボットが新しくした問題は、「AIを使ったかどうか」ではない。より重要なのは、外国主体と活動者との関係が見えにくくなることである。
従来型の外国代理人登録制度は、基本的に、外国主体と活動者との関係を前提にしている。外国主体が依頼し、代理人が活動する。その関係があれば、登録義務を検討できる。
しかし、自動化された影響活動では、この関係が薄くなる。
外国主体が初期ナラティブだけを与える。
AIモデルやボット運用に資金を出す。
コンテンツ制作業者に素材を提供する。
第三者がそれを利用して拡散する。
さらに別のアカウント群が自動的に増幅する。
この場合、誰が外国主体のために活動しているのか。ボットを起動した者か。キャンペーンを設計した者か。資金を受けた業者か。合成メディアを作った者か。拡散したアカウント群か。
ここに、AI時代の本当の難しさがある。
米国FARAは、この問題を考える手がかりを持っている。22 U.S.C. § 611(c)は、外国本人の代理人について、外国本人自身の命令、要請、指示又は統制の下に行動する者だけでなく、外国本人により全部又は主要部分について監督、指示、統制、資金提供又は補助を受ける中間者の命令、要請、指示又は統制の下に行動する者も含めている。
この構造は重要である。
資金提供や補助は、外国主体との関係を判断するうえで重要な要素である。しかし、それだけで当然に代理人性が生じるわけではない。FARAの文理上、なお問題になるのは、外国本人又は外国資金により動く中間者の命令、要請、指示又は統制の下に行動しているかである。
したがって、FARAは「資金だけで帰属できる」制度ではない。
むしろ、ここにAI時代の空白が見える。外国主体が資金を出す。モデルやインフラを提供する。ナラティブの種をまく。しかし、個別の投稿や拡散については明示の指示をしない。このような場合、外国主体の関与は存在しても、FARA型の代理人性に必要な命令、要請、指示又は統制を認定できるとは限らない。
これは単なる条文解釈の細部ではない。
AI時代の外国影響活動では、資金提供と指揮統制が意図的に切り離される可能性がある。資金は出すが、命令はしない。素材は提供するが、投稿は任せる。方向性は示すが、個別の行為は自律的に拡散させる。
この場合、従来型の外国代理人登録制度は、最も重要な関係を捕まえにくくなる。
日本版FARAを設計する場合も、指示、要請、委託、資金提供、管理、実質的関与の関係をどう定義するかが重要になる。ただし、資金提供だけで広く登録義務を発生させると、研究助成、寄付、通常の商取引、メディア活動、学術活動まで過剰に取り込む危険がある。
資金提供を軽視すれば、AI時代の影響活動を取り逃がす。資金提供だけで足りるとすれば、正当な活動を巻き込む。
AI時代の帰属問題とは、この二つの危険の間で、どこに線を引くかという問題である。
7. 誰が登録するのか
登録義務を負うべき主体は、原則として外国主体そのものではない。日本国内で影響活動を行う代理人、受託者、PR会社、広告会社、ボット運用業者、コンテンツ制作業者、インフルエンサーなどである。
外国主体が日本の政策に関心を持つこと自体を禁止する制度ではない。外国主体のために日本国内で影響活動を行う者に、関係、資金、目的、活動内容を開示させる制度である。
AI・ボット文脈では、この主体特定が特に重要になる。
外国主体から委託を受けてオンラインキャンペーンを設計したPR会社。
外国資金で合成動画を作成した制作業者。
外国主体のために広告配信を運用した代理店。
報酬を受けて特定の政策論を拡散したインフルエンサー。
外国主体の指示又は要請の下でボットネットワークを運用した業者。
これらは、登録主体となり得る。
他方、単なるプラットフォーム事業者、クラウド提供者、決済事業者、通常の広告配信インフラ提供者は、活動の企画、制作、運用に実質的に関与しない限り、直ちに登録主体とすべきではない。
問題は、技術やインフラを提供したことではない。外国主体のための影響活動に実質的に関与したかどうかである。
8. FARA型の答えは、登録・表示・記録保存である
米国FARAは、AIやボットを直接定義しているわけではない。しかし、その基本構造はこの論点にも応用できる。
FARAは、外国本人の代理人が、米国内で政治的活動を行う場合、または広報顧問、宣伝代理人、情報サービス職員、政治顧問として活動する場合を登録対象に含めている。中心となるのは、22 U.S.C. § 611の定義規定である。
さらに重要なのが、22 U.S.C. § 614の表示義務である。外国本人の代理人が情報資料を頒布する場合、それが外国本人の代理人によるものであることを明らかにする。
この発想は、AI生成投稿、合成メディア、オンライン広告、組織的キャンペーンにも応用できる。
ただし、§614は探知のための制度ではない。登録義務を負う主体が情報資料を頒布する場合に、その出所を表示させる制度である。つまり、開示であって、検知ではない。
この点を誤解してはならない。
名乗って登録した者には表示義務をかけられる。しかし、覆面ボット網や匿名の自動拡散ネットワークが最初から登録しない場合、§614型の表示義務だけでは届かない。ここに、開示モデルの強みと限界が同時に現れる。
強みは、外国主体のために活動する者に、関係、資金、目的、活動内容を明らかにさせる点にある。限界は、意図的に隠れる主体を、それだけで発見できるわけではない点にある。
したがって、日本版FARAでも、基本線は登録、表示、記録保存でよい。ただし、それは覆面工作を自動的に暴く制度ではない。登録・表示制度と、プラットフォーム上の調査、資金の流れの把握、技術的帰属分析、国際協力とを接続して初めて、実効性を持つ。
9. 免除構造を置かなければ、制度は広がりすぎる
登録義務の入口を広く取るなら、免除規定は不可欠である。
この点でも、比較法は参考になる。FARA § 613は、外交官、外国政府職員の一定活動、私的・非政治的活動、真正な宗教・学術・科学・芸術活動、法律業務などについて免除規定を置いている。英国FIRSも、ニュース出版社、法律サービス、公的機関との関係などについて、一定の例外を設けている。
これは、単なる政策的配慮ではない。登録義務の入口を広く取る制度では、免除構造がなければ過剰包摂が生じるからである。
日本版FARAでも、少なくとも次の領域は慎重に切り戻す必要がある。
個人が自己の意見として行う小規模な活動。
AIを単なる補助ツールとして使う翻訳、要約、校正、下書き、字幕作成。
報道、論評、学術研究、教育、芸術、風刺、パロディ。
弁護士による通常の法律業務。
プラットフォーム、クラウド、決済、広告配信インフラの通常サービス。
外国メディアや外国政府機関が、自らの名義を明らかにして行う発信。
ただし、免除は無制限ではない。報道、研究、芸術、法律業務などの名目であっても、外国主体のための影響活動そのものを有償で企画・運用している場合まで当然に外すべきではない。
日本版FARAで重要なのは、構成要件を狭くしすぎて制度を空洞化させることではない。構成要件は制度目的に沿って置き、免除規定で正当な活動を切り戻すことである。
10. 日本にはすでに外国影響に対する禁止モデルがある
日本でこの制度を設計する場合、まず政治資金規正法との関係を整理する必要がある。政治資金規正法には、すでに外国影響に対する禁止モデルが存在するからである。
同法22条の5は、何人も、外国人、外国法人又はその主たる構成員が外国人若しくは外国法人である団体その他の組織から、政治活動に関する寄附を受けてはならないと定めている。ただし、5年以上継続して上場している日本法人等については、例外が置かれている。
これは、日本の政治資金制度が、外国からの資金的影響について、単なる開示ではなく禁止で応じていることを意味する。
この点は重要である。
日本は、外国影響をすべて開示で処理しているわけではない。政治活動に関する外国マネーについては、すでに禁止という強い手段を採っている。
しかし、政治資金規正法22条の5の入口は、寄附者の国籍、法人格、構成員という形式的属性である。これに対し、日本版FARA型制度の入口は、外国主体との関係、指示、委託、資金提供、政策形成への影響目的である。
つまり、両者は対象となる場面だけでなく、判定の軸が異なる。
政治資金規正法22条の5は、外国人、外国法人又は外国人・外国法人を主たる構成員とする団体等から、政治活動に関する寄附が入る場面を禁止する制度である。
これに対し、日本版FARAは、外国主体のために行われる政策的・世論的影響活動について、関係、資金、目的、活動内容を開示させる制度である。
この違いは、AI時代には決定的である。
例えば、日本人が過半数を占める日本のPR会社が、外国政府又は外国政府系団体から業務委託報酬を受け、日本国内でオンラインキャンペーン、インフルエンサー起用、合成メディア制作、政策論争への働きかけを行う場合を考える。
この場合、そのPR会社は、外国法人でも、外国人又は外国法人を主たる構成員とする団体でもない。また、受け取っているのは、政治団体や候補者への寄附ではなく、役務提供の対価である。したがって、政治資金規正法22条の5の禁止モデルだけでは、この関係を十分に捉えられない。
ここに、日本版FARAの位置がある。
日本版FARAは、国籍や所有構造だけを見る制度ではない。外国主体との関係に基づき、日本の政策形成へ影響を与える活動が行われているかを見る制度である。だからこそ、国内業者が外国資金で動く場合、政治資金規正法では見えにくい関係を、開示によって可視化できる。
したがって、両者は競合するのではない。
外国マネーが政治資金として入る場合には、政治資金規正法上の禁止モデルが問題になる。
国内業者が外国主体から委託を受け、政策形成へ影響を与える活動を行う場合には、日本版FARA型の開示モデルが問題になる。
日本版FARAが意味を持つのは、まさにこの領域である。すなわち、既存の政治資金規制では捉えにくい「国内業者×外国資金×政策影響活動」を、関係性の開示によって可視化する点にある。
もっとも、外国影響活動は政治資金の問題に限られない。選挙規制やプラットフォーム規制との接続も、別途整理する必要がある。
11. EU型禁止モデルは、日本では例外として考える
もっとも、すべてを開示で処理できるわけではない。
EU AI Actは、一定のAI生成・操作コンテンツについて透明性義務を置く。ただし、これは外国影響力規制そのものではなく、AI生成コンテンツ一般に関する水平的な透明性規制である。
他方、EU政治広告透明性規則は、政治広告のスポンサー、費用、ターゲティング等の透明性を定めるだけでなく、選挙・国民投票前の一定期間について、第三国スポンサーによる政治広告を制限する仕組みを含む。ここでは、単なる開示ではなく、外国出所の政治広告に対する禁止モデルが現れている。
この点は、日本版FARAを考えるうえで重要である。
開示義務は、表現の内容を直接禁止しない。そのため、表現の自由との関係では、禁止よりも正当化しやすい。他方、外国スポンサー広告の禁止は、話者属性に基づく表現制限であり、より強い正当化を要する。
日本では、開示を原則とし、禁止は例外として考えるべきである。
選挙直前の外国スポンサー広告のように、時期、対象、影響の集中性が高く、開示だけでは足りない場面については、公職選挙法その他の別制度で、例外的な禁止・制限を検討する余地がある。
しかし、日本版FARAそのものを広範な禁止制度として設計すべきではない。日本版FARAの中心は、あくまで外国主体のための影響活動を透明化することに置くべきである。
12. 公職選挙法・プラットフォーム規制との接続
日本版FARAは、公職選挙法や情報流通プラットフォーム対処法等の代替ではない。政治資金規正法との関係は前章で述べたとおりであり、ここでは、選挙規制とプラットフォーム規制との役割分担を整理する。
まず、公職選挙法は、選挙運動、候補者、政党、選挙期間中の活動に関する規律を中心とする。選挙期間中のオンライン広告、候補者に関する合成メディア、選挙運動としてのSNS発信などは、公職選挙法との接続が問題になる。
また、外国主体が選挙期間中に候補者又は政党に直接関わる活動を行う場合には、公職選挙法上の個別規制に加え、外国人の政治活動の自由の限界との関係も問題になり得る。
しかし、外国主体による影響活動は、選挙期間中の選挙運動に限られない。政策論争、行政規制、立法過程、外交・安全保障上の議論、世論形成への働きかけは、選挙期間外にも行われる。公職選挙法だけでは、これらの平時の政策形成過程における外国影響活動を十分に捉えることは難しい。
次に、情報流通プラットフォーム対処法その他のプラットフォーム規制は、違法・有害情報、誹謗中傷、送信防止措置、透明性確保などを中心に扱う。そこでは、投稿内容、削除対応、通報、アカウント対応、プラットフォーム事業者の運用透明性が主な焦点となる。
これに対し、日本版FARAが担うべきなのは、投稿内容の真偽判定や削除ではない。選挙期間に限られない政策形成過程において、外国主体のために行われる影響活動の関係、資金、目的、活動内容を開示させることである。
この整理を誤ると、日本版FARAは、選挙法、プラットフォーム規制、偽情報対策をすべて背負う制度に見えてしまう。それは制度を重くしすぎる。
日本版FARAは、外国影響を何でも処理する制度ではない。既存制度では届きにくい、外国主体のための政策的・世論的影響活動を可視化する制度である。
13. 残る課題は、執行可能性である
登録・表示義務を置くだけで問題が解決するわけではない。
覆面の自動影響工作では、そもそも誰が背後にいるのかが分からない。外国主体との関係を検知するには、プラットフォーム上のデータ、広告購入履歴、アカウント間の連動、資金の流れ、ドメイン登録、技術的帰属分析などが必要になる。
この点は、日本版FARAだけで完結しない。プラットフォーム規制、選挙制度、サイバーセキュリティ、捜査機関の権限、国際協力と接続する。
このことは、第3章で触れたような覆面型の影響工作を考えると明らかである。偽アカウントやAI生成コンテンツを用いる国家的影響工作は、通常、登録制度の外側で行われる。登録制度は、それ自体でStorm-1376型の覆面ネットワークを発見する装置ではない。
しかし、だからといって登録制度に意味がないわけではない。
登録制度は、探知の装置ではなく、探知された関係を制度上受け止める装置である。プラットフォーム調査、報道、研究者の分析、捜査、国際協力によって外国主体との関係が明らかになったとき、その活動を登録義務違反として評価し、関係、資金、目的、活動内容を記録に残すことができる。
ここで、開示制度への古典的な批判が生じる。すなわち、正直に登録する主体だけにコストを課し、最も危険な覆面主体を取り逃がすのではないか、という批判である。
この批判は重い。しかし、それでも開示制度には意味がある。
第一に、開示制度は基準線を作る。外国主体のために政策形成へ影響を与える活動を行うなら、その関係を明らかにすべきであるという規範を制度化する。
第二に、開示制度は、表の活動から裏の活動へ移るコストを上げる。登録すれば活動できるのに、あえて登録しない場合、その不開示自体が調査や制裁の対象になり得る。
第三に、開示制度は、他制度による探知が成功したときの法的フックになる。プラットフォーム調査、資金調査、報道、研究者による分析により外国主体との関係が明らかになった場合、登録義務違反として処理できる。
第四に、開示制度は、記者、研究者、市民、行政、国会が追跡できる記録を作る。登録情報、契約関係、資金、活動内容が公開されれば、政策形成過程の可視性は高まる。
したがって、日本版FARAは、覆面工作を単独で発見する万能装置ではない。しかし、発見された外国影響活動を制度的に位置付け、記録し、説明責任を課すための基盤にはなる。
この限界を認めることは、制度の弱さではない。むしろ、制度の役割を明確にするために必要である。
日本版FARAは、偽情報対策法でも、AI規制法でも、プラットフォーム監督法でもない。外国主体のための影響活動について、関係、資金、目的、活動内容を可視化する制度である。
14. 結論――AIを止めるのではなく、外国主体の影響活動に名札を付ける
AI時代の日本版FARAで問うべきなのは、「偽装しているか」ではない。
問うべきなのは、外国主体のために、日本の政策、法令、行政措置、選挙、世論に影響を与える活動をしているかである。そうであれば、偽装していようがいまいが、登録し、表示し、記録を残す。これが開示中心構造の基本である。
AIを使ったから登録させるのではない。
外国主体のための影響活動だから登録させる。
合成メディアだから禁止するのではない。
誰のための発信かを見えるようにする。
偽装しているから規制するのではない。
偽装を無意味にするために、最初から開示させる。
民主主義にとって危険なのは、外国の意見が入ってくること自体ではない。危険なのは、それが誰のための声なのか分からないまま、国内世論として流通することである。
日本版FARAに求められるのは、AIを止める制度ではない。外国主体のための影響活動に、誰のための活動なのかという名札を付ける制度である。
その名札を、誰に、どの活動について、どのような方法で付けさせるのか。AI時代の外国影響力透明化制度は、そこから設計しなければならない。
