AI ACTION PLANのうち、「Combat SyntheticMedia in the Legal System」（法制度における合成メディアへの対処）の検討
2025/7/24にリリースされた、America's AI Action Planから、「Combat Synthetic Media in the Legal System」のセクションをつまみ食い。このセクションは、AIの進展に伴うリーガルシステムへの影響、特にディープフェイクがもたらす影響について述べている部分です。まずは、対訳から。
対訳
Combat Synthetic Media in the Legal System
法制度における合成メディアへの対処
＜中略＞
In particular, AI-generated media may present novel challenges to the legal system.
特に、AIによって生成されたメディアは、法制度に新たな課題をもたらす可能性があります。
For example, fake evidence could be used to attempt to deny justice to both plaintiffs and defendants.
たとえば、偽の証拠が原告や被告のいずれにとっても正義を損なう目的で使用される恐れがあります。
The Administration must give the courts and law enforcement the tools they need to overcome these new challenges.
政権は、司法や法執行機関がこれらの新たな課題に対処するために必要な手段を提供しなければなりません。
Recommended Policy Actions
推奨される政策行動
• Led by NIST at DOC, consider developing NIST’s Guardians of Forensic Evidence deepfake evaluation program into a formal guideline and a companion voluntary forensic benchmark.
• 商務省のNIST主導で、「NIST’s Guardians of Forensic Evidence deepfake evaluation program」を正式なガイドラインおよび任意の法科学ベンチマークとして整備することを検討する。
• Led by the Department of Justice (DOJ), issue guidance to agencies that engage in adjudications to explore adopting a deepfake standard similar to the proposed Federal Rules of Evidence Rule 901(c) under consideration by the Advisory Committee on Evidence Rules.
• 司法省（DOJ）の主導で、裁判手続きを行う機関に対し、証拠規則諮問委員会が検討している連邦証拠規則901(c)案に類似したディープフェイク基準の採用を検討するようガイダンスを発出する。
• Led by DOJ’s Office of Legal Policy, file formal comments on any proposed deepfake-related additions to the Federal Rules of Evidence.
• 司法省法政策局主導で、連邦証拠規則へのディープフェイク関連追加案に対し正式な意見書を提出する。
Guardians of Forensic Evidence: Evaluating Analytic Systems Against AI‑Generated Deepfakes
上記で出てくる、Guardians of Forensic Evidence: Evaluating Analytic Systems Against AI‑Generated Deepfakesは、NIST（National Institute of Standards and Technology・米国国立標準技術研究所）のGuardians of Forensic Evidenceという文書にあるもので、AIによるディープフェイクを法廷証拠として扱う際に、その信頼性を検証するための評価プログラムです。詳しくはリンク先のスライド参照。
連邦証拠規則901(c)案
連邦証拠規則901(c)案は、ADVISORY COMMITTEE ON EVIDENCE RULESの2024年4月19日の審議録に記載されているもので、以下のようなものです。
901(c): Potentially Fabricated or Altered Electronic Evidence.
901(c)：捏造または改ざんされた可能性のある電子的証拠
If a party challenging the authenticity of computer-generated or other electronic evidence demonstrates to the court that it is more likely than not either fabricated, or altered in whole or in part,
コンピュータ生成またはその他の電子的証拠の真正性に異議を唱える当事者が、当該証拠が全体的または部分的に捏造もしくは改ざんされている可能性が高いことを裁判所に示した場合、
the evidence is admissible only if the proponent demonstrates that its probative value outweighs its prejudicial effect on the party challenging the evidence.
当該証拠は、提示者がそれによる証明力が異議申立人に対する不当な不利益を上回ることを示した場合に限り、証拠として認められます。
要するに、
1. ディープフェイクであると主張する異議申立人の側（当該証拠提出者の相手方）において、単に当該証拠がディープフェイクであると述べるだけでなく、その可能性が高いことまで裁判所に示す負担を負わせ、
2. 異議申立が成功した場合には、今度は証拠提出者側で、異議申立人に対する不当な不利益を上回ることを示す義務を課す
という二段構造になっています。これに関しては、１でディープフェイクである可能性が高いということになったら、証明力が認められるケース等あるのかという疑問が、翌年の2025年5月開催のADVISORY COMMITTEE ON EVIDENCE RULESでも指摘されています。
おわりに
ディープフェイクによる証拠偽造に関しては、AIの流行により急速に喫緊の課題となってしまいましたが、デジタル証拠の偽造に関してはディープフェイクにより突如生じたわけではなく、例えば、名古屋地裁令和4年10月5日判決の例等があります。
この判決の事案は、警察官が運転するパトカーと、私人が運転する貨物自動車との衝突事故で、被告側から、パトカーがサイレンを鳴らしていたことから、原告に過失があることを前提とした反訴が提起されており、その証拠として、被告側からドライブレコーダーが裁判所に提出されていました。
このドライブレコーダーについて、裁判所より「原告車両のドライブレコーダーの映像の音声データの周波数を検討すると、本件事故直前に、被告パトカーのサイレン音と同程度の周波数帯に音声が含まれているかが明らかではないこと、被告が提出したドライブレコーダーの映像のデータを見ると、音声データ部分のバイナリデータが極めて整っており、論理的に音声が入っていない可能性があること、緊急配備を開始し、捜査上の資料を保全し始めなければならないのに録音をしていなかったという点に疑問が残ること」が指摘され、音声解析や音声データを消去した可能性がないかの再検討等を求めたところ、被告パトカーのサイレンが鳴っていたとは認められないことを認め、反訴を取り下げたというものです。
このように、デジタル証拠の取扱いに関しては、既にディープフェイク類似の事案も発生しているところ、米国において、America's AI Action Planにより、その検討や対応がさらに加速することが見込まれる状況にあること、既に先行的な研究が連邦レベルで進んでいることなどは、参考になるのではないかと思われます。
このnoteでは引き続き、海外のデジタル証拠の取扱いと日本の動向について、時折取り上げていきたいと思っています。
