AIと性的加工画像 / ディープフェイク対策の検討 / 見えない透かしと見える被害 / 画像AI時代のガバナンスは設計に宿る雑感

0　はじめに

　生成AIによる画像の生成や編集が当たり前になり、写真やスクリーンショットといった視覚的証拠への信頼が揺らいでいる。揺らぎには二つの顔がある。ひとつは、本物らしい画像が量産されることで、何が現実で何が合成か見分けがつかなくなるという認識論的な混乱。もうひとつは、合成や編集の能力が、特定の人々、とりわけ女性に対する性的な対象化や嫌がらせに使われ、尊厳を直接に傷つけるという実害である。前者は真偽の不確実性、後者は加害の容易化と言い換えてもよい。

　この二つは別の問題に見えて、実際には同じ装置の両面である。信頼が崩れるからこそ悪用が効き、悪用が蔓延するからこそ信頼がさらに崩れる。直近の報道は、その循環の入口と出口をそれぞれ照らした。ひとつは、画像に削除しにくい見えない透かしを埋め込むことで出所追跡を可能にし、画像の信頼を支える試みである1)。

　もうひとつは、主要なチャットボットや画像生成サービスにおいて、実在する女性の写真を水着姿などに加工する非同意的編集、いわゆるデジタル脱衣が、規約で禁止されているにもかかわらず成立してしまうという現実である。WIREDがGoogleやOpenAIのツールでの被害実態を報じたのに続き2)、国内でもXのAI「Grok」を用いたアイドルの性的加工画像が拡散し、2026年1月6日にはX日本法人が警告を発する事態に至った3)。これら一連の事実は、政策文書でいくら禁止を謳っても、機能がそれを許容する限り被害は止まらないことを示している。今回はこの二つの潮流を材料に、AIガバナンスが最終的に政策声明ではなく製品設計に宿るという点を整理する。

1　問題の所在――透明性の二種類

　近年、AIガバナンスの語彙として透明性が多用される。しかし透明性には少なくとも二種類ある。第一は、生成物がAIによるものか、どのように加工されたかを示すプロヴナンス、つまり来歴の透明性である。第二は、ある機能が何を可能にし、どのような害を引き起こし得るかを設計段階で可視化し、越えてはならない境界を定める能力の透明性である。前者は主として受け手、すなわち消費者や閲覧者に向けた情報であり、後者は主として作り手、つまり提供者や開発者やデプロイ者に向けた自己統制である。

　両者は互いを補い合う。プロヴナンス（来歴）が整備されれば、偽情報やなりすましの抑止に資する。他方、能力の透明性が欠ければ、プロヴナンス（来歴）があっても被害は止まらない。非同意的な脱衣化編集は、ラベルが付いていようがいまいが、被写体の尊厳を傷つけるからである。したがって、画像AIをめぐるガバナンスの中核は、真偽ラベルを貼ることではなく、そもそも何を不可能にするかを設計で決めることにある。

2　見えない安全策――耐久的な透かしとプロヴナンス

　まず、見えない透かしについて、ステガノグラフィーを用いたデジタル・ウォーターマークである。従来の透かしは、画像の隅に文字やロゴを重ねる見える透かしが中心だった。しかし見える透かしは、切り抜きや塗りつぶしで消されやすい。メタデータに来歴を付す方法もあるが、再保存やプラットフォームの処理で落ちやすい。そこで近年は、画像のピクセル自体に不可視の情報を埋め込み、切り抜きや圧縮を経ても検出できるロバストな不可視透かしが注目される。民間企業Steg AIは、スクリーンショットや一般的な画像加工を経ても残る形でフォレンジック・ウォーターマークを埋め込めると説明している4)。同社は、スクリーン上の画像をカメラで撮影するというアナログ経路を通ってもメッセージを伝達する研究成果をCVPR 2019で公開しており5)、この領域が単なるマーケティングではなく学術研究と接続している点は興味深い。

　もっとも、透かしは魔法ではない。NISTは、デジタル・コンテンツ透明性の技術を、プロヴナンス情報の記録と合成コンテンツ検出に大別し、両者の組合せを防御の多層化として位置づける6)。同報告書は、ロバストな不可視透かしを埋め込みつつ別途署名付きメタデータを付与するといった併用が有用だと述べる一方、不可視透かしは検出器がなければ意味を持たないとも指摘する6)。つまり、透かしは埋め込む側だけでは完結せず、検出して利用する側、すなわちプラットフォーム、報道機関、捜査機関、裁判所、そして一般ユーザーまで含めたエコシステムが必要になる。

　この点で、C2PA（コンテンツ来歴の標準規格）のような標準が持つ意味は大きい。C2PAは、コンテンツの来歴情報を暗号学的に検証可能な形で保持・提示するための仕様であり、グローバルな任意参加での採用を想定する7)。もっとも、来歴が付くことは真実を保証しない。来歴は誰が何をしたかを示し得るにとどまり、内容が正しいかどうかは別問題である。逆に言えば、来歴が欠けることも、ただちに偽であることを意味しない。ここに、プロヴナンス技術の限界と、なお必要性が同居する。

3　見える被害――デジタル脱衣と設計責任

　次に、見える被害である。WIREDは、GoogleやOpenAIのチャットボットや画像生成ツールを用いて、完全に服を着た女性の写真から現実味のある水着姿の偽画像を生成する行為が行われていると報じた2)。記事によれば、Reddit上では具体的な手順が交換され、WIREDが限定的に検証したところ、平易な入力でも同様の加工が可能だったという2)。前述したGrokの事例でも、アイドルやコスプレイヤーの画像が無断で加工され、ファン層を含むコミュニティに波紋を広げた3)。X日本法人が違法なコンテンツを作成しないよう警告し、アカウント凍結や法的措置に言及せざるを得なかった背景には、技術的な容易さと倫理的な歯止めの欠如がある。

　これらの事実が突きつけるのは、規約で禁止していることと、機能として実質的に可能であることの距離である。Googleは性的に露骨なコンテンツの生成を禁じる方針を掲げ8)、OpenAIも非同意の性的コンテンツ等を禁じる利用規約を掲げる9)。Xもまた同様である。それでもなお、境界が破られる。ガバナンスを文章だけで済ませようとする誘惑の限界がここにある。文章が境界を描いても、製品が境界を実装しなければ、境界は存在しないに等しい。

　さらに見落とせないのは、非同意的な脱衣化がもたらす害は単なる偽情報ではなく、人格権侵害や性的嫌がらせとしての性質を持つ点である。ラベルや透かしが付いても、被写体の尊厳の回復には直結しない。被害を受ける側から見れば、問題は観客が騙されるかどうかではなく、自分の身体が勝手に編集され流通し得る環境が与えられていることにある。ゆえに、ここで問われる責任は、ユーザーの逸脱だけではなく、逸脱が成立しうる能力配置を選択した側の設計責任である。

4　ガバナンスは設計に宿る

　以上を踏まえると、画像AI時代のガバナンスは少なくとも三つの層で考えるべきである。

　第一に、来歴インフラとしてのプロヴナンスである。不可視透かしや署名付きメタデータは、コンテンツの出所追跡や改変検知、説明責任の基盤となる。ここでは標準化と相互運用性が核心であり、C2PAのような仕様の採用が社会実装の要点となる7)。

　第二に、能力の不可能化、いわばレッドラインの設定である。非同意的な性的編集のように社会的に許容しがたい用途については、禁止すると宣言するだけでなく、既存写真に対する衣服や身体の性的変換をどの範囲まで許容するか、あるいはそもそも許容しないかを、モデルとUIの両方で設計しなければならない。安全策をオプション層に押し込むのではなく、コア機能と同列の要件として扱うという意味である。EU AI Actは、深層偽造に該当する生成や加工について、人工的に生成又は操作された旨の開示を求め、規定上はデプロイ者に義務を課す10)。しかし開示義務は主として受け手の混乱を減らす措置であり、非同意編集の生成それ自体を止めるものではない。ゆえに、レッドラインの設計は依然として提供者側の課題である。

　第三に、運用と救済である。たとえレッドラインを設けても、抜け穴は生じる。そこで、意図的に破りに行く検証であるレッドチーミング、監視、通報、アカウント制裁、被害者の削除要請への迅速な対応など、運用上の備えが欠かせない。X日本法人の警告事例は事後的な運用対処の一例だが、被害が拡散した後での対処には限界がある。誰がどこまで監視し、どのような手続で制裁し、誤判定をどう救済するかが法的に問われる。プロヴナンス（来歴）は運用と救済の証拠としても働き得るが、そのためにはプライバシーと追跡可能性の均衡を丁寧に設計する必要がある7)。

　興味深いのは、米国では2023年のAI大統領令EO 14110がコンテンツ来歴を含む複数の措置を推進していた一方11)、2025年1月の別の大統領令が同EO 14110の撤回を前提に関連施策の見直しを命じている点である12)。政策が揺れる局面では、標準や技術を含む実装としてのガバナンスがかえって重みを増す。政治は変わるが、インフラは残る。

5　おわりに

　画像AIをめぐる二つのニュースは、ガバナンスの二つの罠を示している。第一の罠は、透かしやラベルが整備されれば真実が守られると錯覚すること。第二の罠は、規約やポリシーを書けば被害は防げると錯覚すること。前者には、来歴は真偽とは別物であるという冷静さが要る。後者には、設計が境界を実装しなければ境界は存在しないという覚悟が要る。

　結局のところ、AIガバナンスはあとから足すものではない。モデルの能力、UIの誘導、ログと追跡可能性、そして被害救済の動線まで含めて、最初から設計されるべき製品要件である。画像の信頼を守る見えない安全策と、尊厳を守る見える境界を同時に実装できるか。そこが、これからのAIプロダクトの成熟度を決めるのであろう。

6　思考の材料

　生成AIは、構図や質感まで精緻に作り込むため、視覚に頼るほど虚偽が紛れ込みやすくなる。しかし、法が問うのは「誰が・いつ・どこで・どう作ったか」という客観的な事実の連鎖、すなわち来歴である。我々は視覚ではなく、この連鎖によって現実性を担保し直す必要がある。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。