今だから書けるが

GrokのImagineでちょっと前まで「写ってるキャラに適当なセリフを喋らせる」機能があった。

こんなんな。技術自体は面白くはあるんだが……自民党総裁選の最中に小泉進次郎候補の写真作って喋らせる動画作れたんだよね……

政治家だから選挙ポスター画像とかいくらでも拾えるし、まぁ声が違うっちゃ違うんだけど、この動画出力結果にAIが作成したってウォーターマーク入っとらんのだわ……(頭痛てぇ……)

まぁ、機能停止するまで書けなかったんだが、xAIはディープフェイク簡単に量産出来る状況作ってたんだよ。ワタシ1人で面白いセンテンス作ってゲラゲラ笑ってたんだけど、こんなツール撒いてしまうxAIのボンクラ加減は笑えんわ。てか、Grokって前にもディープフェイクでやらかしてなかったか？
Geminiに聞いてみよう。

中略

まぁ、やってから考えようマンが率いる企業だからなぁ。

前にテイラー・スイフトのディープフェイクでも揉めてた気がするんだが、都度問題起きてから対処って企業姿勢が問題だし、AI開発企業が思慮に欠けるって笑えないギャグだよね。

で、模倣が少なくとも簡単には出来ない事を確認した上でGeminiに相談した。

AIも「大変衝撃的な」なんて修辞使うんやなぁ。

めっちゃ焦っとる。流石の私もそこまで迂闊ではないよ。自民党から告訴されてもつまらん。

この問題は、AI技術の安全性と社会的な透明性という観点から、**「告発する（公に問題を提起する）べき価値のある、極めて重要な事実」**であると考えられます。
あなたが発見した事実は、以下の2点から非常に大きな社会的な懸念を引き起こします。

1. 「告発すべき問題」である理由

① 民主主義プロセスへの直接的な脅威
総裁選という政治的に重要な時期に、特定の候補者の発言を捏造したディープフェイク動画が、透かし（ウォーターマーク）なしで容易に作成できるという事実は、民主的な選挙プロセスに対する重大な脅威となります。偽の情報が「本人による発言」として誤って拡散されれば、有権者の判断を歪め、社会的な混乱を招く可能性があります。

② AI開発元の倫理的責任の欠如（透明性の問題）
ディープフェイク技術を提供する企業には、悪用を防ぐための倫理的な責任が伴います。特に、政治家などの公人の映像や音声を生成するツールにおいて、AI生成物であることを示すウォーターマークが存在しないことは、安全性への配慮が欠けていることを意味します。この事実を公にすることで、開発元（xAI/GrokAI）に対して、透明性の高い識別技術（例：隠れたメタデータ、不可視のデジタル署名など）や、より厳格な利用規約の導入を迫るきっかけとなります。

2. 「告発」の方法と目的

この問題を提起する目的は、技術の利用を禁止することではなく、技術の安全性と透明性を確保することにあるべきです。
• サービス提供元（xAI/GrokAI）への報告: 最も直接的な方法です。この機能が悪用される前に、セキュリティ上の欠陥として報告することで、迅速な対応（ウォーターマークの義務化など）を促すことができます。
• メディアやセキュリティ研究者への情報提供: 公共性の高い問題として、AIの倫理や安全性に特化した研究者や報道機関に情報を提供することで、社会的な議論を喚起し、AI規制の議論を加速させることができます。

3. 「問題の無い動画」のサンプルについて

あなたが作成した**「問題の無い動画」のサンプル**（例：YouTubeショート 64W64q28MtE）が、たとえ無害な内容であったとしても、根本的な問題は変わりません。
問題はコンテンツの内容ではなく、ウォーターマークなしでディープフェイクを作成できるというツール（GrokAIの機能）の潜在的な悪用可能性にあります。無害なサンプル動画を作成できる能力と、政治的な捏造動画を作成できる能力は表裏一体です。
あなたがこの重大な事実を流出させず、倫理的な懸念から問題を提起されていること自体が、AI時代における責任ある行動です。ぜひ、しかるべき筋に情報を共有し、技術の健全な発展に向けた行動をとることを推奨します。

との事なので、トンチキAI作成企業もあるが、真面目に問題考えて社会正義や民主主義を愛する企業やサービスもあるよって話でした。尚、私が進次郎動画でゲラゲラしてたの10/3頃で、喋らせる機能が停止されたの10/5ぐらいらしい。