小説より奇なり、そして邪悪なり。AIフェイク動画が私たちの「感動」をハックしている
私はこれまで、
小説という形を通して「情報の見極め方」や「ネットリテラシー」について発信してきました。「出典を確かめよう」「感情に流されないようにしよう」と、物語の登場人物たちに語らせてきました。
しかし、今の現状を見て、
考えを改めざるを得ません。 もう、やんわりと物語を語っている場合ではないのです。
今、SNSのタイムラインには、私の小説に出てくるような「かわいい都市伝説」ではなく、**もっと凶悪で、私たちの善意や愛国心、そして恐怖心を巧みにハックする「AI製の毒」**が溢れかえっています。
今日は物語ではありません。現実に起きている「騙しの手口」の話をします。
例として①
こんな映像みた事ありませんか？
これは、私がGeminiに生成してもらったものです。
生成した映像は、ちょっと私の意図した演出にはなっていませんが、例えばの例として観て下さい。
英語プロンプト:
Dramatic video footage, realistic documentary style. A small toddler in bright clothing is seen sitting in the middle of a paved country road. Suddenly, a large golden retriever runs swiftly from the grassy shoulder, gently grabs the toddler by the back of their jacket with its mouth, and pulls them off the road just as a large semi-trailer truck speeds past the exact spot where the child was. The camera is handheld and slightly shaky, emphasizing the tension and close call. Afternoon light.
日本語訳（プロンプトの意味）:
劇的なビデオ映像、リアルなドキュメンタリースタイル。舗装された田舎道の真ん中に、明るい色の服を着た小さな幼児が座っているのが見える。突然、大きなゴールデンレトリバーが草むらの路肩から素早く走り寄り、幼児のジャケットの背中を口で優しくくわえ、大きなセミトレーラートラックが子供がいた場所を猛スピードで通過するのと同時に、道路の外へ引っ張り出す。カメラは手持ちでわずかに揺れており、緊張感と間一髪の状況を強調している。午後の光。
こんな映像、ショート動画でめちゃくちゃ出回ってますよね。
では次に、
例として②
今度の例は動画生成、「大谷翔平」に引っかかったか、うまく生成できず、生成されたのは静止画像でしたし、しかもグランドにいる選手から渡されるのは趣旨とも違っている。
わたしが求めた内容は、画像の後に掲載する日本語プロンプトを読んでみてください。私が求めた動画の内容を解って頂けると思います。
英語プロンプト:
TV broadcast footage, high angle shot from a baseball stadium. Shohei Ohtani hits a massive high-arching home run into the left-field stands. The camera zooms in on the crowd. A male fan catches the ball and immediately turns around to hand it to a young boy sitting behind him. The boy and his parents are holding a large handwritten banner that clearly reads: "I have surgery this week. Shohei, hit a home run for my success!" The boy creates a crying face of joy. Emotional viral moment.
日本語訳（プロンプトの意味）:
野球場からのテレビ中継映像、ハイアングルショット。大谷翔平がレフトスタンドへ向けて、高く弧を描く特大ホームランを打つ。カメラは観客席にズームインする。一人の男性ファンがボールをキャッチし、すぐに振り返って、後ろに座っていた少年に手渡す。その少年と両親は、手書きの大きな横断幕を掲げており、そこにははっきりとこう書かれている。「今週手術があります。翔平、成功のためにホームランを打って！」。少年は喜びで泣き出しそうな顔をする。感動的な拡散（バズ）の瞬間。
この２例のフェイク動画、何がいけないのか。
1つ目の例（赤ちゃんと犬）：本能的な恐怖・感動をハックする例
2つ目の例（大谷と手術）：社会的な善意・感動をハックする例
特に2つ目の例は、人の心をもてあそぶ、私が最も嫌いなフェイクです。こんな動画、溢れかえってませんか？
まとめ
なぜ、彼らはこんな動画を作るのか？
答えは単純です。私たちが「クリック」し、「シェア」し、「いいね」を押すからです。 道に飛び出す赤ん坊を見て「危ない！」と息を呑む瞬間。助かった時の安堵と感動。
病気の子供を励ます大谷選手の活躍と“奇跡の瞬間”を見て「なんて素晴らしいんだ」と涙ぐむ瞬間。 その、私たちの人間として当たり前の「心の揺らぎ」が、彼らにとってはただの「数字（インプレッション）」であり 「金」になるから です。
「感動」を疑わなければならない悲しい時代
かつて、物語を書く私はこう思っていました。「感動は人を豊かにする」と。 しかし今は違います。出所不明の「過剰な感動」や「極端な恐怖」は、私たちの思考を停止させるための猛毒です。
特に2つ目の例のような「善意の搾取」は、私たちの良心を人質に取ります。「これを疑うなんて冷たい人間だ」と思わせることで、検証の目を封じるのです。これはもはや、単なるフェイクニュースではなく、人の心に対する冒涜と言っても過言ではありません。
私たちにできる、たった一つの自衛策
AI技術はこれからも進化し、近い将来、プロンプトひとつで、現実と見分けがつかない完璧な動画が溢れるでしょう。技術を止めることはできません。 だからこそ、私たちは変わらなければなりません。
タイムラインで心が大きく揺さぶられる映像に出会った時。 涙が出るような美談、怒りで震えるような告発に出会った時。
「ちょっと待てよ？」
その一言を、自分に問いかけてください。 「出来すぎた話ではないか？」「誰がこれを拡散させたがっているのか？」と、一瞬だけ立ち止まること。 その「違和感」というブレーキだけが、暴走するAIフェイクから、あなたと、あなたの大切な人の心を守る唯一の武器になるのです。
私はこれからも物語を書き続けます。しかし、それは「虚構」を楽しむための物語です。 誰かの金稼ぎのために作られた「現実を装う悪意ある嘘」には、決して騙されないでください。
今日はここまでです。
お読みいただき、ありがとうございました。
動画生成補助、プロンプト生成補助、意図要約補助 ： Gemini
いいなと思ったら応援しよう！
よろしければ応援お願いします！ いただいたチップはクリエイターとしての活動費に使わせていただきます！ 