ディープフェイク
Deepfake
☆ディープフェイク[Deepfakes]
（「ディープラーニング」と「フェイク」を組み合わせた造語[1]）とは、人工知能、AIベースのツール、または映像・音声編集ソフトを用いて編集または
生成された画像、動画、音声のことである。実在の人物や架空の人物を描くこともあり、合成メディアの一種と見なされている。つまり、通常、人工知能システ
ムが様々なメディア要素を組み合わせて新たなメディア作品として生成するものである[2]。[3]
偽のコンテンツを作成する行為自体は目新しいものではないが、ディープフェイクは機械学習や人工知能の技術を独自に活用している[4][5][6]。これ
には、顔認識アルゴリズムや、変分オートエンコーダーや生成対立ネットワーク（GAN）などの人工ニューラルネットワークが含まれる[5][7]。これに
対し、司法の分野では、改ざんされた画像を検出するための技術開発が進められてきた。[8]
ディープフェイクは、児童性的虐待素材、有名人のポルノ動画、リベンジポルノ、フェイクニュース、デマ、いじめ、金融詐欺の作成に悪用される可能性から、
広く注目を集めている。[9][10][11][12]
学者たちは、ディープフェイクが偽情報やヘイトスピーチを助長する可能性[13]、および選挙に干渉する可能性[14]について懸念を表明している。これ
に対し、IT業界や各国政府は、ディープフェイクを検知し、その悪用を軽減するための提言や手法を提案している。学術研究においても、オンライン上での
ディープフェイクへの関与を促す要因や、ディープフェイクの悪用に対する潜在的な対策について、より深く掘り下げられている。
従来のエンターテインメントからゲームに至るまで、ディープフェイク技術はますます説得力のあるものへと進化し[15]、一般にも利用可能となったこと
で、エンターテインメント業界やメディア業界に混乱をもたらしている[16]。
| Deepfakes (a
portmanteau of 'deep learning' and 'fake'[1]) are images, videos, or
audio that have been edited or generated using artificial intelligence,
AI-based tools or audio-video editing software. They may depict real or
fictional people and are considered a form of synthetic media, that is
media that is usually created by artificial intelligence systems by
combining various media elements into a new media artifact.[2][3] While the act of creating fake content is not new, deepfakes uniquely leverage machine learning and artificial intelligence techniques,[4][5][6] including facial recognition algorithms and artificial neural networks such as variational autoencoders and generative adversarial networks (GANs).[5][7] In turn, the field of image forensics has worked to develop techniques to detect manipulated images.[8] Deepfakes have garnered widespread attention for their potential use in creating child sexual abuse material, celebrity pornographic videos, revenge porn, fake news, hoaxes, bullying, and financial fraud.[9][10][11][12] Academics have raised concerns about the potential for deepfakes to promote disinformation and hate speech,[13] as well as interfere with elections.[14] In response, the information technology industry and governments have proposed recommendations and methods to detect and mitigate their use. Academic research has also delved deeper into the factors driving deepfake engagement online as well as potential countermeasures to malicious application of deepfakes. From traditional entertainment to gaming, deepfake technology has evolved to be increasingly convincing[15] and available to the public, allowing for the disruption of the entertainment and media industries.[16]  |
ディープフェイク[Deepfakes]（「ディープラーニング」と「フェイク」を組み合わせ
た造語[1]）とは、人工知能、AIベースのツール、または映像・音声編集ソフトを用いて編集または生成された画像、動画、音声のことである。実在の人物
や架空の人物を描くこともあり、合成メディアの一種と見なされている。つまり、通常、人工知能システムが様々なメディア要素を組み合わせて新たなメディア
作品として生成するものである[2]。[3] 偽のコンテンツを作成する行為自体は目新しいものではないが、ディープフェイクは機械学習や人工知能の技術を独自に活用している[4][5][6]。これ には、顔認識アルゴリズムや、変分オートエンコーダーや生成対立ネットワーク（GAN）などの人工ニューラルネットワークが含まれる[5][7]。これに 対し、司法の分野では、改ざんされた画像を検出するための技術開発が進められてきた。[8] ディープフェイクは、児童性的虐待素材、有名人のポルノ動画、リベンジポルノ、フェイクニュース、デマ、いじめ、金融詐欺の作成に悪用される可能性から、 広く注目を集めている。[9][10][11][12] 学者たちは、ディープフェイクが偽情報やヘイトスピーチを助長する可能性[13]、および選挙に干渉する可能性[14]について懸念を表明している。これ に対し、IT業界や各国政府は、ディープフェイクを検知し、その悪用を軽減するための提言や手法を提案している。学術研究においても、オンライン上での ディープフェイクへの関与を促す要因や、ディープフェイクの悪用に対する潜在的な対策について、より深く掘り下げられている。 従来のエンターテインメントからゲームに至るまで、ディープフェイク技術はますます説得力のあるものへと進化し[15]、一般にも利用可能となったこと で、エンターテインメント業界やメディア業界に混乱をもたらしている[16]。 |
| History Photo manipulation was developed in the 19th century and soon applied to motion pictures. Technology steadily improved during the 20th century, and more quickly with the advent of digital video. Deepfake technology has been developed by researchers at academic institutions beginning in the 1990s, and later by amateurs in online communities.[17][18] More recently, the methods have been adopted by industry.[19][1] The development of generative adversarial networks (GANs) in the mid-2010s represented a key technical turning point in the evolution of deepfakes. GANs allowed for the creation of highly realistic fake images and videos by training competing neural networks, achieving a much improved visual fidelity over previous methods of creating the content using rules or by using autoencoders, and formed the basis for modern deepfake methods.[20][21] |
歴史 写真加工技術は19世紀に開発され、すぐに映画にも応用された。20世紀を通じて技術は着実に進歩し、デジタルビデオの登場とともにそのペースはさらに加速した。 ディープフェイク技術は、1990年代から学術機関の研究者によって開発され、その後、オンラインコミュニティのアマチュアたちによって発展した。[17][18] 近年では、この手法が産業界にも採用されている。[19][1] 2010年代半ばにおける生成対立ネットワーク（GAN）の開発は、ディープフェイクの進化における重要な技術的転換点となった。GANは、競合する ニューラルネットワークを学習させることで極めて写実的な偽の画像や動画の生成を可能にし、ルールやオートエンコーダーを用いた従来のコンテンツ作成手法 に比べて視覚的な忠実度を大幅に向上させ、現代のディープフェイク手法の基礎を築いた。[20][21] |
| Academic research Academic research related to deepfakes is split between the field of computer vision, a sub-field of computer science,[17] which develops techniques for creating and identifying deepfakes, and humanities and social science approaches that study the social, ethical, aesthetic implications as well as journalistic and informational implications of deepfakes.[22] As deepfakes have risen in prominence in popularity with innovations provided by AI tools, significant research has gone into detection methods and defining the factors driving engagement with deepfakes on the internet.[23][24] Deepfakes have been shown to appear on social media platforms and other parts of the internet for purposes ranging from entertainment and education related to deepfakes to misinformation to elicit strong reactions.[25] There are gaps in research related to the propagation of deepfakes on social media. Negativity and emotional response are the primary driving factors for users sharing deepfakes.[26] |
学術研究 ディープフェイクに関する学術研究は、ディープフェイクの作成および識別技術を開発するコンピュータサイエンスの一分野であるコンピュータビジョン [17]と、ディープフェイクがもたらす社会的、倫理的、美学的影響、ならびにジャーナリズムや情報面での影響を研究する人文・社会科学的なアプローチと に分けられる。[22] AIツールによる革新に伴いディープフェイクの注目度が高まるにつれ、検出手法や、インターネット上でのディープフェイクへの関与を促す要因の解明に向け た重要な研究が進められてきた。[23][24] ディープフェイクは、娯楽や教育から、強い反応を引き出すための誤情報に至るまで、様々な目的でソーシャルメディアプラットフォームやインターネット上の 他の場所に現れていることが示されている。[25] ソーシャルメディア上でのディープフェイクの拡散に関する研究には未解明な点がある。否定的な感情や感情的な反応が、ユーザーがディープフェイクを共有す る主な要因となっている。[26] |
| Social science and humanities approaches to deepfakes In cinema studies, deepfakes illustrate how "the human face is emerging as a central object of ambivalence in the digital age".[27] Video artists have used deepfakes to "playfully rewrite film history by retrofitting canonical cinema with new star performers".[28][29] Film scholar Christopher Holliday analyses how altering the gender and race of performers in familiar movie scenes destabilizes gender classifications and categories.[29]The concept of "queering" deepfakes is also discussed in Oliver M. Gingrich's discussion of media artworks that use deepfakes to reframe gender,[30] including British artist Jake Elwes' Zizi: Queering the Dataset, an artwork that uses deepfakes of drag queens to intentionally play with gender. The aesthetic potentials of deepfakes are also beginning to be explored. Theatre historian John Fletcher notes that early demonstrations of deepfakes are presented as performances, and situates these in the context of theater, discussing "some of the more troubling paradigm shifts" that deepfakes represent as a performance genre.[31] While most English-language academic studies of deepfakes focus on the Western anxieties about disinformation and pornography, digital anthropologist Gabriele de Seta has analyzed the Chinese reception of deepfakes, which are known as huanlian, which translates to "changing faces". The Chinese term does not contain the "fake" of the English deepfake, and de Seta argues that this cultural context may explain why the Chinese response has centered on practical regulatory measures to "fraud risks, image rights, economic profit, and ethical imbalances".[32] |
ディープフェイクに対する社会科学および人文学的アプローチ 映画研究において、ディープフェイクは「デジタル時代において、人間の顔が両義性の中心的な対象として浮上しつつある」ことを示している。[27] 映像アーティストたちは、ディープフェイクを用いて「古典的な映画作品に新たなスター俳優を登場させることで、映画史を遊び心を持って書き換えている」。 [28][29] 映画研究者のクリストファー・ホリデイは、馴染みのある映画シーンにおける出演者のジェンダーや人種を変更することが、いかにしてジェンダーの分類やカテ ゴリーを不安定化させるかを分析している。[29]ディープフェイクの「クィア化」という概念は、オリバー・M・ギングリッチによる、ディープフェイクを 用いてジェンダーを再構築するメディア・アート作品に関する論考[30]でも取り上げられている。これには、英国のアーティスト、ジェイク・エルウェスの 『Zizi: Queering the Dataset』が含まれており、この作品はドラァグクイーンのディープフェイクを用いて意図的にジェンダーを戯れに扱っている。ディープフェイクの美的 可能性についても、探求が始まっている。演劇史家のジョン・フレッチャーは、初期のディープフェイクの実演がパフォーマンスとして提示されている点を指摘 し、これらを演劇の文脈に位置づけ、パフォーマンスのジャンルとしてのディープフェイクが表す「より厄介なパラダイムシフトのいくつか」について論じてい る。[31] ディープフェイクに関する英語圏の学術研究の多くは、偽情報やポルノに対する西洋の懸念に焦点を当てているが、デジタル人類学者のガブリエレ・デ・セタ は、中国におけるディープフェイクの受容を分析している。中国ではディープフェイクは「換顔（huanlian）」と呼ばれ、これは「顔を変える」という 意味に翻訳される。この中国語の用語には、英語の「deepfake」に含まれる「fake（偽物）」という要素が含まれておらず、デ・セタは、この文化 的文脈こそが、中国の対応が「詐欺リスク、肖像権、経済的利益、倫理的アンバランス」に対する実用的な規制措置に重点を置いている理由を説明し得ると論じ ている。[32] |
| Computer science research on deepfakes A landmark early project was the "Video Rewrite" program, published in 1997. The program modified existing video footage of a person speaking to depict that person mouthing the words from a different audio track.[33] It was the first system to fully automate this kind of facial reanimation, and it did so using machine learning techniques to make connections between the sounds produced by a video's subject and the shape of the subject's face.[33] Contemporary academic projects have focused on creating more realistic videos and improving deepfake techniques.[34][35] The "Synthesizing Obama" program, published in 2017, modifies video footage of former president Barack Obama to depict him mouthing the words contained in a separate audio track.[34] The project lists as a main research contribution to its photorealistic technique for synthesizing mouth shapes from audio.[34] The "Face2Face" program, published in 2016, modifies video footage of a person's face to depict them mimicking another person's facial expressions.[35] The project highlights its primary research contribution as the development of the first method for re-enacting facial expressions in real time using a camera that does not capture depth, enabling the technique to work with common consumer cameras. Researchers have also shown that deepfakes are expanding into other domains such as medical imagery.[36] In this work, it was shown how an attacker can automatically inject or remove lung cancer in a patient's 3D CT scan. The result was so convincing that it fooled three radiologists and a state-of-the-art lung cancer detection AI. To demonstrate the threat, the authors successfully performed the attack on a hospital in a White hat penetration test.[37] A survey of deepfakes, published in May 2020, provides a timeline of how the creation and detection of deepfakes have advanced over the last few years.[38] The survey identifies that researchers have been focusing on resolving the following challenges of deepfake creation: Generalization. High-quality deepfakes are often achieved by training on hours of footage of the target. This challenge is to minimize the amount of training data and the time to train the model required to produce quality images and to enable the execution of trained models on new identities (unseen during training). Paired Training. Training a supervised model can produce high-quality results, but requires data pairing. This is the process of finding examples of inputs and their desired outputs for the model to learn from. Data pairing is laborious and impractical when training on multiple identities and facial behaviors. Some solutions include self-supervised training (using frames from the same video), the use of unpaired networks such as Cycle-GAN, or the manipulation of network embeddings. Identity leakage. This is where the identity of the driver (i.e., the actor controlling the face in a reenactment) is partially transferred to the generated face. Some solutions proposed include attention mechanisms, few-shot learning, disentanglement, boundary conversions, and skip connections. Occlusions. When part of the face is obstructed with a hand, hair, glasses, or any other item then artifacts can occur. A common occlusion is a closed mouth which hides the inside of the mouth and the teeth. Some solutions include image segmentation during training and in-painting. Temporal coherence. In videos containing deepfakes, artifacts such as flickering and jitter can occur because the network has no context of the preceding frames. Some researchers provide this context or use novel temporal coherence losses to help improve realism. As the technology improves, the interference is diminishing. Overall, deepfakes are expected to have several implications in media and society, media production, media representations, media audiences, gender, law, and regulation, and politics.[39] |
ディープフェイクに関するコンピュータサイエンスの研究 画期的な初期のプロジェクトとして、1997年に発表された「Video Rewrite」プログラムが挙げられる。このプログラムは、ある人物が話している既存の映像を改変し、その人物が異なる音声トラックの言葉を口パクして いるように見せるものであった。[33] これは、この種の顔の動きの再合成を完全に自動化した最初のシステムであり、機械学習技術を用いて、映像の被写体が発する音と被写体の顔の形状との関連性 を導き出すことで実現した。[33] 近年の学術プロジェクトは、より現実的な動画の作成とディープフェイク技術の改良に焦点を当てている。[34][35] 2017年に発表された「Synthesizing Obama」プログラムは、バラク・オバマ前大統領の映像を改変し、別の音声トラックに含まれる言葉を口パクで表現するようにしたものである。[34] このプロジェクトは、音声から口の動きを合成するフォトリアリスティックな技術が主な研究成果であると述べている。[34] 2016年に発表された「Face2Face」プログラムは、ある人物の顔の映像を改変し、別の人物の表情を模倣させるものである。[35] このプロジェクトは、深度情報を取得しないカメラを用いてリアルタイムで表情を再現する初の手法を開発したことを主な研究成果として挙げている。これによ り、一般的な民生用カメラでもこの技術が機能するようになった。 研究者らはまた、ディープフェイクが医療画像などの他の分野にも拡大していることを示している。[36] この研究では、攻撃者が患者の3D CTスキャン画像に肺がんを自動的に挿入したり除去したりする方法が示された。その結果は非常に説得力があり、3人の放射線科医と最先端の肺がん検出AI を欺くことに成功した。この脅威を実証するため、著者らはホワイトハット侵入テストにおいて、ある病院に対して攻撃を成功させた。[37] 2020年5月に発表されたディープフェイクに関する調査では、過去数年間にわたりディープフェイクの作成と検出がどのように進歩してきたかの年表が示さ れている。[38] この調査では、研究者がディープフェイク作成における以下の課題の解決に注力してきたことが明らかになっている： 汎化。高品質なディープフェイクは、多くの場合、対象者の何時間にもわたる映像を用いて学習させることで実現される。この課題は、高品質な画像を生成する ために必要なトレーニングデータの量とモデルを学習させる時間を最小限に抑え、学習済みのモデルを新しい対象（学習中に未見のもの）に対して実行できるよ うにすることにある。 ペア学習。教師ありモデルを学習させれば高品質な結果が得られるが、データのペアリングが必要となる。これは、モデルが学習するための入力例とその望まし い出力を組み合わせるプロセスである。複数の被写体や顔の動作を学習させる場合、データのペアリングは手間がかかり、現実的ではない。解決策としては、自 己教師付き学習（同一動画のフレームを使用）、Cycle-GANのような非ペアリング型ネットワークの活用、あるいはネットワークの埋め込みの操作など が挙げられる。 身元漏洩。これは、ドライバー（つまり、再現シーンで顔を制御する俳優）の身元が、生成された顔に部分的に転移してしまう現象である。提案されている解決策には、アテンション機構、ファウショット学習、ディスエンタンブルメント、境界変換、スキップ接続などがある。 オクルージョン。顔の一部が手、髪、眼鏡、その他の物で遮られると、アーティファクトが発生する可能性がある。一般的なオクルージョンとして、口を閉じた 状態が挙げられ、これにより口の中や歯が隠れてしまう。解決策としては、学習中の画像セグメンテーションやインペインティングなどがある。 時間的コヒーレンス。ディープフェイクを含む動画では、ネットワークが先行するフレームの文脈を持たないため、ちらつきやジッターなどのアーティファクト が発生することがある。一部の研究者は、この文脈を提供したり、新規の時間的整合性損失関数を使用したりして、リアリズムの向上を図っている。技術の進歩 に伴い、こうした干渉は減少しつつある。 全体として、ディープフェイクはメディアと社会、メディア制作、メディア表現、メディア視聴者、ジェンダー、法規制、そして政治において、いくつかの影響を及ぼすと予想される。[39] |
| Amateur development The term deepfake originated in late 2017 from a Reddit user named "deepfakes".[40] He, along with other members of Reddit's "r/deepfakes", shared deepfakes they created; many videos involved celebrities' faces swapped onto the bodies of actors in pornographic videos,[40] while non-pornographic content included many videos with actor Nicolas Cage's face swapped into various movies.[41] After this first introduction, amateur development grew at a quick rate because of the presence of open-source software and tutorials on the Internet. The freely available tools like FakeApp, FaceSwap, and DeepFaceLab allowed users who did not have any formal education in computer science to assemble deepfake videos with consumer hardware.[42][20] Online forums such as Reddit, GitHub and YouTube were important to the distribution of software, instructions, and sample content, and helped to spread and perfect amateur creation of deepfakes quicker.[20] Other online communities continue to share pornography on platforms that have not banned deepfake pornography.[43] |
アマチュアによる開発 「ディープフェイク」という用語は、2017年後半にRedditのユーザー「deepfakes」によって生み出された。[40] 彼は、Redditの「r/deepfakes」の他のメンバーと共に、自作のディープフェイクを共有した。多くの動画は、ポルノ動画の俳優の体に有名人 の顔を合成したものであった[40]が、ポルノ以外のコンテンツには、俳優ニコラス・ケイジの顔を様々な映画に合成した動画が多数含まれていた。[41] この最初の登場後、インターネット上のオープンソースソフトウェアやチュートリアルのおかげで、アマチュアによる開発は急速に拡大した。FakeApp、 FaceSwap、DeepFaceLabといった無料で利用可能なツールにより、コンピュータサイエンスの正式な教育を受けていないユーザーでも、一般 向けのハードウェアを使ってディープフェイク動画を制作できるようになった。[42][20] Reddit、GitHub、YouTubeなどのオンラインフォーラムは、ソフトウェア、手順、サンプルコンテンツの配布において重要な役割を果たし、 アマチュアによるディープフェイク制作の普及と完成度向上を加速させた。[20] その他のオンラインコミュニティでは、ディープフェイクポルノを禁止していないプラットフォーム上で、依然としてポルノコンテンツが共有され続けている。[43] |
| Commercial development In January 2018, a proprietary desktop application called "FakeApp" was launched.[44] This app allows users to easily create and share videos with their faces swapped with each other.[45] As of 2019, "FakeApp" had been largely replaced by open-source alternatives such as "Faceswap", command line-based "DeepFaceLab", and web-based apps such as DeepfakesWeb.[46][47][48] Larger companies started to use deepfakes.[19] Corporate training videos can be created using deepfaked avatars and their voices, for example Synthesia, which uses deepfake technology with avatars to create personalized videos.[49] The mobile app Momo created the application Zao which allows users to superimpose their face on television and movie clips with a single picture.[19] As of 2019 the Japanese AI company DataGrid made a full body deepfake that could create a person from scratch.[50] As of 2020 audio deepfakes, and AI software capable of detecting deepfakes and cloning human voices after 5 seconds of listening time also exist.[51][52][53][54][55][56][excessive citations] A mobile deepfake app, Impressions, was launched in March 2020. It was the first app for the creation of celebrity deepfake videos from mobile phones.[57][58] |
商用開発 2018年1月、「FakeApp」という独自のデスクトップアプリケーションがリリースされた。[44] このアプリを使えば、ユーザーは互いの顔を入れ替えた動画を簡単に作成・共有できる。[45] 2019年時点で、「FakeApp」は、「Faceswap」やコマンドラインベースの「DeepFaceLab」、DeepfakesWebなどの Webベースのアプリといったオープンソースの代替ツールにほぼ置き換えられていた。[46][47] [48] 大企業もディープフェイクの利用を開始した。[19] 例えば、アバターとディープフェイク技術を用いてパーソナライズされた動画を作成するSynthesiaのように、ディープフェイク化されたアバターとそ の声を使用して企業研修用動画を作成することができる。[49] モバイルアプリ「Momo」は、ユーザーが1枚の写真だけでテレビや映画のクリップに自分の顔を合成できるアプリ「Zao」を開発した。[19] 2019年時点で、日本のAI企業DataGridは、人物をゼロから生成できる全身ディープフェイクを開発した。[50] 2020年現在、音声ディープフェイクや、ディープフェイクを検知し、5秒間の音声聴取後に人間の声を複製できるAIソフトウェアも存在する。[51] [52][53][54][55][56][引用過多] 2020年3月、モバイル向けディープフェイクアプリ「Impressions」がリリースされた。これは、携帯電話から有名人のディープフェイク動画を 作成できる初のアプリであった。[57][58] |
| Resurrection Deepfake technology's ability to fabricate messages and actions of others can extend to the deceased, such as in grief therapy that allows seeming communication with a deceased loved one.[59] In October 2020, Kim Kardashian posted a video featuring a hologram of her late father, Robert Kardashian, created by the company Kaleida, which used a combination of performance, motion tracking, SFX, VFX and DeepFake technologies to create the illusion.[60][61] In 2020, a deepfake video of Joaquin Oliver, a victim of the Parkland shooting, was created as part of a gun safety campaign. Oliver's parents partnered with nonprofit Change the Ref and McCann Health to produce a video in which Oliver to encourage people to support gun safety legislation and politicians who back do so as well.[62] In 2022, a deepfake video of Elvis Presley was used on the program America's Got Talent 17.[63] |
復活 ディープフェイク技術は他者のメッセージや行動を捏造する能力を持ち、それは故人にも及ぶ可能性がある。例えば、亡くなった愛する人とのコミュニケーショ ンが可能に見えるような悲嘆療法などが挙げられる。[59] 2020年10月、キム・カーダシアンは、故ロバート・カーダシアンのホログラムが登場する動画を投稿した。これはKaleida社が制作したもので、パ フォーマンス、モーショントラッキング、SFX、VFX、そしてディープフェイク技術を組み合わせて錯覚を作り出していた。[60] [61] 2020年、パークランド銃乱射事件の犠牲者であるホアキン・オリバーのディープフェイク動画が、銃規制キャンペーンの一環として制作された。オリバーの 両親は、非営利団体「Change the Ref」および「McCann Health」と提携し、銃規制法案やそれを支持する政治家への支持を呼びかけるオリバーのメッセージを盛り込んだ動画を制作した。[62] 2022年、テレビ番組『アメリカズ・ゴット・タレント』第17シーズンで、エルヴィス・プレスリーのディープフェイク動画が使用された。[63] |
| Techniques Deepfakes rely on a type of neural network called an autoencoder.[64] These consist of an encoder, which reduces an image to a lower dimensional latent space, and a decoder, which reconstructs the image from the latent representation.[65] Deepfakes utilize this architecture by having a universal encoder which encodes a person in to the latent space.[citation needed] The latent representation contains key features about their facial features and body posture. This can then be decoded with a model trained specifically for the target. This means the target's detailed information will be superimposed on the underlying facial and body features of the original video, represented in the latent space.[citation needed] A popular upgrade to this architecture attaches a generative adversarial network to the decoder. A GAN trains a generator, in this case the decoder, and a discriminator in an adversarial relationship. The first network, known as the generator, attempts to craft fabricated images, while the second network, the discriminator, distinguishes between real and fake images using a legitimate data set to guide its judgment.[66] This causes the generator to create images that mimic reality extremely well as any defects would be caught by the discriminator.[67] Both algorithms improve constantly in a zero sum game. This makes deepfakes difficult to combat as they are constantly evolving; any time a defect is determined, it can be corrected.[67] |
技術 ディープフェイクは、オートエンコーダーと呼ばれる種類のニューラルネットワークに依存している。[64] これらは、画像を低次元の潜在空間に圧縮するエンコーダーと、その潜在表現から画像を再構築するデコーダーで構成される。[65] ディープフェイクは、人物を潜在空間にエンコードする汎用エンコーダーを用いることで、このアーキテクチャを活用している。[出典必要] 潜在表現には、顔の特徴や体の姿勢に関する重要な情報が含まれている。これは、対象者向けに特別に訓練されたモデルを用いてデコードすることができる。つ まり、対象者の詳細な情報が、潜在空間で表現された元の動画の基礎となる顔や体の特徴に重ね合わせられることになる。[出典必要] このアーキテクチャに対する一般的な改良として、デコーダに生成対抗ネットワーク（GAN）を組み込むものがある。GANは、生成器（この場合はデコー ダ）と識別器を対抗関係で学習させる。生成器と呼ばれる最初のネットワークは偽造画像を作成しようと試み、一方、識別器と呼ばれる2番目のネットワーク は、判断の指針となる正当なデータセットを用いて、本物と偽物の画像を区別する。[66] これにより、欠陥があれば判別器に検出されてしまうため、生成器は現実を極めて精巧に模倣した画像を作成するようになる。[67] 両アルゴリズムはゼロサムゲームの中で絶えず改善される。このため、ディープフェイクは絶えず進化しており、対抗するのが困難である。欠陥が発見されれ ば、いつでも修正が可能だからだ。[67] |
| Applications Acting Digital clones of professional actors have appeared in films before, and progress in deepfake technology is expected to further the accessibility and effectiveness of such clones.[68] The use of AI technology was a major issue in the 2023 SAG-AFTRA strike, as new techniques enabled the capability of generating and storing a digital likeness to use in place of actors.[69] Disney has improved their visual effects using high-resolution deepfake face swapping technology.[70] Disney improved their technology through progressive training programmed to identify facial expressions, implementing a face-swapping feature, and iterating in order to stabilize and refine the output.[70] This high-resolution deepfake technology saves significant operational and production costs.[71] Disney's deepfake generation model can produce AI-generated media at a 1024 x 1024 resolution, as opposed to common models that produce media at a 256 x 256 resolution.[71] The technology allows Disney to de-age characters or revive deceased actors.[72] Similar technology was initially used by fans to unofficially insert faces into existing media, such as overlaying Harrison Ford's young face onto Han Solo's face in Solo: A Star Wars Story.[73] Disney used deepfakes for the characters of Princess Leia in Rogue One and Luke Skywalker in both The Mandalorian and The Book of Boba Fett.[74][75] In the 2024 Indian Tamil science fiction action thriller The Greatest of All Time, the teenage version of Vijay's character Jeevan is portrayed by Ayaz Khan. Vijay's teenage face was then attained by AI deepfake.[76]In May 2025, an AI-generated actress called Tilly Norwood was developed by the Dutch company Xicoia, a division of the existing production company Particle6 that was founded by actor and comedian Eline Van der Velden.[77] |
応用例 演技 プロの俳優のデジタルクローンは以前から映画に登場しており、ディープフェイク技術の進歩により、こうしたクローンの利用しやすさと有効性がさらに高まる と予想される。[68] 2023年のSAG-AFTRAストライキでは、AI技術の活用が主要な争点となった。新たな技術により、俳優の代わりに使用するためのデジタル肖像を生 成・保存することが可能になったためである。[69] ディズニーは、高解像度のディープフェイク顔入れ替え技術を用いて視覚効果を向上させた。[70] ディズニーは、表情を識別するようにプログラムされた漸進的トレーニング、顔入れ替え機能の実装、そして出力を安定化・精緻化するための反復処理を通じ て、技術を向上させた。[70] この高解像度ディープフェイク技術は、運用および制作コストを大幅に削減する。[71] ディズニーのディープフェイク生成モデルは、一般的なモデルが256×256解像度でメディアを生成するのに対し、1024×1024解像度でAI生成メ ディアを生成できる。[71] この技術により、ディズニーはキャラクターの若返りや、故人となった俳優の復活が可能となる。[72] 同様の技術は当初、ファンによって既存のメディアに非公式に顔を合成するために使用されていた。例えば、『ソロ／スター・ウォーズ・ストーリー』におい て、ハン・ソロの顔にハリソン・フォードの若い頃の顔を重ねるといった具合だ。[73] ディズニーは、『ローグ・ワン／スター・ウォーズ・ストーリー』のレイア姫や、『マンダロリアン』および『ザ・ブック・オブ・ボバ・フェット』のルーク・ スカイウォーカーといったキャラクターにディープフェイク技術を用いた。[74] [75] 2024年のインド・タミル語SFアクションスリラー『The Greatest of All Time』では、ヴィジャイ演じるキャラクター、ジーヴァンの10代の姿がアヤズ・カーンによって演じられている。ヴィジャイの10代の顔は、AIディー プフェイクによって再現された。[76]2025年5月、オランダの企業Xicoia（俳優兼コメディアンのエライン・ヴァン・デル・ヴェルデンが設立し た制作会社Particle6の傘下）は、ティリー・ノーウッドというAI生成の女優を開発した。[77] |
| Art Deepfakes are also being used in education and media to create realistic videos and interactive content, which offer new ways to engage audiences. In March 2018 the multidisciplinary artist Joseph Ayerle published the video artwork Un'emozione per sempre 2.0 (English title: The Italian Game). The artist worked with Deepfake technology to create an AI actor, a synthetic version of 80s movie star Ornella Muti, traveling in time from 1978 to 2018. The Massachusetts Institute of Technology referred this artwork in the study "Collective Wisdom".[78] The artist used Ornella Muti's time travel to explore generational reflections, while also investigating questions about the role of provocation in the world of art.[79] For the technical realization Ayerle used scenes of photo model Kendall Jenner. The program replaced Jenner's face by an AI calculated face of Ornella Muti. As a result, the AI actor has the face of the Italian actor Ornella Muti and the body of Kendall Jenner. Deepfakes have been widely used in satire or to parody celebrities and politicians. The 2020 webseries Sassy Justice, created by Trey Parker and Matt Stone, heavily features the use of deepfaked public figures to satirize current events and raise awareness of deepfake technology.[80] |
アート ディープフェイクは教育やメディアの分野でも活用されており、リアルな動画やインタラクティブなコンテンツを作成することで、視聴者を引きつける新たな手法を提供している。 2018年3月、マルチメディアアーティストのジョセフ・アイヤーレは、映像作品『Un'emozione per sempre 2.0』（英題：The Italian Game）を発表した。同アーティストはディープフェイク技術を用いて、80年代の映画スター、オルネラ・ムティの合成版であるAI俳優を制作し、 1978年から2018年へとタイムトラベルさせる作品を作り上げた。マサチューセッツ工科大学は、研究論文『Collective Wisdom』においてこの作品を引用した。[78] アーティストはオルネラ・ムティのタイムトラベルを通じて世代間の反映を探求すると同時に、芸術の世界における挑発の役割に関する問いも考察した。 [79] 技術的な実現のために、アイヤーレは写真モデルのケンダル・ジェンナーの映像を使用した。プログラムはジェンナーの顔を、AIによって計算されたオルネ ラ・ムティの顔に置き換えた。その結果、このAI俳優はイタリア人女優オルネラ・ムティの顔とケンダル・ジェンナーの体を併せ持つこととなった。 ディープフェイクは、風刺や有名人・政治家のパロディとして広く利用されてきた。トレイ・パーカーとマット・ストーンが制作した2020年のウェブシリー ズ『Sassy Justice』では、時事問題を風刺し、ディープフェイク技術への認識を高めるために、ディープフェイク化された公人の映像が頻繁に用いられている。 [80] |
| Blackmail Deepfakes can be used to generate blackmail materials that falsely incriminate a victim. A report by the American Congressional Research Service warned that deepfakes could be used to blackmail elected officials or those with access to classified information for espionage or influence purposes.[81] When or if fakes cannot reliably be distinguished from genuine evidence, victims who are blackmailed over digital evidence might claim that true artifacts are fakes, thereby seeking plausible deniability by relying on an argument of indistinguishability between fake and genuine evidence. The hoped-for effect is to void credibility of certain existing blackmail materials, which, if they were the sole evidence retained by a blackmailer and could not be distinguished by a jury from fake evidence under this argument, could in theory erode loyalty to blackmailers and limit their control over the blackmailed. This phenomenon has been termed "blackmail inflation", since in theory it "devalues" authentic blackmail material.[82] It is possible to utilize commodity GPU hardware with a small software program to generate fake content intended to blackmail anyone for whom an adversary has ample training data.[83] However, even carefully manipulated fakes may still be detected. The existence of efficient techniques for fabricating false evidence certainly suggests that any combination of video, audio, photographic or other generable evidence alone as the basis for conviction of a crime is by now a perilous and tenuous standard owing to the possibility of maliciously fabricated evidence, raising the importance of multiple firsthand witnesses to a crime, especially for more serious allegations.[84] |
恐喝 ディープフェイクは、被害者を不当に罪に問う恐喝材料を作成するために利用される可能性がある。米国議会調査局の報告書は、ディープフェイクが、スパイ活 動や影響力行使を目的として、選出された公職者や機密情報にアクセスできる人物を恐喝するために利用される恐れがあると警告している。[81] 偽物が本物の証拠と確実に区別できない場合、デジタル証拠を理由に恐喝された被害者は、本物の証拠こそが偽物であると主張し、偽物と本物の証拠の区別がつ かないという論拠に依拠することで、もっともらしい否認の余地を求める可能性がある。期待される効果は、既存の特定の恐喝材料の信憑性を無効化することに ある。もしそれらが恐喝者が保持する唯一の証拠であり、この主張の下で陪審員が偽の証拠と見分けがつかない場合、理論上は恐喝者への忠誠心を損ない、恐喝 された者に対する支配力を制限し得る。この現象は「恐喝インフレーション」と呼ばれている。理論上、本物の恐喝材料の「価値」を低下させるからである。 [82] 汎用GPUハードウェアと小さなソフトウェアプログラムを用いれば、敵対者が十分な訓練データを保有する人物を脅迫するための偽コンテンツを生成すること が可能である。[83] しかし、慎重に操作された偽物であっても、依然として検出される可能性がある。 偽の証拠を捏造する効率的な技術が存在することは、悪意を持って捏造された証拠の可能性を考慮すると、動画、音声、写真、その他の生成可能な証拠のいずれ かを単独で犯罪の有罪判決の根拠とすることは、今や危険で脆弱な基準であることを確かに示唆している。これにより、特に重大な容疑においては、犯罪の複数 の目撃者の重要性がさらに高まっている。[84] |
| Entertainment On 8 June 2022,[85] Daniel Emmet, a former AGT contestant, teamed up with the AI startup[86][87] Metaphysic AI, to create a hyperrealistic deepfake to make it appear as Simon Cowell. Cowell, notoriously known for severely critiquing contestants,[88] was on stage interpreting "You're The Inspiration" by Chicago. Emmet sang on stage as an image of Simon Cowell emerged on the screen behind him in flawless synchronicity.[89] On 30 August 2022, Metaphysic AI had 'deep-fake' Simon Cowell, Howie Mandel and Terry Crews singing opera on stage.[90] On 13 September 2022, Metaphysic AI performed with a synthetic version of Elvis Presley for the finals of America's Got Talent.[91] The MIT artificial intelligence project 15.ai has been used for content creation for multiple Internet fandoms, particularly on social media.[92][93][94] In 2023 the bands ABBA and Kiss partnered with Industrial Light & Magic and Pophouse Entertainment to develop deepfake avatars capable of performing virtual concerts.[95] |
エンターテインメント 2022年6月8日[85]、元『AGT』出場者のダニエル・エメットは、AIスタートアップ企業[86][87]のMetaphysic AIと提携し、サイモン・コーウェルに見えるような超リアルなディープフェイクを作成した。出場者への厳しい批評で悪名高い[88]カウエルが、ステージ 上でシカゴの「You're The Inspiration」を歌っている様子だった。エメットがステージで歌うと、背後のスクリーンにサイモン・カウエルの映像が完璧なシンクロで映し出さ れた。[89] 2022年8月30日、Metaphysic AIは、サイモン・コーウェル、ハウイー・マンデル、テリー・クルーズがステージでオペラを歌う「ディープフェイク」映像を公開した。[90] 2022年9月13日、Metaphysic AIは『アメリカズ・ゴット・タレント』の決勝戦で、合成されたエルヴィス・プレスリーと共にパフォーマンスを行った。[91] MITの人工知能プロジェクト「15.ai」は、特にソーシャルメディア上で、複数のインターネット・ファンダム向けのコンテンツ制作に利用されている。[92][93][94] 2023年、バンドのABBAとKissは、Industrial Light & MagicおよびPophouse Entertainmentと提携し、バーチャルコンサートを行うことのできるディープフェイク・アバターを開発した。[95] |
| Fraud and scams Fraudsters and scammers make use of deepfakes to trick people into fake investment schemes, financial fraud, cryptocurrencies, sending money, and following endorsements. The likenesses of celebrities and politicians have been used for large-scale scams, as well as those of private individuals, which are used in spearphishing attacks. According to the Better Business Bureau, deepfake scams are becoming more prevalent.[96] These scams are responsible for an estimated $12 billion in fraud losses globally.[97] According to a recent report these numbers are expected to reach $40 Billion over the next three years.[97] Fake endorsements have misused the identities of celebrities like Taylor Swift,[98][96] Tom Hanks,[99] Oprah Winfrey,[100] and Elon Musk;[101] news anchors[102] like Gayle King[99] and Sally Bundock;[103] and politicians like Lee Hsien Loong[104] and Jim Chalmers.[105][106] Videos of them have appeared in online advertisements on YouTube, Facebook, and TikTok, who have policies against synthetic and manipulated media.[107][98][108] Ads running these videos are seen by millions of people. A single Medicare fraud campaign had been viewed more than 195 million times across thousands of videos.[107][109] Deepfakes have been used for: a fake giveaway of Le Creuset cookware for a "shipping fee" without receiving the products, except for hidden monthly charges;[98] weight-loss gummies that charge significantly more than what was said;[100] a fake iPhone giveaway;[98][108] and fraudulent get-rich-quick,[101][110] investment,[111] and cryptocurrency schemes.[104][112] Audio deepfakes have been used as part of social engineering scams, fooling people into thinking they are receiving instructions from a trusted individual.[113] In 2019, a U.K.-based energy firm's CEO was scammed over the phone when he was ordered to transfer €220,000 into a Hungarian bank account by an individual who reportedly used audio deepfake technology to impersonate the voice of the firm's parent company's chief executive.[114][115] As of 2023, the combination advances in deepfake technology, which could clone an individual's voice from a recording of a few seconds to a minute, and new text generation tools, enabled automated impersonation scams, targeting victims using a convincing digital clone of a friend or relative.[116] |
詐欺と詐欺行為 詐欺師や詐欺グループは、ディープフェイクを利用して、人々を偽の投資スキーム、金融詐欺、仮想通貨、送金、および推奨情報の追従へと誘導している。有名 人や政治家の肖像は大規模な詐欺に利用されているほか、一般個人の肖像もスピアフィッシング攻撃に悪用されている。ベター・ビジネス・ビューローによる と、ディープフェイク詐欺はますます蔓延している。[96] これらの詐欺による世界的な被害額は推定120億ドルに上る。[97] 最近の報告書によると、この数字は今後3年間で400億ドルに達すると予想されている。[97] 偽の推奨動画では、テイラー・スウィフト[98][96]、トム・ハンクス[99]、オプラ・ウィンフリー[100]、イーロン・マスク[101]といっ た有名人の身元が悪用されている。また、ゲイル・キング[99]やサリー・バンドック[103]といったニュースキャスター[102]、リー・シェンロン [104]やジム・チャルマーズといった政治家の身元も悪用されている。[105][106] これらの人物を映した動画は、合成・改変メディアを禁止するポリシーを持つYouTube、Facebook、TikTok上のオンライン広告に登場して いる。[107][98][108] これらの動画を掲載した広告は、数百万人に閲覧されている。ある単一のメディケア詐欺キャンペーンでは、数千本の動画を通じて1億9500万回以上再生さ れた。[107][109] ディープフェイクは以下のような目的で使用されてきた：製品を受け取ることなく「送料」を請求するル・クルーゼの調理器具の偽プレゼント（隠された月額料 金を除く）；[98] 宣伝されていた価格より大幅に高額なダイエットグミ；[100] 偽のiPhoneプレゼント； [98][108] さらに、一攫千金詐欺[101][110]、投資詐欺[111]、仮想通貨詐欺[104][112]などだ。 音声ディープフェイクはソーシャルエンジニアリング詐欺の一環として利用され、信頼できる人物からの指示を受けていると人々に錯覚させている。[113] 2019年、英国に拠点を置くエネルギー企業のCEOが電話詐欺の被害に遭った。この事件では、音声ディープフェイク技術を用いて同社の親会社のCEOの 声を偽装したとされる人物から、ハンガリーの銀行口座へ22万ユーロを振り込むよう指示された。[114] [115] 2023年現在、数秒から1分程度の録音から個人の声を複製できるディープフェイク技術の進歩と、新しいテキスト生成ツールの組み合わせにより、友人や親 族の説得力のあるデジタルクローンを使って被害者を狙う、自動化されたなりすまし詐欺が可能になった。[116] |
| Politics Deepfakes have been used to misrepresent well-known politicians in videos. ★A video deepfake of Kim Jong Un created in 2020 by a nonpartisan advocacy group RepresentUs In February 2018, in separate videos, the face of the Argentine President Mauricio Macri had been replaced by the face of Adolf Hitler, and Angela Merkel's face has been replaced with Donald Trump's.[117][118] In April 2018, Jordan Peele collaborated with BuzzFeed to create a deepfake of Barack Obama with Peele's voice; it served as a public service announcement to increase awareness of deepfakes.[119] In January 2019, Fox affiliate KCPQ aired a deepfake of Trump during his Oval Office address, mocking his appearance and skin color. The employee found responsible for the video was subsequently fired.[120] In June 2019, the United States House Intelligence Committee held hearings on the potential malicious use of deepfakes to sway elections.[121] In April 2020, the Belgian branch of Extinction Rebellion published a deepfake video of Belgian Prime Minister Sophie Wilmès on Facebook.[122] The video promoted a possible link between deforestation and COVID-19. It had more than 100,000 views within 24 hours and received many comments. On the Facebook page where the video appeared, many users interpreted the deepfake video as genuine.[123] During the 2020 US presidential campaign, many deepfakes surfaced purporting Joe Biden in cognitive decline—falling asleep during an interview, getting lost, and misspeaking—all bolstering rumors of his decline.[124][125] During the 2020 Delhi Legislative Assembly election campaign, the Delhi Bharatiya Janata Party used similar technology to distribute a version of an English-language campaign advertisement by its leader, Manoj Tiwari, translated into Haryanvi to target Haryana voters. A voiceover was provided by an actor, and AI trained using video of Tiwari speeches was used to lip-sync the video to the new voiceover. A party staff member described it as a "positive" use of deepfake technology, which allowed them to "convincingly approach the target audience even if the candidate didn't speak the language of the voter."[126] In 2020, Bruno Sartori produced deepfakes parodying politicians like Jair Bolsonaro and Donald Trump.[127] In April 2021, politicians in a number of European countries were approached by pranksters Vovan and Lexus, who are accused by critics of working for the Russian state. They impersonated Leonid Volkov, a Russian opposition politician and chief of staff of the Russian opposition leader Alexei Navalny's campaign, allegedly through deepfake technology.[128][129][130][131] However, the pair told The Verge that they did not use deepfakes, and just used a look-alike.[132] In May 2023, a deepfake video of Vice President Kamala Harris supposedly slurring her words and speaking nonsensically about today, tomorrow and yesterday went viral on social media.[133][134] In June 2023, in the United States, Ron DeSantis's presidential campaign used a deepfake to misrepresent Donald Trump.[135] In November 2023, a deepfake video of the German Chancellor Olaf Scholz announcing a plan to ban the political activities of the AfD was uploaded to YouTube by the Zentrum für Politische Schönheit (Center of Political Beauty).[136] In March 2024, during India's state assembly elections, deepfake technology was widely employed by political candidates to reach out to voters. Many politicians used AI-generated deepfakes created by startup The Indian Deepfaker, founded by Divyendra Singh Jadoun,[137] to translate their speeches into multiple regional languages, allowing them to engage with diverse linguistic communities across the country. This surge in the use of deepfakes for political campaigns marked a significant shift in electioneering tactics in India.[138][139] In June 2025, Javier Milei's government backed a smear campaign against journalist Mengolini, which was partly based on explicit deepfakes.[140][141] In July 2025, Donald Trump posted a deepfake on his Truth Social account, depicting former president Barack Obama getting arrested at the White House and put in prison.[142][143] |
政治 ディープフェイクは、動画の中で著名な政治家を偽装するために利用されてきた。 ★2020年に無党派の市民団体RepresentUsによって作成された、金正恩のディープフェイク動画 2018年2月、別々の動画において、アルゼンチンのマウリシオ・マクリ大統領の顔がアドルフ・ヒトラーの顔に、アンゲラ・メルケルの顔がドナルド・トランプの顔に置き換えられていた。[117][118] 2018年4月、ジョーダン・ピールはBuzzFeedと協力し、バラク・オバマの顔にピールの声を合成したディープフェイクを作成した。これはディープフェイクへの認識を高めるための公共サービス広告として機能した。[119] 2019年1月、Fox系列局のKCPQは、トランプ大統領が大統領執務室で演説している最中に、彼の容姿や肌の色を嘲笑するディープフェイクを放送した。この動画の責任を問われた従業員はその後解雇された。[120] 2019年6月、米国下院情報委員会は、選挙結果に影響を与えるためのディープフェイクの悪用可能性に関する公聴会を開催した。[121] 2020年4月、エクステンション・レベリオン（Extinction Rebellion）のベルギー支部は、ソフィー・ウィルメス首相のディープフェイク動画をFacebookに公開した。[122] この動画は、森林伐採とCOVID-19との関連性を示唆する内容だった。この動画は24時間以内に10万回以上再生され、多くのコメントが寄せられた。 動画が掲載されたFacebookページでは、多くのユーザーがこのディープフェイク動画を本物だと受け止めていた。[123] 2020年の米国大統領選挙キャンペーン中、ジョー・バイデンが認知機能の低下を来しているかのように装った多くのディープフェイク動画が流出した。イン タビュー中に居眠りをする、道に迷う、言い間違いをするといった内容で、いずれも彼の衰えに関する噂を助長するものだった。[124][125] 2020年のデリー州議会選挙キャンペーン中、デリーのインド人民党（BJP）は同様の技術を用い、党首マノジ・ティワリによる英語の選挙広告をハリャン ヴィ語に翻訳したバージョンを配布し、ハリャーナ州の有権者をターゲットにした。ナレーションは俳優が担当し、ティワリの演説映像を用いて学習させたAI を用いて、新しいナレーションに合わせて動画の口元を同期させた。党関係者はこれをディープフェイク技術の「肯定的な」活用例だと説明し、これにより「候 補者が有権者の言語を話せなくても、説得力を持ってターゲット層にアプローチできた」と述べた。[126] 2020年、ブルーノ・サルトリはジャイール・ボルソナロやドナルド・トランプといった政治家をパロディ化したディープフェイクを制作した。[127] 2021年4月、欧州諸国の政治家たちが、批評家からロシア政府のために働いていると非難されているいたずら師のヴォヴァンとレクサスから接触を受けた。 彼らは、ロシアの野党政治家であり、野党指導者アレクセイ・ナワリヌイの選挙運動本部長であるレオニード・ヴォルコフになりすましたが、これはディープ フェイク技術を用いたものとされている。[128][129][130][131] しかし、この2人はThe Vergeに対し、ディープフェイクは使用しておらず、単にそっくりさんを使っただけだと語った。[132] 2023年5月、カマラ・ハリス副大統領が言葉を濁し、今日、明日、昨日について支離滅裂な発言をしているように見せかけたディープフェイク動画が、ソーシャルメディア上で拡散した。[133][134] 2023年6月、米国でロン・デサンティスの大統領選挙キャンペーンが、ドナルド・トランプを誹謗中傷するためにディープフェイクを使用した。[135] 2023年11月、ドイツのオラフ・ショルツ首相がAfDの政治活動を禁止する計画を発表するディープフェイク動画が、「政治的美のセンター（Zentrum für Politische Schönheit）」によってYouTubeに投稿された。[136] 2024年3月、インドの州議会選挙期間中、政治候補者たちは有権者にアピールするためにディープフェイク技術を広く活用した。 |
| Pornography Main article: Deepfake pornography In 2017, Deepfake pornography prominently surfaced on the Internet, particularly on Reddit.[144] As of 2019, many deepfakes on the internet feature pornography of female celebrities whose likeness is typically used without their consent.[145] A report published in October 2019 by Dutch cybersecurity startup Deeptrace estimated that 96% of all deepfakes online were pornographic.[146] As of 2018, a Daisy Ridley deepfake first captured attention,[144] among others.[147][148][149] As of October 2019, most of the deepfake subjects on the internet were British and American actors.[145] However, around a quarter of the subjects are South Korean, the majority of which are K-pop stars.[145][150] In June 2019, a downloadable Windows and Linux application called DeepNude was released that used neural networks, specifically generative adversarial networks, to remove clothing from images of women. The app had both a paid and unpaid version, the paid version costing $50.[151][152] On 27 June the creators removed the application and refunded consumers.[153] Female celebrities are often a main target when it comes to deepfake pornography. In 2023, deepfake porn videos appeared online of Emma Watson and Scarlett Johansson in a face swapping app.[154] In 2024, deepfake porn images circulated online of Taylor Swift.[155] Academic studies have reported that women, LGBT people and people of color (particularly activists, politicians and those questioning power) are at higher risk of being targets of promulgation of deepfake pornography.[156] |
ポルノ 本記事：ディープフェイクポルノ 2017年、ディープフェイクポルノがインターネット上、特にRedditで目立つようになった。[144] 2019年現在、インターネット上の多くのディープフェイクは、通常は本人の同意なしに肖像が使用された女性有名人のポルノを扱っている。[145] オランダのサイバーセキュリティスタートアップ企業Deeptraceが2019年10月に発表した報告書によると、オンライン上のディープフェイクの 96％がポルノであると推定された。[146] 2018年時点で、デイジー・リドリーを題材としたディープフェイクが最初に注目を集めた。[144] その他にも多くの事例がある。[147][148] [149] 2019年10月時点で、インターネット上のディープフェイクの被写体の大半は英国および米国の俳優であった。[145] しかし、被写体の約4分の1は韓国人で、その大半はK-POPスターである。[145][150] 2019年6月、DeepNudeというWindowsおよびLinux向けのダウンロード可能なアプリケーションがリリースされた。これはニューラル ネットワーク、具体的には生成対立ネットワーク（GAN）を用いて、女性の画像から衣服を除去するものであった。このアプリには有料版と無料版があり、有 料版は50ドルであった。[151][152] 6月27日、開発者はアプリケーションを削除し、購入者に返金を行った。[153] ディープフェイクポルノにおいて、女性有名人はしばしば主な標的となる。2023年には、顔交換アプリを使用したエマ・ワトソンやスカーレット・ヨハンソ ンのディープフェイクポルノ動画がオンライン上に現れた。[154] 2024年には、テイラー・スウィフトのディープフェイクポルノ画像がオンライン上で拡散された。[155] 学術研究によると、女性、LGBTの人々、有色人種（特に活動家、政治家、権力に疑問を呈する人々）は、ディープフェイクポルノの拡散の標的となるリスクが高いと報告されている。[156] |
| Social media Deepfakes have begun to see use in popular social media platforms, notably through Zao, a Chinese deepfake app that allows users to substitute their own faces onto those of characters in scenes from films and television shows such as Romeo + Juliet and Game of Thrones.[157] The app originally faced scrutiny over its invasive user data and privacy policy, after which the company put out a statement claiming it would revise the policy.[19] In January 2020 Facebook announced that it was introducing new measures to counter this on its platforms.[158] The Congressional Research Service cited unspecified evidence as showing that foreign intelligence operatives used deepfakes to create social media accounts with the purposes of recruiting individuals with access to classified information.[81] In 2021, realistic deepfake videos of actor Tom Cruise were released on TikTok, which went viral and garnered more than tens of millions of views. The deepfake videos featured an "artificial intelligence-generated doppelganger" of Cruise doing various activities such as teeing off at the golf course, showing off a coin trick, and biting into a lollipop. The creator of the clips, Belgian VFX Artist Chris Umé,[159] said he first got interested in deepfakes in 2018 and saw the "creative potential" of them.[160][161] |
ソーシャルメディア ディープフェイクは、人気のあるソーシャルメディアプラットフォームでも利用され始めている。特に、中国のディープフェイクアプリ「Zao」を通じてであ り、このアプリでは、ユーザーが自身の顔を『ロミオとジュリエット』や『ゲーム・オブ・スローンズ』などの映画やテレビ番組の登場人物の顔に合成すること ができる。[157] このアプリは当初、ユーザーのデータを過度に収集するプライバシーポリシーについて批判を受けたが、その後、同社はポリシーを改定するとする声明を発表し た。[19] 2020年1月、Facebookは自社のプラットフォーム上でこれに対抗するための新たな措置を導入すると発表した。[158] 米国議会調査局は、外国の諜報機関が機密情報へのアクセス権を持つ個人を勧誘する目的で、ディープフェイクを用いてソーシャルメディアアカウントを作成していたことを示す、具体的な出典を明示しない証拠を引用した。[81] 2021年、俳優トム・クルーズのリアルなディープフェイク動画がTikTokで公開され、拡散して数千万回以上の再生回数を記録した。このディープフェ イク動画には、クルーズの「人工知能生成の分身」が登場し、ゴルフ場でティーショットを打ったり、コインマジックを披露したり、ロリポップを齧ったりする 様子が描かれていた。この動画の制作者であるベルギー人VFXアーティストのクリス・ウメ[159]は、2018年に初めてディープフェイクに興味を持 ち、その「創造的な可能性」を見出したと述べている。[160][161] |
| Sockpuppets Deepfake photographs can be used to create sockpuppets, non-existent people, who are active both online and in traditional media. A deepfake photograph appears to have been generated together with a legend for an apparently non-existent person named Oliver Taylor, whose identity was described as a university student in the United Kingdom. The Oliver Taylor persona submitted opinion pieces in several newspapers and was active in online media attacking a British legal academic and his wife, as "terrorist sympathizers." The academic had drawn international attention in 2018 when he commenced a lawsuit in Israel against NSO, a surveillance company, on behalf of people in Mexico who alleged they were victims of NSO's phone hacking technology. Reuters could find only scant records for Oliver Taylor and "his" university had no records for him. Many experts agreed that the profile photo is a deepfake. Several newspapers have not retracted articles attributed to him or removed them from their websites. It is feared that such techniques are a new battleground in disinformation.[162] |
偽アカウント ディープフェイク写真は、オンライン上や従来のメディアで活動する、実在しない人物である「偽アカウント」を作成するために利用されることがある。ある ディープフェイク写真は、オリバー・テイラーという実在しない人物の解説文と共に生成されたように見え、その人物は英国の大学生であると説明されていた。 このオリバー・テイラーという人物は、複数の新聞に論説を寄稿し、オンラインメディア上で、ある英国の法学者とその妻を「テロリストの共犯者」として攻撃 する活動を行っていた。この法学者は2018年、NSO社の電話ハッキング技術の被害者であると主張するメキシコの人々を代表して、イスラエルで監視企業 NSO社を相手取り訴訟を起こした際、国際的な注目を集めていた。ロイター通信がオリバー・テイラーに関する記録を探したものの、見つかったのはごくわず かで、「彼」の在籍する大学にも記録はなかった。多くの専門家は、プロフィール写真がディープフェイクであることに同意している。複数の新聞社は、彼に帰 属する記事を撤回したり、ウェブサイトから削除したりしていない。こうした手法が、偽情報の新たな戦場となることが懸念されている。[162] |
| Concerns and countermeasures Though fake photos have long been plentiful, faking motion pictures has been more difficult, and the presence of deepfakes increases the difficulty of classifying videos as genuine or not.[117] AI researcher Alex Champandard has said people should know how fast things can be corrupted with deepfake technology, and that the problem is not a technical one, but rather one to be solved by trust in information and journalism.[117] Computer science associate professor Hao Li of the University of Southern California states that deepfakes created for malicious use, such as fake news, will be even more harmful if nothing is done to spread awareness of deepfake technology.[163] Li predicted that genuine videos and deepfakes would become indistinguishable in as soon as six months, as of October 2019, due to rapid advancement[164] in artificial intelligence and computer graphics.[163] Former Google fraud czar Shuman Ghosemajumder has called deepfakes an area of "societal concern" and said that they will inevitably evolve to a point at which they can be generated automatically, and an individual could use that technology to produce millions of deepfake videos.[165] Credibility of information A primary pitfall is that humanity could fall into an age in which it can no longer be determined whether a medium's content corresponds to the truth.[117][166] Deepfakes are one of a number of tools for disinformation attack, creating doubt, and undermining trust. They have a potential to interfere with democratic functions in societies, such as identifying collective agendas, debating issues, informing decisions, and solving problems through the exercise of political will.[167] People may also start to dismiss real events as fake.[168] Defamation Deepfakes possess the ability to damage individual entities tremendously.[169] This is because deepfakes are often targeted at one individual, and/or their relations to others in hopes to create a narrative powerful enough to influence public opinion or beliefs. This can be done through deepfake voice phishing, which manipulates audio to create fake phone calls or conversations.[169] Another method of deepfake use is fabricated private remarks, which manipulate media to convey individuals voicing damaging comments.[169] The quality of a negative video or audio does not need to be that high. As long as someone's likeness and actions are recognizable, a deepfake can hurt their reputation.[168] In September 2020, Microsoft made public that they were developing a Deepfake detection software tool.[170] Detection Audio Detecting fake audio is a highly complex task that requires careful attention to the audio signal in order to achieve good performance. Using deep learning, preprocessing of feature design and masking augmentation have been proven effective in improving performance.[171] Video Most of the academic research surrounding deepfakes focuses on the detection of deepfake videos.[172] One approach to deepfake detection is to use algorithms to recognize patterns and pick up subtle inconsistencies that arise in deepfake videos.[172] For example, researchers have developed automatic systems that examine videos for errors such as irregular blinking patterns of lighting.[173][17] This approach has been criticized because deepfake detection is characterized by a "moving goal post" where the production of deepfakes continues to change and improve as algorithms to detect deepfakes improve.[172] In order to assess the most effective algorithms for detecting deepfakes, a coalition of leading technology companies hosted the Deepfake Detection Challenge to accelerate the technology for identifying manipulated content.[174] The winning model of the Deepfake Detection Challenge was 65% accurate on the holdout set of 4,000 videos.[175] A team at Massachusetts Institute of Technology published a paper in December 2021 demonstrating that ordinary humans are 69–72% accurate at identifying a random sample of 50 of these videos.[176] Another team led by Wael AbdAlmageed with Visual Intelligence and Multimedia Analytics Laboratory (VIMAL) of the Information Sciences Institute at the University Of Southern California developed two generations[177][178] of deepfake detectors based on convolutional neural networks. The first generation[177] used recurrent neural networks to spot spatio-temporal inconsistencies to identify visual artifacts left by the deepfake generation process. The algorithm achieved 96% accuracy on FaceForensics++, the only large-scale deepfake benchmark available at that time. The second generation[178] used end-to-end deep networks to differentiate between artifacts and high-level semantic facial information using two-branch networks. The first branch propagates color information while the other branch suppresses facial content and amplifies low-level frequencies using Laplacian of Gaussian (LoG). Other techniques suggest that blockchain could be used to verify the source of the media.[179] For instance, a video might have to be verified through the ledger before it is shown on social media platforms.[179] With this technology, only videos from trusted sources would be approved, decreasing the spread of possibly harmful deepfake media.[179] Digitally signing of all video and imagery by cameras and video cameras, including smartphone cameras, was suggested to fight deepfakes.[180] That allows tracing every photograph or video back to its original owner that can be used to pursue dissidents.[180] One easy way to uncover deepfake video calls consists in asking the caller to turn sideways.[181] Deepfake detection and regulation Legal experts are actively questioning whether current and emerging regulatory frameworks adequately balance the advancements in deepfake detection with the protection of individual rights. Relevant legislation being scrutinized includes the EU AI Act, the General Data Protection Regulation (GDPR), the Digital Services Act in the European Union, as well as the fragmented state and federal laws in the United States, the Online Safety Act 2023 in the United Kingdom, and China's Administrative Provisions on Deep Synthesis in Internet-Based Information Services (commonly known as the Deep Synthesis Provisions).[182] Scholars are evaluating if these frameworks effectively address the complex interplay between technology, rights, and responsibilities in the context of deepfakes.[183] Prevention Henry Ajder who works for Deeptrace, a company that detects deepfakes, says there are several ways to protect against deepfakes in the workplace. Semantic passwords or secret questions can be used when holding important conversations. Voice authentication and other biometric security features should be up to date. Educate employees about deepfakes.[168] Media literacy and deepfakes Due to the capability of deepfakes to fool viewers and believably mimic a person, research has indicated that the concept of truth through observation cannot be fully relied on.[184] Additionally, literacy of the technology among populations could be called into question due to the relatively new success of convincing deepfakes.[184] When combined with increasing ease of access to the technology, this has led to the concern amongst some experts that some societies are not prepared to interact with deepfakes organically without potential consequences from sharing misinformation and disinformation.[184] Media literacy has been considered as a potential counter to "prime" a viewer to identify a deepfake when they encounter one organically by engendering critical thinking.[184] While media literacy education can have conflicting results in the overall success in detecting deepfakes,[185] research has indicated that critical thinking and a skeptical outlook toward a presented piece of media are effective at assisting an individual in determining a deepfake.[185][186] Media literacy frameworks promote critical analysis of media and the motivations behind the presentation of the associated content. Media literacy shows promise as a potential cognitive countermeasure when interacting with malicious deepfakes.[185] Controversies In March 2024, a video clip was released by Buckingham Palace announcing that Kate Middleton had cancer and was undergoing chemotherapy. The appearance of a ring worn by Middleton in the clip fueled rumors that the clip was a deepfake.[187] Johnathan Perkins, UCLA's Director of Race and Equity, doubted Middleton had cancer, and further speculated that she could be in critical condition or dead.[188] Politics Recently, the use of deepfakes has inspired research on deepfake's capability and effects when used in disinformation campaigns. This capability has raised concerns, partly due to the potential of deepfakes to circumvent a person's skepticism and influence their views on an issue.[189][166] Unlike crude misinformation, political propaganda via generative AI often co-opts cultural tropes, visual media, and satire to craft emotionally resonant messages that are difficult to fact-check without losing nuance.[190] Due to the continued advancement in technology that improves deceptive capabilities of deepfakes, some scholars believe that deepfakes could pose a significant threat to democratic societies.[191] Studies have investigated the effects of political deepfakes.[189][191][166] In two separate studies focusing on Dutch participants, it was found that deepfakes have varying effects on an audience. As a tool of disinformation, deepfakes did not necessarily produce stronger reactions or shifts in viewpoints than traditional textual disinformation.[189] However, deepfakes did produce a reassuring effect on individuals who held preconceived notions that aligned with the viewpoint promoted by the deepfake disinformation in the study.[189] Additionally, deepfakes are effective when designed to target a specific demographic segment related to a particular issue.[191] "Microtargeting" involves understanding nuanced political issues of a specific demographic to create a targeted deepfake. The targeted deepfake is then used to connect with and influence the viewpoint of that demographic. Targeted deepfakes were found to be notably effective by the researchers.[191] Research has also found that the political effects of deepfakes are not necessarily as straightforward or assured. Researchers in the United Kingdom uncovered that deepfake political disinformation does not have a guaranteed effect on populations beyond indications that it may sow distrust or uncertainty in a source that provides the deepfake.[166] The implications of distrust in sources led researchers to conclude that deepfakes may have outsized effect in a "low-trust" information environment where public institutions are not trusted by the public.[166] Across the world, there are key instances where deepfakes have been used to misrepresent well-known politicians and other public figures.[192] Liar's dividend Main article: Liar's dividend The liar's dividend is a political and social phenomenon in which, when faced with incriminating or embarrassing authentic video or audio recordings of themselves, individuals will claim that the recordings are AI in order to dismiss the claims and gain sympathy.[193] |
懸念と対策 偽造写真は以前から数多く存在していたが、動画の偽造はより困難であり、ディープフェイクの出現により、動画が本物か偽物かを判別することがさらに難しく なっている。[117] AI研究者のアレックス・シャンパンダールは、ディープフェイク技術によって情報がどれほど迅速に改ざんされ得るかを人々は認識すべきであり、この問題は 技術的なものではなく、情報への信頼とジャーナリズムによって解決されるべきものであると述べている。[117] 南カリフォルニア大学のコンピュータサイエンス准教授ハオ・リーは、フェイクニュースなどの悪意ある目的で作成されたディープフェイクは、ディープフェイ ク技術に関する認識を広めるための対策が講じられなければ、さらに有害なものになると述べている。[163] Liは、人工知能とコンピュータグラフィックスの急速な進歩[164]により、2019年10月時点で、本物の動画とディープフェイクは早ければ6ヶ月以 内に区別がつかなくなると予測した。[163] グーグルの元不正対策責任者シューマン・ゴセマジュンダーは、ディープフェイクを「社会的な懸念」の領域と呼び、それらは必然的に自動生成可能な段階へと 進化し、個人がその技術を使って何百万本ものディープフェイク動画を制作できるようになると述べた。[165] 情報の信頼性 主な落とし穴は、メディアのコンテンツが真実に合致しているかどうかを判断できなくなる時代へと人類が陥りかねないという点だ[117][166]。 ディープフェイクは、偽情報攻撃を行い、疑念を生み出し、信頼を損なうための数あるツールの一つである。これらは、集団的な課題の特定、問題の議論、意思 決定への情報提供、政治的意思の行使を通じた問題解決といった、社会における民主的な機能を妨害する可能性がある。[167] 人々はまた、実際の出来事を偽物として退け始めるかもしれない。[168] 名誉毀損 ディープフェイクは、個人に甚大な損害を与える能力を有している。[169] これは、ディープフェイクがしばしば特定の個人、および／またはその人物と他者との関係を対象とし、世論や信念に影響を与えるほど強力な物語を作り出すこ とを狙っているためである。これは、音声を操作して偽の電話や会話を生成する「ディープフェイク音声フィッシング」を通じて行われる。[169] ディープフェイクのもう一つの利用方法は、メディアを操作して個人が有害な発言をしているかのように見せかける「捏造された私的な発言」である。 [169] 否定的な動画や音声の品質は、それほど高くなくてもよい。その人物の容姿や行動が認識できる限り、ディープフェイクはその人物の評判を傷つけることができ る。[168] 2020年9月、マイクロソフトはディープフェイク検出ソフトウェアツールを開発中であることを公表した。[170] 検出 音声 偽の音声を検出することは極めて複雑な作業であり、良好な性能を達成するためには音声信号への細心の注意が必要だ。ディープラーニングを用いる際、特徴量の設計における前処理やマスキング拡張が、性能向上に有効であることが実証されている。[171] 動画 ディープフェイクに関する学術研究の大部分は、ディープフェイク動画の検出に焦点を当てている。[172] ディープフェイク検出の一つのアプローチは、アルゴリズムを用いてパターンを認識し、ディープフェイク動画に生じる微妙な不整合を検出することである。 [172] 例えば、研究者らは、不規則なまばたきや照明のパターンといったエラーを動画から検出する自動システムを開発している。[173][17] このアプローチは、ディープフェイク検出が「動くゴールポスト」という特徴を持つため批判されている。つまり、ディープフェイク検出アルゴリズムが進化す るにつれて、ディープフェイクの制作手法も変化し、向上し続けるのである。[172] ディープフェイク検出に最も効果的なアルゴリズムを評価するため、主要テクノロジー企業の連合体が「ディープフェイク検出チャレンジ」を主催し、改ざんさ れたコンテンツを特定する技術の進展を加速させた。[174] 「ディープフェイク検出チャレンジ」で優勝したモデルは、4,000本の動画からなるテストセットにおいて65%の精度を示した。[175] マサチューセッツ工科大学のチームは2021年12月、一般人がこれらの動画から無作為に抽出した50本のサンプルを識別する際、69～72%の精度を持 つことを実証する論文を発表した。[176] 南カリフォルニア大学情報科学研究所のビジュアル・インテリジェンス・アンド・マルチメディア・アナリティクス・ラボラトリー（VIMAL）に所属するワ エル・アブダルマギード率いる別のチームは、畳み込みニューラルネットワークに基づく2世代[177][178]のディープフェイク検出器を開発した。第 1世代[177]は、再帰型ニューラルネットワークを用いて時空間的な不整合を検出し、ディープフェイク生成プロセスによって残された視覚的な不自然さを 特定した。このアルゴリズムは、当時利用可能だった唯一の大規模ディープフェイクベンチマークであるFaceForensics++において、96%の精 度を達成した。第2世代[178]では、エンドツーエンドの深層ネットワークを用い、2つの分岐ネットワークを通じてアーティファクトと高次元の意味論的 顔情報を区別した。一方の分岐は色情報を伝播させ、もう一方の分岐はガウスラプラシアン（LoG）を用いて顔の内容を抑制し、低次元の周波数を増幅させ る。 他の手法では、メディアの出所を検証するためにブロックチェーンが活用できると提案されている[179]。例えば、動画はソーシャルメディアプラット フォーム上で公開される前に、台帳を通じて検証される必要があるかもしれない[179]。この技術により、信頼できるソースからの動画のみが承認され、有 害な可能性のあるディープフェイクメディアの拡散が抑制される。[179] ディープフェイク対策として、スマートフォンのカメラを含むすべてのカメラやビデオカメラによる動画・画像へのデジタル署名が提案された。[180] これにより、あらゆる写真や動画を元の所有者に遡って追跡することが可能となり、反体制派の追跡に利用される恐れがある。[180] ディープフェイクのビデオ通話を暴く簡単な方法の一つは、通話相手に横を向くよう頼むことだ。[181] ディープフェイクの検知と規制 法律の専門家たちは、現行および新興の規制枠組みが、ディープフェイク検知技術の進歩と個人の権利保護との間で適切なバランスを取れているかどうかについ て、積極的に疑問を呈している。精査されている関連法規には、EU AI法、一般データ保護規則（GDPR）、欧州連合のデジタルサービス法に加え、米国における断片的な州法および連邦法、英国の2023年オンライン安全 法、そして中国の「インターネット情報サービスにおけるディープ合成に関する行政規定」（通称：ディープ合成規定）が含まれる。[182] 学者たちは、これらの枠組みがディープフェイクの文脈において、技術、権利、責任の複雑な相互作用に効果的に対処しているかどうかを評価している。 [183] 予防 ディープフェイクを検出する企業Deeptraceに勤務するヘンリー・アジャーは、職場でディープフェイクから身を守る方法はいくつかあると述べてい る。重要な会話を行う際には、意味的なパスワードや秘密の質問を使用することができる。音声認証やその他の生体認証機能は最新の状態に保つべきだ。従業員 に対してディープフェイクに関する教育を行う。[168] メディアリテラシーとディープフェイク ディープフェイクには視聴者を欺き、人格を説得力を持って模倣する能力があるため、研究によれば、観察による真実の概念は完全に信頼することはできないこ とが示されている。[184] さらに、説得力のあるディープフェイクが比較的最近になって成功を収めたことから、一般市民の技術に対するリテラシーが疑問視される可能性がある。 [184] 技術へのアクセスが容易になっていることと相まって、一部の専門家の間では、誤情報や偽情報の拡散による潜在的な影響なしに、社会がディープフェイクと自 然に接する準備が整っていないのではないかという懸念が生じている。[184] メディアリテラシーは、批判的思考を育むことで、視聴者が自然に出くわした際にディープフェイクを識別できるよう「準備」させる潜在的な対策として考えら れてきた。[184] メディアリテラシー教育は、ディープフェイクの検出における全体的な成功率において相反する結果をもたらす可能性があるものの、[185] 研究によれば、批判的思考と提示されたメディアに対する懐疑的な視点は、個人がディープフェイクを見極める上で有効であることが示されている。[185] [186] メディアリテラシーの枠組みは、メディアおよび関連コンテンツが提示される背景にある動機に対する批判的分析を促進する。メディアリテラシーは、悪意のあ るディープフェイクと対峙する際の潜在的な認知的対策として有望視されている。[185] 論争 2024年3月、バッキンガム宮殿は、ケイト・ミドルトンががんを患い、化学療法を受けていると発表する動画クリップを公開した。クリップ内でミドルトン が着用していた指輪の見た目が、このクリップがディープフェイクであるという噂を煽った。[187] UCLAの人種・公平性担当ディレクターであるジョナサン・パーキンスは、ミドルトンががんを患っていることを疑い、さらに彼女が危篤状態にあるか、ある いは死亡している可能性があると推測した。[188] 政治 最近、ディープフェイクの活用は、偽情報キャンペーンにおけるディープフェイクの能力と影響に関する研究を刺激している。この能力は懸念を引き起こしてお り、その一因として、ディープフェイクが人々の懐疑心を回避し、ある問題に対する見解に影響を与える可能性があることが挙げられる。[189][166] 粗雑な誤情報とは異なり、生成AIを用いた政治的プロパガンダは、文化的トロープ、視覚メディア、風刺を巧みに取り入れ、ニュアンスを失わずに事実確認を 行うのが困難な、感情に訴えかけるメッセージを作り出すことが多い。[190] ディープフェイクの欺瞞能力を高める技術の進歩が続いているため、一部の学者は、ディープフェイクが民主主義社会に重大な脅威をもたらす可能性があると見 ている。[191] 政治的なディープフェイクの影響を調査した研究がある。[189][191][166] オランダの参加者を対象とした2つの別々の研究では、ディープフェイクが視聴者に与える影響は様々であることが判明した。偽情報拡散の手段として、ディー プフェイクは従来のテキストによる偽情報に比べて、必ずしもより強い反応や見解の変化を引き起こすわけではない。[189] しかし、本研究において、ディープフェイクによる偽情報が推進する見解と合致する先入観を持っていた個人に対しては、ディープフェイクは安心感を与える効 果をもたらした。[189] さらに、特定の問題に関連する特定の層をターゲットに設計された場合、ディープフェイクは効果的である。[191] 「マイクロターゲティング」とは、特定の層の微妙な政治的課題を理解し、ターゲットを絞ったディープフェイクを作成することを指す。こうして作成された ターゲット型ディープフェイクは、その層とつながり、その層の視点に影響を与えるために使用される。研究者らは、ターゲット型ディープフェイクが著しく効 果的であることを確認した。[191] また、研究によれば、ディープフェイクの政治的影響は必ずしも単純明快であるとは限らず、確実なものでもないことが判明している。英国の研究者らは、 ディープフェイクによる政治的偽情報が、ディープフェイクを提供する情報源に対する不信感や不確実性を植え付ける可能性があるという兆候以外には、一般市 民に対して確実な効果をもたらすわけではないことを明らかにした。[166] 情報源への不信感がもたらす影響から、研究者らは、公的機関が国民から信頼されていない「低信頼」の情報環境において、ディープフェイクが過大な影響を及 ぼす可能性があるとの結論に至った。[166] 世界中で、著名な政治家やその他の公人を偽装するためにディープフェイクが利用された主要な事例が存在する。[192] ライアーズ・ディビデンド 本記事：ライアーズ・ディビデンド ライアーズ・ディビデンドとは、自身を不利にしたり恥をかかせたりする本物の動画や音声記録に直面した際、個人がその記録をAIによるものだと主張し、その主張を退けて同情を得ようとする政治的・社会的現象である。[193] |
| Example events A fake Midjourney-created image of Donald Trump being arrested[194] Deepfake video: Vladimir Putin warning Americans on election interference and increasing political divide The fake Midjourney-created image of Pope Francis wearing a puffer jacket Barack Obama On 17 April 2018, American actor Jordan Peele, BuzzFeed, and Monkeypaw Productions posted a deepfake of Barack Obama to YouTube, which depicted Barack Obama cursing and calling Donald Trump names.[195] In this deepfake, Peele's voice and face were transformed and manipulated into those of Obama. The intent of this video was to portray the dangerous consequences and power of deepfakes, and how deepfakes can make anyone say anything. Donald Trump On 5 May 2019, Derpfakes posted a deepfake of Donald Trump to YouTube, based on a skit Jimmy Fallon performed on The Tonight Show.[196] In the original skit (aired 4 May 2016), Jimmy Fallon dressed as Donald Trump and pretended to participate in a phone call with Barack Obama, conversing in a manner that presented him to be bragging about his primary win in Indiana.[196] In the deepfake, Jimmy Fallon's face was transformed into Donald Trump's face, with the audio remaining the same. This deepfake video was produced by Derpfakes with a comedic intent. In March 2023, a series of images appeared to show New York Police Department officers restraining Trump.[197] The images, created using Midjourney, were initially posted on Twitter by Eliot Higgins but were later re-shared without context, leading some viewers to believe they were real photographs.[194] Nancy Pelosi In 2019, a clip from Nancy Pelosi's speech at the Center for American Progress (given on 22 May 2019) in which the video was slowed down, in addition to the pitch of the audio being altered, to make it seem as if she were drunk, was widely distributed on social media. Critics argue that this was not a deepfake, but a shallowfake—a less sophisticated form of video manipulation.[198][199] Mark Zuckerberg In May 2019, two artists collaborating with the company CannyAI created a deepfake video of Facebook founder Mark Zuckerberg talking about harvesting and controlling data from billions of people. The video was part of an exhibit to educate the public about the dangers of artificial intelligence.[200][201] Kim Jong-un and Vladimir Putin On 29 September 2020, deepfakes of North Korean leader Kim Jong-un and Russian President Vladimir Putin were uploaded to YouTube, created by a nonpartisan advocacy group RepresentUs.[202] The deepfakes of Kim and Putin were meant to air publicly as commercials to relay the notion that interference by these leaders in US elections would be detrimental to the United States' democracy. The commercials also aimed to shock Americans to realize how fragile democracy is, and how media and news can significantly influence the country's path regardless of credibility.[202] However, while the commercials included an ending comment detailing that the footage was not real, they ultimately did not air due to fears and sensitivity regarding how Americans may react.[202] On 5 June 2023, an unknown source broadcast a reported deepfake of Vladimir Putin on multiple radio and television networks. In the clip, Putin appears to deliver a speech announcing the invasion of Russia and calling for a general mobilization of the army.[203] Volodymyr Zelenskyy On 16 March 2022, a one-minute long deepfake video depicting Ukraine's president Volodymyr Zelenskyy seemingly telling his soldiers to lay down their arms and surrender during the 2022 Russian invasion of Ukraine was circulated on social media.[167] Russian social media boosted it, but after it was debunked, Facebook and YouTube removed it. Twitter allowed the video in tweets where it was exposed as a fake, but said it would be taken down if posted to deceive people. Hackers inserted the disinformation into a live scrolling-text news crawl on TV station Ukraine 24, and the video appeared briefly on the station's website in addition to false claims that Zelenskyy had fled his country's capital, Kyiv. It was not immediately clear who created the deepfake, to which Zelenskyy responded with his own video, saying, "We don't plan to lay down any arms. Until our victory."[204] Wolf News In late 2022, pro-China propagandists started spreading deepfake videos purporting to be from "Wolf News" that used synthetic actors. The technology was developed by a London company called Synthesia, which markets it as a cheap alternative to live actors for training and HR videos.[205] Pope Francis In March 2023, an anonymous construction worker from Chicago used Midjourney to create a fake image of Pope Francis in a white Balenciaga puffer jacket. The image went viral, receiving over twenty million views.[206] Writer Ryan Broderick dubbed it "the first real mass-level AI misinformation case".[207] Experts consulted by Slate characterized the image as unsophisticated: "you could have made it on Photoshop five years ago".[208] Keir Starmer In October 2023, a deepfake audio clip of the UK Labour Party leader Keir Starmer abusing staffers was released on the first day of a Labour Party conference. The clip purported to be an audio tape of Starmer abusing his staffers.[209] Rashmika Mandanna In early November 2023, a famous South Indian actor, Rashmika Mandanna fell prey to DeepFake when a morphed video of a famous British-Indian influencer, Zara Patel, with Rashmika's face started to float on social media. Zara Patel claims to not be involved in its creation.[210] Bongbong Marcos In April 2024, a deepfake video misrepresenting Philippine President Bongbong Marcos was released. It is a slideshow accompanied by a deepfake audio of Marcos purportedly ordering the Armed Forces of the Philippines and special task force to act "however appropriate" should China attack the Philippines. The video was released amidst tensions related to the South China Sea dispute.[211] The Presidential Communications Office has said that there is no such directive from the president and said a foreign actor might be behind the fabricated media.[212] Criminal charges has been filed by the Kapisanan ng mga Brodkaster ng Pilipinas in relation to the deepfake media.[213] On 22 July 2024, a video of Marcos purportedly snorting illegal drugs was released by Claire Contreras, a former supporter of Marcos. Dubbed as the polvoron video, the media noted its consistency with the insinuation of Marcos' predecessor—Rodrigo Duterte—that Marcos is a drug addict; the video was also shown at a Hakbang ng Maisug rally organized by people aligned with Duterte.[214] Two days later, the Philippine National Police and the National Bureau of Investigation, based on their own findings, concluded that the video was created using AI; they further pointed out inconsistencies with the person on the video with Marcos, such as details on the two people's ears.[215] Joe Biden Prior to the 2024 United States presidential election, phone calls imitating the voice of the incumbent Joe Biden were made to dissuade people from voting for him. The person responsible for the calls was charged with voter suppression and impersonating a candidate. The FCC proposed to fine him US$6 million and Lingo Telecom, the company that allegedly relayed the calls, $2 million.[216][217] Arup Group The firm Arup Group lost $25 million in 2024 from a deepfake scam.[218] Sara Duterte Philippine Senator Ronald dela Rosa on 14 June 2025 shared a 40-second Deepfake video created via Veo where two students on the street testified on why the impeachment proceedings against Vice President Sara Duterte is selective and politically motivated.[219] Dela Rosa lauded the supposed youth for their opinions. When informed it was an AI video, he says that if that was the case the video creator had a point.[220] Duterte herself defended Dela Rosa, insisting that sharing an AI video is not wrong as long as its "not for profit".[221] Catherine Connolly On October 2025, Irish presidential candidate Catherine Connolly condemned an AI-generated deepfake video that mimicked an RTÉ News report and falsely claimed she was withdrawing from the presidential election; her campaign reported the video to the social media platforms it appeared on.[222][223] |
事例 Midjourneyで作成された、ドナルド・トランプが逮捕されるという偽の画像 [194] ディープフェイク動画：ウラジーミル・プーチンが選挙干渉と政治的分断の拡大についてアメリカ人に警告する様子 Midjourneyで作成された、ダウンジャケットを着た教皇フランシスコの偽画像 バラク・オバマ 2018年4月17日、アメリカの俳優ジョーダン・ピール、BuzzFeed、Monkeypaw Productionsは、バラク・オバマが罵倒し、ドナルド・トランプを悪口で呼ぶ様子を描いたバラク・オバマのディープフェイク動画をYouTube に投稿した。[195] このディープフェイクでは、ピールの声と顔がオバマのものへと変換・加工されていた。この動画の意図は、ディープフェイクの危険な影響力と威力、そして ディープフェイクがいかにして誰にでも何でも言わせることができるかを示すことだった。 ドナルド・トランプ 2019年5月5日、Derpfakesは、ジミー・ファロンが『ザ・トゥナイト・ショー』で披露したコントを基にしたドナルド・トランプのディープフェ イク動画をYouTubeに投稿した。[196] オリジナルのコント（2016年5月4日放送）では、ジミー・ファロンがドナルド・トランプの扮装をし、バラク・オバマとの電話会話に参加しているふりを し、インディアナ州での予備選勝利を自慢しているかのような口調で会話していた。[196] このディープフェイクでは、ジミー・ファロンの顔がドナルド・トランプの顔に変換され、音声はそのまま使用された。このディープフェイク動画は、 Derpfakesによってコメディ目的で制作された。2023年3月、ニューヨーク市警の警官たちがトランプを拘束しているように見える一連の画像が出 回った。[197] Midjourneyを使用して作成されたこれらの画像は、当初エリオット・ヒギンズによってTwitterに投稿されたが、後に文脈なしに再共有され、 一部の視聴者が本物の写真だと信じる結果となった。[194] ナンシー・ペロシ 2019年、アメリカ進歩センターでのナンシー・ペロシの演説（2019年5月22日）のクリップが、動画の再生速度を遅くし、音声のピッチも変更して、 彼女が酔っているかのように見せかける形で、ソーシャルメディア上で広く拡散された。批判派は、これはディープフェイクではなく、より単純な動画改変であ る「シャローフェイク」だと主張している。[198][199] マーク・ザッカーバーグ 2019年5月、CannyAI社と共同作業を行った2人のアーティストが、Facebook創設者のマーク・ザッカーバーグが数十億人のデータを収集・ 管理することについて語るディープフェイク動画を制作した。この動画は、人工知能の危険性について一般市民に啓発するための展示の一部であった。 [200] [201] 金正恩とウラジーミル・プーチン 2020年9月29日、無党派の市民団体「RepresentUs」が制作した、北朝鮮の指導者・金正恩とロシアのウラジーミル・プーチン大統領のディー プフェイク動画がYouTubeにアップロードされた。[202] 金正恩とプーチンのディープフェイク動画は、これらの指導者による米国選挙への干渉が米国の民主主義にとって有害であるという考えを伝えるため、コマー シャルとして公開されることを意図していた。また、このCMは、民主主義がいかに脆弱であるか、そして信頼性にかかわらずメディアやニュースがいかに国の 進路に大きな影響を与え得るかを、アメリカ人に衝撃を与えて気づかせることも目的としていた。[202] しかし、CMには映像が本物ではないことを説明する終了時のコメントが含まれていたものの、アメリカ人の反応に対する懸念や敏感さから、結局放送には至ら なかった。[202] 2023年6月5日、正体不明のソースが、ウラジーミル・プーチン大統領のディープフェイクとされる映像を複数のラジオ・テレビ局で放送した。その映像の 中で、プーチンはロシアの侵攻を発表し、軍の総動員を呼びかける演説を行っているように見える。[203] ウォロディミル・ゼレンスキー 2022年3月16日、2022年のロシアによるウクライナ侵攻中に、ウクライナのウォロディミル・ゼレンスキー大統領が兵士たちに武器を捨てて降伏する よう命じているように見える1分間のディープフェイク動画が、ソーシャルメディア上で拡散された。[167] ロシアのソーシャルメディアはこの動画を拡散したが、偽造であることが判明した後、FacebookとYouTubeは動画を削除した。Twitter は、その動画が偽物であると明記されたツイートでの掲載を許可したが、人々を欺く目的で投稿された場合は削除すると述べた。ハッカーらは、テレビ局「ウク ライナ24」の生放送中のニューステロップにこの偽情報を挿入し、同局のウェブサイトにも、ゼレンスキーが首都キエフから逃亡したという虚偽の主張と共 に、この動画が一時的に掲載された。誰がこのディープフェイクを作成したのかは直ちには明らかにならなかったが、これに対しゼレンスキーは自身の動画で 「我々は武器を置くつもりはない。我々の勝利が訪れるまで」と応じた。[204] ウルフ・ニュース 2022年後半、親中派のプロパガンダ勢力が、合成俳優を用いた「ウルフ・ニュース」を装ったディープフェイク動画を拡散し始めた。この技術はロンドンの 企業シンセシア（Synthesia）によって開発されたもので、同社はトレーニングや人事関連の動画制作において、生身の俳優に代わる安価な代替手段と してこれを販売している。[205] 教皇フランシスコ 2023年3月、シカゴの匿名の建設作業員がMidjourneyを使用して、白いバレンシアガのダウンジャケットを着た教皇フランシスコの偽画像を作成 した。この画像は拡散し、2,000万回以上の閲覧数を記録した。[206] 作家のライアン・ブロデリックはこれを「最初の真の大規模なAI偽情報事例」と呼んだ。[207] Slateが取材した専門家たちは、この画像を「洗練されていない」と評した： 「5年前ならPhotoshopで作成できたようなものだ」と評した。[208] キア・スターマー 2023年10月、英国労働党大会初日に、同党党首キア・スターマーがスタッフを罵倒するディープフェイク音声クリップが公開された。このクリップは、スターマーがスタッフを罵倒している音声テープであるかのように装っていた。[209] ラシュミカ・マンダナ 2023年11月初旬、南インドの有名女優ラシュミカ・マンダナがディープフェイクの被害に遭った。英国系インド人の有名インフルエンサー、ザラ・パテル の体にラシュミカの顔を合成した動画がソーシャルメディア上で拡散し始めたのだ。ザラ・パテルは、その作成には関与していないと主張している。[210] ボンボン・マルコス 2024年4月、フィリピンのボンボン・マルコス大統領を偽装したディープフェイク動画が公開された。これはスライドショー形式の動画で、中国がフィリピ ンを攻撃した場合、マルコス大統領がフィリピン軍および特殊部隊に対し「適切な手段を講じる」よう命じたとされるディープフェイク音声が添えられている。 この動画は、南シナ海をめぐる緊張が高まる中で公開された。[211] 大統領広報局は、大統領からそのような指示は出されていないとし、この捏造メディアの背後には外国勢力が関与している可能性があると述べた。[212] フィリピン放送協会（Kapisanan ng mga Brodkaster ng Pilipinas）は、このディープフェイク動画に関連して刑事告訴を行った。[213] 2024年7月22日、マルコス元支持者のクレア・コントレラスにより、マルコスが違法薬物を吸引しているとされる動画が公開された。「ポルボロン動画」 と称されたこの映像について、メディアは、マルコスの前任者であるロドリゴ・ドゥテルテがマルコスを薬物依存症であるとほのめかしていた点と符合すると指 摘した。また、この動画はドゥテルテ派が主催した「ハクバン・ング・マイスグ」集会で上映された。[214] 2日後、フィリピン国家警察と国家捜査局は、独自の調査結果に基づき、この動画がAIを用いて作成されたものと結論付けた。さらに、動画に映る人物とマル コスとの間に、両者の耳の形状などの点で不一致があることを指摘した。[215] ジョー・バイデン 2024年の米国大統領選挙に先立ち、現職のジョー・バイデンの声を模倣した電話がかかり、有権者に彼への投票を思いとどまらせようとした。この電話の発 信者は、有権者抑圧および候補者へのなりすましで起訴された。連邦通信委員会（FCC）は、彼に600万ドル、電話を中継したとされる企業リンゴ・テレコ ムに200万ドルの罰金を科すことを提案した。[216][217] アープ・グループ アープ・グループは2024年、ディープフェイク詐欺により2,500万ドルの損害を被った。[218] サラ・ドゥテルテ フィリピンのロナルド・デラ・ロサ上院議員は2025年6月14日、Veoを通じて作成された40秒間のディープフェイク動画を共有した。その動画では、 路上で2人の学生が、サラ・ドゥテルテ副大統領に対する弾劾手続きが恣意的かつ政治的な動機によるものである理由を証言していた。[219] デラ・ロサは、その若者たちの意見を称賛した。それがAI動画であると知らされると、彼は「もしそうなら、動画制作者の主張には一理ある」と述べた。 [220] ドゥテルテ自身はデラ・ロサを擁護し、「営利目的でない限り」、AI動画を共有することは間違っていないと主張した。[221] キャサリン・コノリー 2025年10月、アイルランドの大統領候補キャサリン・コノリーは、RTÉニュースの報道を模倣し、彼女が大統領選挙から撤退すると虚偽の主張をした AI生成のディープフェイク動画を非難した。彼女の選挙陣営は、その動画が掲載されたソーシャルメディアプラットフォームに報告した。[222] [223] |
| Responses Social media platforms Chat site Discord took action against deepfake pornography in 2018,[224] and has taken a general stance against deepfakes.[225][226] Gfycat began removing all deepfakes from its site on 31 January 2018.[227][225] Reddit banned the r/deepfakes subreddit on 7 February 2018, due to the policy violation of "involuntary pornography".[228][229][230][231][232][excessive citations] Also in February 2018, Pornhub said that it would ban deepfake videos on its website because it is considered "non consensual content" which violates their terms of service.[233] They had also stated previously that they will take down content flagged as deepfakes.[234] Writers from Motherboard reported that searching "deepfakes" on Pornhub still returned multiple recent deepfake videos.[233] Google added "involuntary synthetic pornographic imagery" to its ban list in September 2018, allowing anyone to request the block of results showing their fake nudes.[235][check quotation syntax] In May 2022, Google officially changed the terms of service for their Jupyter Notebook colabs, banning the use of their colab service for the purpose of creating deepfakes.[236] This came a few days after the publication of a VICE article in which its author, Emanuel Maiberg, reported "Most deepfakes are non-consensual porn", and that the main use of popular deepfake software DeepFaceLab (DFL), "the most important technology powering the vast majority of this generation of deepfakes", which often was used in combination with Google colabs, was to create non-consensual pornography. Maiberg pointed to the fact that among many other well-known examples of third-party DFL implementations, such as deepfakes commissioned by The Walt Disney Company, official music videos, and web series Sassy Justice by the creators of South Park, DFL's GitHub page, also linked to deepfake porn website Mr.Deepfakes and participants of the DFL Discord server also participate on Mr.Deepfakes.[237] Facebook has previously stated that they would not remove deepfakes from their platforms.[238] The videos will instead be flagged as fake by third-parties and then have a lessened priority in user's feeds.[239] This response was prompted in June 2019 after a deepfake featuring a 2016 video of Mark Zuckerberg circulated on Facebook and Instagram.[238] Subsequently, Facebook has taken efforts towards encouraging the creation of deepfakes in order to develop state of the art deepfake detection software. Facebook was the prominent partner in hosting the Deepfake Detection Challenge (DFDC), held December 2019, to 2114 participants who generated more than 35,000 models.[240] The top performing models with the highest detection accuracy were analyzed for similarities and differences; these findings are areas of interest in further research to improve and refine deepfake detection models.[240] Facebook has also detailed that the platform will be taking down media generated with artificial intelligence used to alter an individual's speech.[241] However, media that has been edited to alter the order or context of words in one's message would remain on the site but be labeled as false, since it was not generated by artificial intelligence.[241] In February 2018, representatives from Twitter (now X) stated that they would suspend accounts suspected of posting non-consensual deepfake content.[242] In 2019, Twitter announced it was seeking public feedback on a prospective policy for its handling of "synthetic and manipulated media".[243] Under the draft policy, TechCrunch reported that Twitter "would label and warn, but not always remove, manipulated media".[244][needs update] In August 2024, the secretaries of state of Minnesota, Pennsylvania, Washington, Michigan and New Mexico penned an open letter to X owner Elon Musk urging modifications to its AI chatbot Grok's new text-to-video generator, added in August 2024, stating that it had disseminated election misinformation.[245][246][247] Legislation In the United States, there have been some responses to the problems posed by deepfakes. In 2018, the Malicious Deep Fake Prohibition Act was introduced to the US Senate;[248] in 2019, the Deepfakes Accountability Act was introduced in the 116th United States Congress by U.S. representative for New York's 9th congressional district Yvette Clarke.[249] In 2024, over half of documented identity fraud involved AI-created forgeries,[250] leading several states to introduce legislation regarding deepfakes, including Virginia,[251] Texas, California, and New York;[252] charges as varied as identity theft, cyberstalking, and revenge porn have been pursued, while more comprehensive statutes are urged.[235] Among U.S. legislative efforts, on 3 October 2019, California governor Gavin Newsom signed into law Assembly Bills No. 602 and No. 730.[253][254] Assembly Bill No. 602 provides individuals targeted by sexually explicit deepfake content made without their consent with a cause of action against the content's creator.[253] Assembly Bill No. 730 prohibits the distribution of malicious deepfake audio or visual media targeting a candidate running for public office within 60 days of their election.[254] U.S. representative Yvette Clarke introduced H.R. 5586: Deepfakes Accountability Act into the 118th United States Congress on 20 September 2023 in an effort to protect national security from threats posed by deepfake technology.[255] U.S. representative María Salazar introduced H.R. 6943: No AI Fraud Act into the 118th United States Congress on 10 January 2024, to establish specific property rights of individual physicality, including voice.[256] Response from DARPA In 2016, the Defense Advanced Research Projects Agency (DARPA) launched the Media Forensics (MediFor) program which was funded through 2020.[257] MediFor aimed at automatically spotting digital manipulation in images and videos, including Deepfakes.[258][259] In the summer of 2018, MediFor held an event where individuals competed to create AI-generated videos, audio, and images as well as automated tools to detect these deepfakes.[260] According to the MediFor program, it established a framework of three tiers of information—digital integrity, physical integrity and semantic integrity—to generate one integrity score in an effort to enable accurate detection of manipulated media.[261] In 2019, DARPA hosted a "proposers day" for the Semantic Forensics (SemaFor) program where researchers were driven to prevent viral spread of AI-manipulated media.[262] DARPA and the Semantic Forensics Program were also working together to detect AI-manipulated media through efforts in training computers to utilize common sense, logical reasoning.[262] Built on the MediFor's technologies, SemaFor's attribution algorithms infer if digital media originates from a particular organization or individual, while characterization algorithms determine whether media was generated or manipulated for malicious purposes.[263] In March 2024, SemaFor published an analytic catalog that offers the public access to open-source resources developed under SemaFor.[264][265] International Panel on the Information Environment The International Panel on the Information Environment was launched in 2023 as a consortium of over 250 scientists working to develop effective countermeasures to deepfakes and other problems created by perverse incentives in organizations disseminating information via the Internet.[266] |
対応 ソーシャルメディアプラットフォーム チャットサイト「Discord」は2018年にディープフェイクポルノに対して措置を講じ[224]、ディープフェイク全般に対して反対の立場をとって いる[225][226]。Gfycatは2018年1月31日より、サイトからすべてのディープフェイクを削除し始めた[227]。[225] Redditは2018年2月7日、「非自発的ポルノ」に関するポリシー違反を理由に、r/deepfakesサブレディットを禁止した。[228] [229][230][231][232][過剰な引用] また2018年2月、Pornhubは、ディープフェイク動画を「同意のないコンテンツ」と見なし、利用規約に違反するとして、自社サイトから禁止すると 発表した。[233] 同社は以前にも、ディープフェイクとして報告されたコンテンツを削除すると述べていた。[234] Motherboardの記者らは、Pornhubで「deepfakes」と検索しても、依然として多数の最近のディープフェイク動画が表示されると報 じた。[233] Googleは2018年9月、禁止リストに「本人の意思に反する合成ポルノ画像」を追加し、誰でも自身の偽のヌード画像が表示される検索結果のブロック をリクエストできるようにした。[235][引用構文を確認] 2022年5月、GoogleはJupyter Notebook Colabの利用規約を正式に変更し、ディープフェイクの作成を目的としたColabサービスの利用を禁止した。[236] これは、VICE誌の記事が公開されてから数日後のことだった。同記事の著者であるエマニュエル・マイバーグは、「ほとんどのディープフェイクは同意のな いポルノである」と報告し、人気のあるディープフェイクソフトウェア「DeepFaceLab（DFL）」の主な用途は、 「この世代のディープフェイクの大部分を支える最も重要な技術」であり、しばしばGoogle Colabと組み合わせて使用されていたが、その主な用途は同意のないポルノの制作であった。マイバーグは、ウォルト・ディズニー・カンパニーが依頼した ディープフェイク、公式ミュージックビデオ、サウスパークの制作者によるウェブシリーズ『Sassy Justice』など、他の多くの有名なDFL実装例の中でも、DFLのGitHubページがディープフェイクポルノサイト「Mr.Deepfakes」 にリンクされており、DFLのDiscordサーバーの参加者もMr.Deepfakesに参加しているという事実を指摘した。[237] Facebookは以前、自社のプラットフォームからディープフェイクを削除しない方針を表明していた。[238] 代わりに、動画は第三者によって偽物としてフラグが立てられ、ユーザーのフィードでの表示優先度が下げられることになる。[239] この対応は、2016年のマーク・ザッカーバーグの映像を加工したディープフェイクがFacebookとInstagram上で拡散した2019年6月に 促されたものである。[238] その後、Facebookは最先端のディープフェイク検出ソフトウェアを開発するため、ディープフェイクの作成を奨励する取り組みを行った。 Facebookは2019年12月に開催された「Deepfake Detection Challenge（DFDC）」の主要な主催パートナーであり、2,114名の参加者が35,000以上のモデルを生成した。[240] 検出精度が最も高かった上位のモデルについて、類似点と異なる点が分析された。これらの知見は、ディープフェイク検出モデルを改善・洗練させるための今後 の研究における重要な関心事である。[240] またFacebookは、個人の発言を改変するために人工知能を用いて生成されたメディアを、プラットフォームから削除していく方針を明らかにした。 [241] しかし、メッセージ内の単語の順序や文脈を変更するために編集されたメディアは、人工知能によって生成されたものではないため、サイト上に残されるが、 「虚偽」とラベル付けされる。[241] 2018年2月、Twitter（現X）の代表者は、同意のないディープフェイクコンテンツを投稿した疑いのあるアカウントを停止すると述べた。 [242] 2019年、Twitterは「合成および改変されたメディア」の取り扱いに関する方針案について、一般からのフィードバックを募集していると発表した。 [243] 方針案によると、TechCrunchはTwitterが「改変されたメディアにはラベルを付け警告を行うが、必ずしも削除するわけではない」と報じた。 [244][更新が必要] 2024年8月、ミネソタ州、ペンシルベニア州、ワシントン州、ミシガン州、ニューメキシコ州の各州務長官は、Xのオーナーであるイーロン・マスクに対し 公開書簡を送り、2024年8月に追加されたAIチャットボット「Grok」の新しいテキストから動画への生成機能の修正を求めた。書簡では、同機能が選 挙に関する誤情報を拡散したと指摘した。[245][246][247] 立法 米国では、ディープフェイクがもたらす問題に対し、いくつかの対応がなされている。2018年には、悪意あるディープフェイク禁止法が米国上院に提出され た[248]。2019年には、ニューヨーク州第9選挙区選出のイヴェット・クラーク下院議員により、第116回米国議会でディープフェイク責任法が提出 された。[249] 2024年には、記録された身元詐欺の半数以上がAIによる偽造に関わっていた[250]ため、バージニア州[251]、テキサス州、カリフォルニア州、 ニューヨーク州[252]など、いくつかの州がディープフェイクに関する法案を提出した。身元盗用、サイバーストーキング、リベンジポルノなど多岐にわた る罪で起訴が行われている一方、より包括的な法整備が求められている。[235] 米国の立法措置の一つとして、2019年10月3日、カリフォルニア州のギャビン・ニューサム知事は、州議会法案第602号および第730号に署名し、こ れを法律として成立させた。[253][254] 州議会法案第602号は、本人の同意なしに作成された性的に露骨なディープフェイクコンテンツの標的となった個人に対し、コンテンツ作成者に対する訴権を 認めている。[253] 州議会法案第730号は、公職選挙の立候補者に対し、選挙の60日前から選挙当日までの間に、悪意のあるディープフェイク音声または映像メディアを配布す ることを禁止している。[254] イヴェット・クラーク下院議員は、ディープフェイク技術がもたらす脅威から国家安全保障を守るため、2023年9月20日に第118回米国議会へH.R. 5586「ディープフェイク責任法」を提出した。[255] マリア・サラザール下院議員は、2024年1月10日、第118回米国議会にH.R. 6943「AI詐欺防止法」を提出した。これは、声を含む個人の身体的特徴に関する具体的な財産権を確立することを目的としている。[256] DARPAからの対応 2016年、国防高等研究計画局（DARPA）は、2020年まで資金提供されたメディア・フォレンジクス（MediFor）プログラムを開始した。 [257] MediForは、ディープフェイクを含む画像や動画のデジタル改ざんを自動的に検出することを目的としていた。[258][259] 2018年の夏、MediForは、AI生成の動画、音声、画像、およびこれらのディープフェイクを検出する自動化ツールの作成を競うイベン トを開催した。[260] MediForプログラムによれば、改変されたメディアを正確に検出できるようにするため、デジタル完全性、物理的完全性、意味的完全性という3つの情報 階層からなるフレームワークを確立し、単一の完全性スコアを生成した。[261] 2019年、DARPAは「セマンティック・フォレンジクス（SemaFor）」プログラムの「提案者説明会」を開催し、研究者に対し、AIによって改変 されたメディアの拡散を防ぐよう促した。[262] また、DARPAとセマンティック・フォレンジクス・プログラムは、コンピュータに常識や論理的推論を活用させる訓練を行う取り組みを通じて、AIによっ て改変されたメディアの検出にも共同で取り組んでいた。[262] MediForの技術を基盤とするSemaForの帰属アルゴリズムは、デジタルメディアが特定の組織や個人に由来するかどうかを推論し、特徴付けアルゴ リズムは、メディアが悪意のある目的で生成または改変されたかどうかを判断する。[263] 2024年3月、SemaForは、SemaForの下で開発されたオープンソースリソースへの一般公開を提供する分析カタログを公表した。[264] [265] 情報環境に関する国際パネル 情報環境に関する国際パネルは、インターネットを介して情報を発信する組織における歪んだインセンティブによって引き起こされるディープフェイクやその他 の問題に対し、効果的な対策を開発するために活動する250名以上の科学者からなるコンソーシアムとして、2023年に発足した。[266] |
| Artificial intelligence and elections Artificial intelligence art Computer facial animation Dead Internet theory Digital cloning Digital face replacement Facial motion capture Fake nude photography Fifth-generation warfare Generative artificial intelligence Hyperreality Identity replacement technology Interactive online characters Regulation of artificial intelligence StyleGAN Synthetic media Uncanny valley Virtual actor |
人工知能と選挙 人工知能アート コンピュータによる顔のアニメーション デッド・インターネット理論 デジタルクローン デジタル顔置換 顔モーションキャプチャ 偽のヌード写真 第5世代戦争 生成型人工知能 ハイパーリアリティ 身元置換技術 インタラクティブなオンラインキャラクター 人工知能の規制 StyleGAN 合成メディア 不気味の谷 バーチャル俳優 |
| References 01. Wahab, Abdul (1 October 2025). "Futures of Deepfake and society: Myths, metaphors, and future implications for a trustworthy digital future". Futures. 173 103672. doi:10.1016/j.futures.2025.103672. ISSN 0016-3287. Kalpokas, Ignas; Kalpokiene, Julija (2022). Deepfakes. Springer Cham. pp. 1–2. doi:10.1007/978-3-030-93802-4. ISBN 978-3-030-93801-7. Berry, David M. (19 March 2025). "Synthetic media and computational capitalism: towards a critical theory of artificial intelligence". AI & Society. 40 (7): 5257–5269. arXiv:2503.18976. doi:10.1007/s00146-025-02265-2. ISSN 1435-5655. Juefei-Xu, Felix; Wang, Run; Huang, Yihao; Guo, Qing; Ma, Lei; Liu, Yang (1 July 2022). "Countering Malicious DeepFakes: Survey, Battleground, and Horizon". International Journal of Computer Vision. 130 (7): 1678–1734. doi:10.1007/s11263-022-01606-8. ISSN 1573-1405. PMC 9066404. PMID 35528632. Kietzmann, J.; Lee, L. W.; McCarthy, I. P.; Kietzmann, T. C. (2020). "Deepfakes: Trick or treat?" (PDF). Business Horizons. 63 (2): 135–146. doi:10.1016/j.bushor.2019.11.006. S2CID 213818098. Archived (PDF) from the original on 29 December 2022. Retrieved 30 December 2022. Waldrop, M. Mitchell (16 March 2020). "Synthetic media: The real trouble with deepfakes". Knowable Magazine. Annual Reviews. doi:10.1146/knowable-031320-1. Archived from the original on 19 November 2022. Retrieved 19 December 2022. Schwartz, Oscar (12 November 2018). "You thought fake news was bad? Deep fakes are where truth goes to die". The Guardian. Archived from the original on 16 June 2019. Retrieved 14 November 2018. Farid, Hany (15 September 2019). "Image Forensics". Annual Review of Vision Science. 5 (1): 549–573. doi:10.1146/annurev-vision-091718-014827. ISSN 2374-4642. PMID 31525144. S2CID 263558880. Archived from the original on 10 June 2024. Retrieved 20 September 2023. Banks, Alec (20 February 2018). "What Are Deepfakes & Why the Future of Porn is Terrifying". Highsnobiety. Archived from the original on 14 July 2021. Retrieved 20 February 2018. Christian, Jon. "Experts fear face swapping tech could start an international showdown". The Outline. Archived from the original on 16 January 2020. Retrieved 28 February 2018. Roose, Kevin (4 March 2018). "Here Come the Fake Videos, Too". The New York Times. ISSN 0362-4331. Archived from the original on 18 June 2019. Retrieved 24 March 2018. Schreyer, Marco; Sattarov, Timur; Reimer, Bernd; Borth, Damian (October 2019). "Adversarial Learning of Deepfakes in Accounting". arXiv:1910.03810 [cs.LG]. "Dangers of Deepfake: What to Watch For | University IT". uit.stanford.edu. Retrieved 11 August 2025. Savat, Sara (19 August 2024). "Political deepfake videos no more deceptive than other fake news, research finds". The Source. Retrieved 11 August 2025. Caramancion, Kevin Matthe (21 April 2021). "The Demographic Profile Most at Risk of being Disinformed". 2021 IEEE International IOT, Electronics and Mechatronics Conference (IEMTRONICS). IEEE. pp. 1–7. doi:10.1109/iemtronics52119.2021.9422597. ISBN 978-1-6654-4067-7. S2CID 234499888. Archived from the original on 10 June 2024. Retrieved 9 June 2023. Lalla, Vejay; Mitrani, Adine; Harned, Zach. "Artificial Intelligence: Deepfakes in the Entertainment Industry". World Intellectual Property Organization. Archived from the original on 8 November 2022. Retrieved 8 November 2022. Harwell, Drew (12 June 2019). "Top AI researchers race to detect 'deepfake' videos: 'We are outgunned'". The Washington Post. Archived from the original on 31 October 2019. Retrieved 8 November 2019. Sanchez, Julian (8 February 2018). "Thanks to AI, the future of 'fake news' is being pioneered in homemade porn". NBC News. Archived from the original on 9 November 2019. Retrieved 8 November 2019. Porter, Jon (2 September 2019). "Another convincing deepfake app goes viral prompting immediate privacy backlash". The Verge. Archived from the original on 3 September 2019. Retrieved 8 November 2019. Masood, Momina; Nawaz, Mariam; Malik, Khalid Mahmood; Javed, Ali; Irtaza, Aun; Malik, Hafiz (February 2023). "Deepfakes generation and detection: state-of-the-art, open challenges, countermeasures, and way forward". Applied Intelligence. 53 (4): 2-5. doi:10.1007/s10489-022-03766-z. Keith D., Foote. "A Brief History of Generative AI". Dataversity. Vatreš, Amina (2021). "Deepfake Phenomenon: An advanced form of fake news and its implications on reliable journalism". Društvene i humanističke studije. 16 (3): 561–576. doi:10.51558/2490-3647.2021.6.3.561. Rana, Md Shohel; Nobi, Mohammad Nur; Murali, Beddhu; Sung, Andrew H. (2022). "Deepfake Detection: A Systematic Literature Review". IEEE Access. 10: 25494–25513. Bibcode:2022IEEEA..1025494R. doi:10.1109/ACCESS.2022.3154404. ISSN 2169-3536. Sudarsan, Ananya; Chua, Hui Na; Jasser, Muhammed Basheer; Wong, Richard T.K. (1 March 2024). "Deepfake Characterization, Propagation, and Detection in Social Media - A Synthesis Review". 2024 20th IEEE International Colloquium on Signal Processing & Its Applications (CSPA). IEEE. pp. 219–224. doi:10.1109/CSPA60979.2024.10525373. ISBN 979-8-3503-8231-0. Sudarsan, Ananya; Chua, Hui Na; Jasser, Muhammed Basheer; Wong, Richard T.K. (1 March 2024). "Deepfake Characterization, Propagation, and Detection in Social Media - A Synthesis Review". 2024 20th IEEE International Colloquium on Signal Processing & Its Applications (CSPA). IEEE. pp. 219–224. doi:10.1109/CSPA60979.2024.10525373. ISBN 979-8-3503-8231-0. Sudarsan, Ananya; Chua, Hui Na; Jasser, Muhammed Basheer; Wong, Richard T.K. (1 March 2024). "Deepfake Characterization, Propagation, and Detection in Social Media - A Synthesis Review". 2024 20th IEEE International Colloquium on Signal Processing & Its Applications (CSPA). IEEE. pp. 219–224. doi:10.1109/CSPA60979.2024.10525373. ISBN 979-8-3503-8231-0. Bode, Lisa; Lees, Dominic; Golding, Dan (29 July 2021). "The Digital Face and Deepfakes on Screen". Convergence: The International Journal of Research into New Media Technologies. 27 (4): 849–854. doi:10.1177/13548565211034044. ISSN 1354-8565. S2CID 237402465. "Take it down act adult content creators platforms". copyrightshark.com. Retrieved 20 March 2026. Holliday, Christopher (26 July 2021). "Rewriting the stars: Surface tensions and gender troubles in the online media production of digital deepfakes". Convergence: The International Journal of Research into New Media Technologies. 27 (4): 899–918. doi:10.1177/13548565211029412. ISSN 1354-8565. S2CID 237402548. Gingrich, Oliver M. (5 July 2021). "GENDER*UCK: Reframing gender & media art". Proceedings of EVA London 2021 (EVA 2021). Electronic Workshops in Computing. doi:10.14236/ewic/EVA2021.25. S2CID 236918199. Fletcher, John (2018). "Deepfakes, Artificial Intelligence, and Some Kind of Dystopia: The New Faces of Online Post-Fact Performance". Theatre Journal. 70 (4): 455–471. doi:10.1353/tj.2018.0097. ISSN 1086-332X. S2CID 191988083. de Seta, Gabriele (30 July 2021). "Huanlian, or changing faces: Deepfakes on Chinese digital media platforms". Convergence: The International Journal of Research into New Media Technologies. 27 (4): 935–953. doi:10.1177/13548565211030185. hdl:11250/2833613. ISSN 1354-8565. S2CID 237402447. Archived from the original on 10 June 2024. Retrieved 9 February 2022. Bregler, Christoph; Covell, Michele; Slaney, Malcolm (1997). "Video Rewrite: Driving visual speech with audio". Proceedings of the 24th annual conference on Computer graphics and interactive techniques – SIGGRAPH '97. Vol. 24. pp. 353–360. doi:10.1145/258734.258880. ISBN 0-89791-896-7. S2CID 2341707. Archived from the original on 10 June 2024. Retrieved 10 July 2023. Suwajanakorn, Supasorn; Seitz, Steven M.; Kemelmacher-Shlizerman, Ira (July 2017). "Synthesizing Obama: Learning Lip Sync from Audio". ACM Trans. Graph. 36 (4): 95:1–95:13. doi:10.1145/3072959.3073640. S2CID 207586187. Archived from the original on 19 May 2020. Retrieved 10 July 2023. Thies, Justus; Zollhöfer, Michael; Stamminger, Marc; Theobalt, Christian; Nießner, Matthias (June 2016). "Face2Face: Real-Time Face Capture and Reenactment of RGB Videos". 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). IEEE. pp. 2387–2395. arXiv:2007.14808. doi:10.1109/CVPR.2016.262. ISBN 978-1-4673-8851-1. S2CID 206593693. Mirsky, Yisroel; Mahler, Tom; Shelef, Ilan; Elovici, Yuval (2019). CT-GAN: Malicious Tampering of 3D Medical Imagery using Deep Learning. pp. 461–478. arXiv:1901.03597. ISBN 978-1-939133-06-9. Archived from the original on 20 June 2020. Retrieved 18 June 2020. O'Neill, Patrick Howell (3 April 2019). "Researchers Demonstrate Malware That Can Trick Doctors Into Misdiagnosing Cancer". Gizmodo. Archived from the original on 10 June 2024. Retrieved 3 June 2022. Mirsky, Yisroel; Lee, Wenke (12 May 2020). "The Creation and Detection of Deepfakes: A Survey". ACM Computing Surveys. arXiv:2004.11138. doi:10.1145/3425780. S2CID 216080410. Karnouskos, Stamatis (2020). "Artificial Intelligence in Digital Media: The Era of Deepfakes" (PDF). IEEE Transactions on Technology and Society. 1 (3): 138. Bibcode:2020ITTS....1..138K. doi:10.1109/TTS.2020.3001312. S2CID 221716206. Archived (PDF) from the original on 14 July 2021. Retrieved 9 July 2020. Cole, Samantha (24 January 2018). "We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now". Vice. Archived from the original on 7 September 2019. Retrieved 4 May 2019. Haysom, Sam (31 January 2018). "People Are Using Face-Swapping Tech to Add Nicolas Cage to Random Movies and What Is 2018". Mashable. Archived from the original on 24 July 2019. Retrieved 4 April 2019. Lyu, Siwei (July 2020). "Deepfake Detection: Current Challenges and Next Steps". 2020 IEEE International Conference on Multimedia & Expo Workshops (ICMEW). p. 1. arXiv:2003.09234. doi:10.1109/ICMEW46912.2020.9105991. ISBN 978-1-7281-1485-9. Hathaway, Jay (8 February 2018). "Here's where 'deepfakes,' the new fake celebrity porn, went after the Reddit ban". The Daily Dot. Archived from the original on 6 July 2019. Retrieved 22 December 2018. "What is a Deepfake and How Are They Made?". Online Tech Tips. 23 May 2019. Archived from the original on 8 November 2019. Retrieved 20 December 2025. Robertson, Adi (11 February 2018). "I'm using AI to face-swap Elon Musk and Jeff Bezos, and I'm really bad at it". The Verge. Archived from the original on 24 March 2018. Retrieved 8 November 2019. "Deepfakes web | The best online faceswap app". Deepfakes web. Archived from the original on 14 July 2021. Retrieved 21 February 2021. "Faceswap is the leading free and Open Source multi-platform Deepfakes software". 15 October 2019. Archived from the original on 31 May 2021. Retrieved 14 July 2021 – via WordPress. "DeepFaceLab is a tool that utilizes machine learning to replace faces in videos. Includes prebuilt ready to work standalone Windows 7,8,10 binary (look readme.md).: iperov/DeepFaceLab". 19 June 2019. Archived from the original on 9 May 2019. Retrieved 6 March 2019 – via GitHub. Chandler, Simon. "Why Deepfakes Are A Net Positive For Humanity". Forbes. Archived from the original on 16 November 2020. Retrieved 3 November 2020. Pangburn, D. J. (21 September 2019). "You've been warned: Full body deepfakes are the next step in AI-based human mimicry". Fast Company. Archived from the original on 8 November 2019. Retrieved 8 November 2019. Lyons, Kim (29 January 2020). "FTC says the tech behind audio deepfakes is getting better". The Verge. Archived from the original on 30 January 2020. Retrieved 8 February 2020. "Audio samples from "Transfer Learning from Speaker Verification to Multispeaker Text-To-Speech Synthesis"". google.github.io. Archived from the original on 14 November 2019. Retrieved 8 February 2020. Jia, Ye; Zhang, Yu; Weiss, Ron J.; Wang, Quan; Shen, Jonathan; Ren, Fei; Chen, Zhifeng; Nguyen, Patrick; Pang, Ruoming; Moreno, Ignacio Lopez; Wu, Yonghui (2 January 2019). "Transfer Learning from Speaker Verification to Multispeaker Text-To-Speech Synthesis". arXiv:1806.04558 [cs.CL]. "TUM Visual Computing: Prof. Matthias Nießner". www.niessnerlab.org. Archived from the original on 21 February 2020. Retrieved 8 February 2020. "Full Page Reload". IEEE Spectrum: Technology, Engineering, and Science News. 11 December 2019. Archived from the original on 26 June 2020. Retrieved 8 February 2020. "Contributing Data to Deepfake Detection Research". 24 September 2019. Archived from the original on 5 February 2020. Retrieved 8 February 2020. Thalen, Mikael. "You can now deepfake yourself into a celebrity with just a few clicks". daily dot. Archived from the original on 6 April 2020. Retrieved 3 April 2020. Matthews, Zane (6 March 2020). "Fun or Fear: Deepfake App Puts Celebrity Faces In Your Selfies". Kool1079. Archived from the original on 24 March 2020. Retrieved 6 March 2020. van der Sloot, Bart (2024). Regulating the Synthetic Society : Generative AI, Legal Questions, and Societal Challenges. Bloomsbury Academic. ISBN 978-1-5099-7495-5. Retrieved 21 November 2025. "Kanye West, Kim Kardashian and her dad: Should we make holograms of the dead?". BBC News. 31 October 2020. Archived from the original on 15 November 2020. Retrieved 11 November 2020. "Kanye West Gave Kim Kardashian a Hologram of Her Father for Her Birthday". themodems. 30 October 2020. Archived from the original on 11 November 2020. Retrieved 11 November 2020. "Parkland victim Joaquin Oliver comes back to life in heartbreaking plea to voters". adage.com. 2 October 2020. Archived from the original on 11 November 2020. Retrieved 11 November 2020. Bowenbank, Starr (14 September 2022). "Simon Cowell Duets With Elvis in Metaphysic's Latest Deepfake 'AGT' Performance: Watch". Billboard. Archived from the original on 15 September 2022. Retrieved 8 November 2022. Zucconi, Alan (14 March 2018). "Understanding the Technology Behind DeepFakes". Alan Zucconi. Archived from the original on 1 November 2019. Retrieved 8 November 2019. "What is a Deepfake?". Blog - Synthesys. 3 May 2022. Archived from the original on 26 June 2022. Retrieved 17 May 2022. Ayata, Ozan. "Artificial Realities: Mitigations against Deepfakes" (PDF). Centre for International Governance Innovation. Retrieved 4 February 2026. "These New Tricks Can Outsmart Deepfake Videos—for Now". Wired. ISSN 1059-1028. Archived from the original on 3 October 2019. Retrieved 9 November 2019. Kemp, Luke (8 July 2019). "In the age of deepfakes, could virtual actors put humans out of business?". The Guardian. ISSN 0261-3077. Archived from the original on 20 October 2019. Retrieved 20 October 2019. Verma, Pranshu (21 July 2023). "Digital clones made by AI tech could make Hollywood extras obsolete". Washington Post. Archived from the original on 20 July 2023. Retrieved 4 January 2024. "High-Resolution Neural Face Swapping for Visual Effects | Disney Research Studios". Archived from the original on 27 November 2020. Retrieved 7 October 2020. "Disney's deepfake technology could be used in film and TV". Blooloop. 21 July 2020. Archived from the original on 12 November 2020. Retrieved 7 October 2020. Lindley, Jon A. (2 July 2020). "Disney Ventures Into Bringing Back 'Dead Actors' Through Facial Recognition". Tech Times. Archived from the original on 14 July 2021. Retrieved 7 October 2020. Radulovic, Petrana (17 October 2018). "Harrison Ford is the star of Solo: A Star Wars Story thanks to deepfake technology". Polygon. Archived from the original on 20 October 2019. Retrieved 20 October 2019. Winick, Erin. "How acting as Carrie Fisher's puppet made a career for Rogue One's Princess Leia". MIT Technology Review. Archived from the original on 23 October 2019. Retrieved 20 October 2019. "Deepfake Luke Skywalker is another step down a ghoulish CGI path". British GQ. 10 February 2022. Archived from the original on 22 May 2022. Retrieved 3 June 2022. "Not Vijay, Here's Who Played the Younger Version of Him in The GOAT". english.tupaki.com/. 8 September 2024. Retrieved 8 November 2024. Constantine, Megan; Lim, Audrey; Glass, Lia; Webb, Melanie; Simpson, Kyle; Carrion, Joey; DeMoraes, Isa; Olatunde, Timi; Westerman, Reagan; Rybachek, Anna; Gunn, Nicholas (24 October 2025). "The Student Movement Volume 110 Issue 5: At the Market for Cuisine and K-Pop". The Student Movement V. 110 (2025-2026). Katerina Cizek, William Uricchio, and Sarah Wolozin: Collective Wisdom | Massachusetts Institute of Technology [1] Archived 4 March 2020 at the Wayback Machine "ANSA | Ornella Muti in cortometraggio a Firenze". 3 November 2017. Archived from the original on 27 February 2020. Retrieved 27 February 2020. "'South Park' creators launch new deepfake satire series 'Sassy Justice'". NME. 27 October 2020. Archived from the original on 10 June 2024. Retrieved 7 June 2022. Tayler, Kelley M.; Harris, Laurie A. (8 June 2021). Deep Fakes and National Security (Report). Congressional Research Service. p. 1. Archived from the original on 14 June 2022. Retrieved 19 July 2021. Limberg, Peter (24 May 2020). "Blackmail Inflation". CultState. Archived from the original on 24 January 2021. Retrieved 18 January 2021. "For Kappy". Telegraph. 24 May 2020. Archived from the original on 24 January 2021. Retrieved 18 January 2021. Harwell, Drew (8 February 2023). "How deepfake videos are used to spread disinformation and harass people". The Washington Post. Retrieved 13 August 2025. "The AGT Judges Had Priceless Reactions to That Simon Cowell Singing Audition". NBC Insider Official Site. 8 June 2022. Archived from the original on 29 August 2022. Retrieved 29 August 2022. Marr, Bernard. "Can A Metaverse AI Win America's Got Talent? (And What That Means For The Industry)". Forbes. Archived from the original on 30 August 2022. Retrieved 30 August 2022. Morales, Jowi (10 June 2022). "Deepfakes Go Mainstream: How Metaphysic's AGT Entry Will Impact Entertainment". MUO. Archived from the original on 10 June 2024. Retrieved 29 August 2022. Carter, Rebecca (1 June 2019). "BGT viewers slam Simon Cowell for 'rude' and 'nasty' remark to contestant". Entertainment Daily. Archived from the original on 31 August 2022. Retrieved 31 August 2022. Simon Cowell Sings on Stage?! Metaphysic Will Leave You Speechless | AGT 2022, archived from the original on 29 August 2022, retrieved 29 August 2022 Segarra, Edward. "'AGT' judges Simon Cowell, Howie Mandel get 'deepfake' treatment by AI act Metaphysic: Watch here". USA TODAY. Archived from the original on 31 August 2022. Retrieved 31 August 2022. Bowenbank, Starr (14 September 2022). "Simon Cowell Duets With Elvis in Metaphysic's Latest Deepfake 'AGT' Performance: Watch". Billboard. Archived from the original on 10 June 2024. Retrieved 15 September 2022. Zwiezen, Zack (18 January 2021). "Website Lets You Make GLaDOS Say Whatever You Want". Kotaku. Archived from the original on 17 January 2021. Retrieved 18 January 2021. Ruppert, Liana (18 January 2021). "Make Portal's GLaDOS And Other Beloved Characters Say The Weirdest Things With This App". Game Informer. Archived from the original on 18 January 2021. Retrieved 18 January 2021. Clayton, Natalie (19 January 2021). "Make the cast of TF2 recite old memes with this AI text-to-speech tool". PC Gamer. Archived from the original on 19 January 2021. Retrieved 19 January 2021. Sherman, Maria (3 December 2023). "Kiss say farewell to live touring, become first US band to go virtual and become digital avatars". AP News. Associated Press. Archived from the original on 1 January 2024. Retrieved 4 January 2024. Cerullo, Megan (9 January 2024). "AI-generated ads using Taylor Swift's likeness dupe fans with fake Le Creuset giveaway". CBS News. Archived from the original on 10 January 2024. Retrieved 10 January 2024. Westfall, Chris. "AI Deepfakes On The Rise Causing Billions In Fraud Losses". Forbes. Retrieved 1 December 2024. Hsu, Tiffany; Lu, Yiwen (9 January 2024). "No, That's Not Taylor Swift Peddling Le Creuset Cookware". The New York Times. p. B1. Retrieved 10 January 2024. Taylor, Derrick Bryson (2 October 2023). "Tom Hanks Warns of Dental Ad Using A.I. Version of Him". The New York Times. ISSN 0362-4331. Archived from the original on 10 June 2024. Retrieved 12 October 2023. Johnson, Kirsten (11 December 2023). "Arizona woman falls victim to deepfake scam using celebrities on social media". ABC 15 Arizona. Archived from the original on 10 January 2024. Retrieved 10 January 2024. Kulundu, Mary (4 January 2024). "Deepfake videos of Elon Musk used in get-rich-quick scam". Agence France-Presse. Archived from the original on 10 June 2024. Retrieved 10 January 2024. Esmael, Lisbet (3 January 2024). "PH needs multifaceted approach vs 'deepfake' videos used to scam Pinoys". CNN Philippines. Archived from the original on 10 January 2024. Retrieved 10 January 2024. Gerken, Tom (4 October 2023). "MrBeast and BBC stars used in deepfake scam videos". BBC News. Archived from the original on 10 June 2024. Retrieved 10 January 2024. Lim, Kimberly (29 December 2023). "Singapore PM Lee warns of 'very convincing' deepfakes 'spreading disinformation' after fake video of him emerges". South China Morning Post. Archived from the original on 9 January 2024. Retrieved 10 January 2024. Taylor, Josh (30 November 2023). "Scammer paid Facebook 7c per view to circulate video of deepfake Jim Chalmers and Gina Rinehart". The Guardian. Archived from the original on 10 June 2024. Retrieved 10 January 2024. Palmer, Joseph Olbrycht (14 December 2023). "Deepfake of Australian treasury, central bank officials used to promote investment scam". Agence France-Presse. Archived from the original on 10 January 2024. Retrieved 10 January 2024. Koebler, Jason (9 January 2024). "Deepfaked Celebrity Ads Promoting Medicare Scams Run Rampant on YouTube". 404 Media. Archived from the original on 10 January 2024. Retrieved 10 January 2024. Rosenblatt, Kalhan (3 October 2023). "MrBeast calls TikTok ad showing an AI version of him a 'scam'". NBC News. Archived from the original on 10 January 2024. Retrieved 10 January 2024. Koebler, Jason (25 January 2024). "YouTube Deletes 1,000 Videos of Celebrity AI Scam Ads". 404 Media. Archived from the original on 10 June 2024. Retrieved 2 February 2024. Bucci, Nino (27 November 2023). "Dick Smith criticises Facebook after scammers circulate deepfake video ad". The Guardian. Archived from the original on 10 June 2024. Retrieved 10 January 2024. Lomas, Natasha (7 July 2023). "Martin Lewis warns over 'first' deepfake video scam ad circulating on Facebook". TechCrunch. Archived from the original on 10 January 2024. Retrieved 10 January 2024. Lopatto, Elizabeth (3 January 2024). "Fun new deepfake consequence: more convincing crypto scams". The Verge. Archived from the original on 10 January 2024. Retrieved 10 January 2024. Statt, Nick (5 September 2019). "Thieves are now using AI deepfakes to trick companies into sending them money". Archived from the original on 15 September 2019. Retrieved 13 September 2019. Damiani, Jesse. "A Voice Deepfake Was Used To Scam A CEO Out Of $243,000". Forbes. Archived from the original on 14 September 2019. Retrieved 9 November 2019. "Deepfakes, explained". MIT Sloan. 5 March 2024. Archived from the original on 5 March 2024. Retrieved 6 March 2024. Schwartz, Christopher; Wright, Matthew (17 March 2023). "Voice deepfakes are calling – here's what they are and how to avoid getting scammed". The Conversation. Archived from the original on 4 January 2024. Retrieved 4 January 2024. "Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos". Aargauer Zeitung. az Aargauer Zeitung. 3 February 2018. Archived from the original on 13 April 2019. Retrieved 9 April 2018. Gensing, Patrick. "Deepfakes: Auf dem Weg in eine alternative Realität?". Archived from the original on 11 October 2018. Retrieved 9 April 2018. Romano, Aja (18 April 2018). "Jordan Peele's simulated Obama PSA is a double-edged warning against fake news". Vox. Archived from the original on 11 June 2019. Retrieved 10 September 2018. Swenson, Kyle (11 January 2019). "A Seattle TV station aired doctored footage of Trump's Oval Office speech. The employee has been fired". The Washington Post. Archived from the original on 15 April 2019. Retrieved 11 January 2019. O'Sullivan, Donie (4 June 2019). "Congress to investigate deepfakes as doctored Pelosi video causes stir". CNN. Archived from the original on 29 June 2019. Retrieved 9 November 2019. "#TellTheTruthBelgium". Extinction Rebellion Belgium. Archived from the original on 25 April 2020. Retrieved 21 April 2020. Holubowicz, Gerald (15 April 2020). "Extinction Rebellion s'empare des deepfakes". Journalism.design (in French). Archived from the original on 29 July 2020. Retrieved 21 April 2020. Carnahan, Dustin (16 September 2020). "Faked videos shore up false beliefs about Biden's mental health". The Conversation. Archived from the original on 9 April 2022. Retrieved 9 April 2022. Parker, Ashley (7 September 2020). "Trump and allies ramp up efforts to spread disinformation and fake news". The Independent. Retrieved 9 April 2022. Christopher, Nilesh (18 February 2020). "We've Just Seen the First Use of Deepfakes in an Indian Election Campaign". Vice. Archived from the original on 19 February 2020. Retrieved 19 February 2020. "Amabie: the mythical creature making a coronavirus comeback". The Economist. 28 April 2020. ISSN 0013-0613. Archived from the original on 20 May 2021. Retrieved 3 June 2021. Roth, Andrew (22 April 2021). "European MPs targeted by deepfake video calls imitating Russian opposition". The Guardian. Archived from the original on 29 March 2022. Retrieved 29 March 2022. Ivanov, Maxim; Rothrock, Kevin (22 April 2021). "Hello, this is Leonid Volkov* Using deepfake video and posing as Navalny's right-hand man, Russian pranksters fool Latvian politicians and journalists into invitation and TV interview". Meduza. Archived from the original on 29 March 2022. Retrieved 29 March 2022. "Dutch MPs in video conference with deep fake imitation of Navalny's Chief of Staff". nltimes.nl. 24 April 2021. Archived from the original on 10 June 2024. Retrieved 29 March 2022. "'Deepfake' Navalny Aide Targets European Lawmakers". The Moscow Times. 23 April 2021. Archived from the original on 29 March 2022. Retrieved 29 March 2022. Vincent, James (30 April 2021). "'Deepfake' that supposedly fooled European politicians was just a look-alike, say pranksters". The Verge. Archived from the original on 29 March 2022. Retrieved 29 March 2022. Novak, Matt (8 May 2023). "Viral Video Of Kamala Harris Speaking Gibberish Is Actually A Deepfake". Forbes. Archived from the original on 18 July 2023. Retrieved 18 July 2023. "PolitiFact - Kamala Harris wasn't slurring about today, yesterday or tomorrow. This video is altered". Politifact. Archived from the original on 10 June 2024. Retrieved 18 July 2023. Shuham, Matt (8 June 2023). "DeSantis Campaign Ad Shows Fake AI Images Of Trump Hugging Fauci". HuffPost. Archived from the original on 10 June 2024. Retrieved 8 June 2023. GÖRGEN, Ahmet; SAYGINER, Can (1 August 2025). "Deepfake Technology, Media, and National Security: The Case of the German Chancellor's Deepfake Video". Security Strategies Journal / Güvenlik Stratejileri Dergisi. 21 (51): 279–297. doi:10.17752/guvenlikstrtj.1706990. ISSN 1305-4740. Retrieved 3 December 2025. "AI Deepfakes Pose Major Threat to Elections in US and India". The Washington Post. ISSN 0190-8286. Archived from the original on 20 May 2024. Retrieved 22 October 2024. Christopher, Nilesh (March 2024). "Indian Voters Are Being Bombarded With Millions of Deepfakes. Political Candidates Approve". Wired. Archived from the original on 12 March 2024. Retrieved 20 October 2024. "What an Indian Deepfaker Tells Us About Global Election Security". Bloomberg. Archived from the original on 1 April 2024. Retrieved 20 October 2024. Politi, Daniel; Alcoba, Natalie (2 July 2025). "Argentina's President Joins A.I.-Fueled Smear Campaign Against Journalist". New York Times. Retrieved 3 July 2025. "Julia Mengolini se quebró por una violenta campaña de libertarios a la que se sumó Milei". La Nación (in Spanish). Retrieved 28 June 2025. Smith, Colby (21 July 2025). "Trump Live Updates: Epstein Fallout Continues as President Urges Base to Move on". The New York Times. ISSN 0362-4331. Retrieved 21 July 2025. Margolis, Andrea (20 July 2025). "Trump posts AI-generated video showing Obama getting arrested to 'YMCA'". Fox News. Retrieved 21 July 2025. Roettgers, Janko (21 February 2018). "Porn Producers Offer to Help Hollywood Take Down Deepfake Videos". Variety. Archived from the original on 10 June 2019. Retrieved 28 February 2018. Dickson, E. J. (7 October 2019). "Deepfake Porn Is Still a Threat, Particularly for K-Pop Stars". Rolling Stone. Archived from the original on 30 October 2019. Retrieved 9 November 2019. "The State of Deepfake - Landscape, Threats, and Impact" (PDF). Deeptrace. 1 October 2019. Archived (PDF) from the original on 9 August 2020. Retrieved 7 July 2020. Goggin, Benjamin (7 June 2019). "From porn to 'Game of Thrones': How deepfakes and realistic-looking fake videos hit it big". Business Insider. Archived from the original on 8 November 2019. Retrieved 9 November 2019. Lee, Dave (3 February 2018). "'Fake porn' has serious consequences". Archived from the original on 1 December 2019. Retrieved 9 November 2019. Cole, Samantha (19 June 2018). "Gfycat's AI Solution for Fighting Deepfakes Isn't Working". Vice. Archived from the original on 8 November 2019. Retrieved 9 November 2019. Zoe, Freni (24 November 2019). "Deepfake Porn Is Here To Stay". Medium. Archived from the original on 10 December 2019. Retrieved 10 December 2019. Cole, Samantha; Maiberg, Emanuel; Koebler, Jason (26 June 2019). "This Horrifying App Undresses a Photo of Any Woman with a Single Click". Vice. Archived from the original on 2 July 2019. Retrieved 2 July 2019. Cox, Joseph (9 July 2019). "GitHub Removed Open Source Versions of DeepNude". Vice Media. Archived from the original on 24 September 2020. Retrieved 14 July 2019. "pic.twitter.com/8uJKBQTZ0o". 27 June 2019. Archived from the original on 6 April 2021. Retrieved 3 August 2019. "Hundreds of sexual deepfake ads using Emma Watson's face ran on Facebook and Instagram in the last two days". NBC News. 7 March 2023. Archived from the original on 29 February 2024. Retrieved 8 March 2024. Filipovic, Jill (31 January 2024). "Anyone could be a victim of 'deepfakes'. But there's a reason Taylor Swift is a target". The Guardian. ISSN 0261-3077. Archived from the original on 10 June 2024. Retrieved 8 March 2024. Paris, Britt (October 2021). "Configuring Fakes: Digitized Bodies, the Politics of Evidence, and Agency". Social Media + Society. 7 (4) 20563051211062919. doi:10.1177/20563051211062919. ISSN 2056-3051. Damiani, Jesse. "Chinese Deepfake App Zao Goes Viral, Faces Immediate Criticism Over User Data And Security Policy". Forbes. Archived from the original on 14 September 2019. Retrieved 18 November 2019. "Ahead of Irish and US elections, Facebook announces new measures against 'deepfake' videos". Independent.ie. 7 January 2020. Archived from the original on 8 January 2020. Retrieved 7 January 2020. "How Belgian visual expert Chris Ume masterminded Tom Cruise's deepfakes". The Statesman. 6 March 2021. Archived from the original on 24 August 2022. Retrieved 24 August 2022. Metz, Rachel. "How a deepfake Tom Cruise on TikTok turned into a very real AI company". CNN. Archived from the original on 10 June 2024. Retrieved 17 March 2022. Corcoran, Mark; Henry, Matt (23 June 2021). "This is not Tom Cruise. That's what has security experts so worried". ABC News. Archived from the original on 28 March 2022. Retrieved 28 March 2022. Reuters, 15 July 2020, Deepfake Used to Attack Activist Couple Shows New Disinformation Frontier Archived 26 September 2020 at the Wayback Machine "Perfect Deepfake Tech Could Arrive Sooner Than Expected". www.wbur.org. 2 October 2019. Archived from the original on 30 October 2019. Retrieved 9 November 2019. Vincent, James. "Deepfakes are becoming more realistic — and harder to detect". The Verge. Retrieved 13 August 2025. Sonnemaker, Tyler. "As social media platforms brace for the incoming wave of deepfakes, Google's former 'fraud czar' predicts the biggest danger is that deepfakes will eventually become boring". Business Insider. Archived from the original on 14 April 2021. Retrieved 14 April 2021. Vaccari, Cristian; Chadwick, Andrew (January 2020). "Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News". Social Media + Society. 6 (1): 205630512090340. doi:10.1177/2056305120903408. ISSN 2056-3051. S2CID 214265502. Pawelec, M (2022). "Deepfakes and Democracy (Theory): How Synthetic Audio-Visual Media for Disinformation and Hate Speech Threaten Core Democratic Functions". Digital Society: Ethics, Socio-legal and Governance of Digital Technology. 1 (2) 19. doi:10.1007/s44206-022-00010-6. PMC 9453721. PMID 36097613. Somers, Meredith (21 July 2020). "Deepfakes, explained". MIT Sloan. Archived from the original on 5 March 2024. Retrieved 6 March 2024. Bateman, Jon (2020). "Summary". Deepfakes and Synthetic Media in the Financial System: 1–2. Archived from the original on 20 April 2021. Retrieved 28 October 2020. Kelion, Leo (September 2020). "Deepfake detection tool unveiled by Microsoft". BBC News. Archived from the original on 14 April 2021. Retrieved 15 April 2021. Cohen, Ariel; Rimon, Inbal; Aflalo, Eran; Permuter, Haim H. (June 2022). "A study on data augmentation in voice anti-spoofing". Speech Communication. 141: 56–67. arXiv:2110.10491. doi:10.1016/j.specom.2022.04.005. S2CID 239050551. Manke, Kara (18 June 2019). "Researchers use facial quirks to unmask 'deepfakes'". Berkeley News. Archived from the original on 9 November 2019. Retrieved 9 November 2019. Farid, Hany (1 December 2006). "Digital Doctoring: How to Tell the Real from the Fake". Significance. 3 (4): 162–166. doi:10.1111/j.1740-9713.2006.00197.x. S2CID 13861938. "Join the Deepfake Detection Challenge (DFDC)". deepfakedetectionchallenge.ai. Archived from the original on 12 January 2020. Retrieved 8 November 2019. "Deepfake Detection Challenge Results: An open initiative to advance AI". ai.facebook.com. Archived from the original on 29 October 2020. Retrieved 30 September 2022. Groh, Matthew; Epstein, Ziv; Firestone, Chaz; Picard, Rosalind (2022). "Deepfake detection by human crowds, machines, and machine-informed crowds". Proceedings of the National Academy of Sciences. 119 (1) e2110013119. arXiv:2105.06496. Bibcode:2022PNAS..11910013G. doi:10.1073/pnas.2110013119. PMC 8740705. PMID 34969837. "Google Scholar". scholar.google.com. Retrieved 30 April 2022. Masi, Iacopo; Killekar, Aditya; Mascarenhas, Royston Marian; Gurudatt, Shenoy Pratik; Abdalmageed, Wael (2020). Two-branch recurrent network for isolating deepfakes in videos. Lecture Notes in Computer Science. Vol. 12352. pp. 667–684. arXiv:2008.03412. doi:10.1007/978-3-030-58571-6_39. ISBN 978-3-030-58570-9. Archived from the original on 10 June 2024. Retrieved 30 April 2022. "The Blockchain Solution to Our Deepfake Problems". Wired. ISSN 1059-1028. Archived from the original on 7 November 2019. Retrieved 9 November 2019. Leetaru, Kalev. "Why Digital Signatures Won't Prevent Deep Fakes But Will Help Repressive Governments". Forbes. Archived from the original on 14 April 2021. Retrieved 17 February 2021. "To Uncover a Deepfake Video Call, Ask the Caller to Turn Sideways". Metaphysic. 8 August 2022. Archived from the original on 26 August 2022. Retrieved 24 August 2022. Helmus, Todd (2022). "A Primer". Artificial Intelligence, Deepfakes, and Disinformation: A Primer. RAND Corporation. Retrieved 13 August 2025. Romero-Moreno, Felipe (23 June 2025). "Deepfake detection in generative AI: A legal framework proposal to protect human rights". Computer Law & Security Review. 58 106162. doi:10.1016/j.clsr.2025.106162. Karnouskos, Stamatis (September 2020). "Artificial Intelligence in Digital Media: The Era of Deepfakes". IEEE Transactions on Technology and Society. 1 (3): 138–147. Bibcode:2020ITTS....1..138K. doi:10.1109/TTS.2020.3001312. ISSN 2637-6415. Turós, Mátyás; Kenyeres, Attila Zoltán; Szűts, Zoltán (September 2024). "Fake video detection among secondary school students: The impact of sociocultural, media literacy and media use factors". Telematics and Informatics Reports. 15 100160. doi:10.1016/j.teler.2024.100160. Ahmed, Saifuddin (May 2023). "Navigating the maze: Deepfakes, cognitive ability, and social media news skepticism". New Media & Society. 25 (5): 1108–1129. doi:10.1177/14614448211019198. ISSN 1461-4448. "Kate Middleton's ring mysteriously vanishes, raises more AI concerns". MSN. 25 March 2024. Archived from the original on 10 June 2024. Retrieved 19 May 2024. Hindustan Times (5 April 2024). "'Kate's cancer admission is fake', Meghan Markle's fan and UCLA director, Johnathan Perkins, floats conspiracy theory". The Hindustan Times. Archived from the original on 10 June 2024. Retrieved 19 May 2024. Hameleers, Michael; van der Meer, Toni G. L. A.; Dobber, Tom (February 2024). "They Would Never Say Anything Like This! Reasons To Doubt Political Deepfakes". European Journal of Communication. 39 (1): 56–70. doi:10.1177/02673231231184703. ISSN 0267-3231. Salubi, Oghenere (16 October 2025). "Artificial Intelligence, Misinformation, and Libraries: A New Frontier for Information Professionals". Proceedings of the Association for Information Science and Technology. 62: 572–581. doi:10.1002/pra2.1279. Retrieved 4 November 2025. Dobber, Tom; Metoui, Nadia; Trilling, Damian; Helberger, Natali; de Vreese, Claes (January 2021). "Do (Microtargeted) Deepfakes Have Real Effects on Political Attitudes?". The International Journal of Press/Politics. 26 (1): 69–91. doi:10.1177/1940161220944364. ISSN 1940-1612. Salvi, Alessandro; Filipova, Raina; Hogeveen, Bryan; Karásková, Ivana; Pawlak, Patryk; Salvi, Andrea (2024). THE ATTACK OF THE CLONES: Deepfakes and the evolving landscape of disinformation. European Union Institute for Security Studies (EUISS). pp. 32–40. Retrieved 13 August 2025. "Deepfakes, Elections, and Shrinking the Liar's Dividend | Brennan Center for Justice". www.brennancenter.org. 8 February 2024. Retrieved 10 December 2025. "AI-generated images of Trump being arrested circulate on social media". AP News. 21 March 2023. Archived from the original on 10 June 2024. Retrieved 10 October 2023. Fagan, Kaylee. "A viral video that appeared to show Obama calling Trump a 'dips---' shows a disturbing new trend called 'deepfakes'". Business Insider. Archived from the original on 22 September 2020. Retrieved 3 November 2020. "The rise of the deepfake and the threat to democracy". The Guardian. Archived from the original on 1 November 2020. Retrieved 3 November 2020. "Trump shares deepfake photo of himself praying as AI images of arrest spread online". The Independent. 24 March 2023. Archived from the original on 28 May 2023. Retrieved 16 June 2023. Towers-Clark, Charles. "Mona Lisa And Nancy Pelosi: The Implications Of Deepfakes". Forbes. Archived from the original on 23 November 2020. Retrieved 7 October 2020. "What Is The Difference Between A Deepfake And Shallowfake?". 21 April 2020. Archived from the original on 26 June 2022. Retrieved 5 December 2021. "Gallery: 'Spectre' Launches ( Press Release)". Bill Posters. 29 May 2019. Archived from the original on 10 June 2024. Retrieved 15 May 2024. Cole, Samantha (11 June 2019). "This Deepfake of Mark Zuckerberg Tests Facebook's Fake Video Policies". Vice. Archived from the original on 10 June 2024. Retrieved 15 May 2024. "Deepfake Putin is here to warn Americans about their self-inflicted doom". MIT Technology Review. Archived from the original on 30 October 2020. Retrieved 7 October 2020. Sonne, Paul (5 June 2023). "Fake Putin Speech Calling for Martial Law Aired in Russia". The New York Times. Archived from the original on 10 June 2024. Retrieved 6 June 2023. Allyn, Bobby (16 March 2022). "Deepfake video of Zelenskyy could be 'tip of the iceberg' in info war, experts warn". NPR. Archived from the original on 29 March 2022. Retrieved 17 March 2022. Satariano, Adam; Mozur, Paul (7 February 2023). "The People Onscreen Are Fake. The Disinformation Is Real". The New York Times. Archived from the original on 10 June 2024. Retrieved 10 February 2023. "Pope Francis in Balenciaga deepfake fools millions: 'Definitely scary'". New York Post. 28 March 2023. Archived from the original on 10 June 2024. Retrieved 16 June 2023. Lu, Donna (31 March 2023). "Misinformation, mistakes and the Pope in a puffer: what rapidly evolving AI can – and can't – do". The Guardian. Archived from the original on 10 June 2024. Retrieved 16 June 2023. Murphy, Heather Tal (29 March 2023). "The Pope in a Coat Is Not From a Holy Place". Slate. Archived from the original on 10 June 2024. Retrieved 16 June 2023. "Deepfake audio of Sir Keir Starmer released on first day of Labour conference". Sky News. Retrieved 29 May 2024. "Woman in deepfake video with Rashmika Mandanna's face breaks silence: I'm deeply disturbed and upset by what is happening". The Times of India. 9 November 2023. ISSN 0971-8257. Archived from the original on 23 November 2023. Retrieved 23 November 2023. Cupin, Bea (24 April 2024). "Malacañang flags deepfake audio of Marcos ordering military attack". Rappler. Archived from the original on 10 June 2024. Retrieved 14 May 2024. Flores, Helen (27 April 2024). "'Foreign actor' seen behind President Marcos audio deepfake". The Philippines Star. Archived from the original on 10 June 2024. Retrieved 14 May 2024. Argosino, Faith (14 May 2024). "Raps filed vs social media pages for libelous content, Marcos deepfake". Philippine Daily Inquirer. Archived from the original on 10 June 2024. Retrieved 14 May 2024. "Face-swapped? Deepfake detector flags alleged Marcos video as 'suspicious'". Rappler. 23 July 2024. Retrieved 25 July 2024. "NBI, PNP findings show 'polvoron' video fake". The Philippine Star. 24 July 2024. Retrieved 25 July 2024. Shepardson, David (23 May 2024). "US political consultant indicted over AI-generated Biden robocalls". Reuters. "US political consultant indicted over AI-generated Biden robocalls". AP News. 23 May 2024. Archived from the original on 10 June 2024. Retrieved 8 June 2024. Magramo, Kathleen (17 May 2024). "British engineering giant Arup revealed as $25 million deepfake scam victim". CNN. Retrieved 18 May 2025. Dela Cruz, Ailla (16 June 2025). "Fact Check: Video of students opposing Sara Duterte impeachment is AI-generated". Rappler. Retrieved 17 June 2025. Cabato, Luisa (16 June 2025). "Dela Rosa ridiculed over AI video on Sara Duterte impeachment". Philippine Daily Inquirer. Retrieved 17 June 2025. Magsambol, Bonz (16 June 2025). "Sara Duterte: Nothing wrong with sharing AI video opposing my impeachment". Rappler. Retrieved 17 June 2025. Liggett, Jake (22 October 2025). "'Disgraceful' deep-fake AI video condemned by presidential candidate". BBC News NI. Retrieved 18 January 2026. Haeck, Pieter (22 October 2025). "Deepfake video of Irish presidential candidate rocks campaign". Politico Europe. Retrieved 18 January 2026. Price, Rob (27 January 2018). "Discord just shut down a chat group dedicated to sharing porn videos edited with AI to include celebrities". Business Insider Australia. Archived from the original on 15 December 2019. Retrieved 28 November 2019. Ghoshal, Abhimanyu (7 February 2018). "Twitter, Pornhub and other platforms ban AI-generated celebrity porn". The Next Web. Archived from the original on 20 December 2019. Retrieved 9 November 2019. "Twitter bans 'deepfake' AI-generated porn". Engadget. 20 July 2019. Archived from the original on 15 December 2019. Retrieved 28 November 2019. Cole, Samantha (31 January 2018). "AI-Generated Fake Porn Makers Have Been Kicked Off Their Favorite Host". Vice. Archived from the original on 1 November 2019. Retrieved 18 November 2019. Böhm, Markus (7 February 2018). ""Deepfakes": Firmen gehen gegen gefälschte Promi-Pornos vor". Spiegel Online. Archived from the original on 23 September 2019. Retrieved 9 November 2019. barbara.wimmer (8 February 2018). "Deepfakes: Reddit löscht Forum für künstlich generierte Fake-Pornos". futurezone.at (in German). Archived from the original on 8 February 2018. Retrieved 9 November 2019. "Deepfakes: Auch Reddit verbannt Fake-Porn". heise online (in German). 8 February 2018. Archived from the original on 10 April 2019. Retrieved 9 November 2019. "Reddit verbannt Deepfake-Pornos - derStandard.de". DER STANDARD (in Austrian German). Archived from the original on 9 November 2019. Retrieved 9 November 2019. Robertson, Adi (7 February 2018). "Reddit bans 'deepfakes' AI porn communities". The Verge. Archived from the original on 24 September 2019. Retrieved 9 November 2019. Cole, Samantha (6 February 2018). "Pornhub Is Banning AI-Generated Fake Porn Videos, Says They're Nonconsensual". Vice. Archived from the original on 1 November 2019. Retrieved 9 November 2019. Beres, Damon; Gilmer, Marcus (2 February 2018). "A guide to 'deepfakes,' the internet's latest moral crisis". Mashable. Archived from the original on 9 December 2019. Retrieved 9 November 2019. Harrell, Drew. "Fake-porn videos are being weaponized to harass and humiliate women: 'Everybody is a potential target'". The Washington Post. Archived from the original on 2 January 2019. Retrieved 1 January 2019. Anderson, Martin (2022). Google Has Banned the Training of Deepfakes in Colab Archived 30 May 2022 at the Wayback Machine, Unite.ai, 28 May 2022 Maiberg, Emanuel (2022). It Takes 2 Clicks to Get From 'Deep Tom Cruise' to Vile Deepfake Porn, VICE, 17 May 2022 "Facebook has promised to leave up a deepfake video of Mark Zuckerberg". MIT Technology Review. Archived from the original on 16 October 2019. Retrieved 9 November 2019. Cole, Samantha (11 June 2019). "This Deepfake of Mark Zuckerberg Tests Facebook's Fake Video Policies". Vice. Archived from the original on 12 October 2019. Retrieved 9 November 2019. "Deepfake Detection Challenge Results: An open initiative to advance AI". ai.facebook.com. Archived from the original on 29 October 2020. Retrieved 7 October 2020. Paul, Katie (4 February 2020). "Twitter to label deepfakes and other deceptive media". Reuters. Archived from the original on 10 October 2020. Retrieved 7 October 2020. Cole, Samantha (6 February 2018). "Twitter Is the Latest Platform to Ban AI-Generated Porn". Vice. Archived from the original on 1 November 2019. Retrieved 8 November 2019. "Help us shape our approach to synthetic and manipulated media". blog.twitter.com. Archived from the original on 28 October 2020. Retrieved 7 October 2020. "TechCrunch". TechCrunch. 11 November 2019. Archived from the original on 14 July 2021. Retrieved 7 October 2020. Five US states push Musk to fix AI chatbot over election misinformation Reuters accessed 19 August 2024. Noxious images spread after Elon Musk launches AI tool with few guardrails The Washington Post accessed 19 August 2024. How Elon Musk and X Became the Biggest Purveyors of Online Misinformation Rolling Stone accessed 19 August 2024. Sasse, Ben (21 December 2018). "S. 3805–115th Congress (2017-2018): Malicious Deep Fake Prohibition Act of 2018". www.congress.gov. Archived from the original on 16 October 2019. Retrieved 16 October 2019. Clarke, Yvette D. (28 June 2019). "H.R.3230 - 116th Congress (2019-2020): Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019". www.congress.gov. Archived from the original on 17 December 2019. Retrieved 16 October 2019. "Digital ID Verification Trends 2025". www.zyphe.com. Retrieved 11 August 2025. "'Deepfake' revenge porn is now illegal in Virginia". TechCrunch. July 2019. Archived from the original on 14 July 2021. Retrieved 16 October 2019. Iacono Brown, Nina (15 July 2019). "Congress Wants to Solve Deepfakes by 2020. That Should Worry Us". Slate Magazine. Archived from the original on 16 October 2019. Retrieved 16 October 2019. "Bill Text - AB-602 Depiction of individual using digital or electronic technology: sexually explicit material: cause of action". leginfo.legislature.ca.gov. Archived from the original on 17 November 2019. Retrieved 9 November 2019. "Bill Text - AB-730 Elections: deceptive audio or visual media". leginfo.legislature.ca.gov. Archived from the original on 31 October 2019. Retrieved 9 November 2019. H.R. 5586: DEEPFAKES Accountability Act Govtrack.US accessed 15 August 2024. H.R. 6943: No AI FRAUD Act Govtrack.US accessed 15 August 2024. Hatmaker, Taylor (1 May 2018). "DARPA is funding new tech that can identify manipulated videos and 'deepfakes'". TechCrunch. Archived from the original on 8 December 2023. Retrieved 14 April 2024. Hsu, Jeremy (22 June 2018). "Experts Bet on First Deepfakes Political Scandal - IEEE Spectrum". IEEE. Archived from the original on 22 February 2024. Retrieved 14 April 2024. "Media Forensics". www.darpa.mil. Archived from the original on 29 October 2020. Retrieved 7 October 2020. "The US military is funding an effort to catch deepfakes and other AI trickery". MIT Technology Review. Archived from the original on 1 November 2020. Retrieved 7 October 2020. Collins, Connor (11 March 2019). "DARPA Tackles Deepfakes With AI". GovCIO Media & Research. Archived from the original on 2 March 2024. Retrieved 14 April 2024. "DARPA Is Taking On the Deepfake Problem". Nextgov.com. 6 August 2019. Archived from the original on 28 October 2020. Retrieved 7 October 2020. Sybert, Sarah (16 September 2021). "DARPA Launches New Programs to Detect Falsified Media". GovCIO Media & Research. Archived from the original on 10 June 2024. Retrieved 14 April 2024. Cooper, Naomi (15 March 2024). "DARPA Launches 2 New Efforts to Boost Defenses Against Manipulated Media". Archived from the original on 15 March 2024. Retrieved 14 April 2024. "Semantic Forensics - Analytic Catalog". semanticforensics.com. Archived from the original on 18 April 2024. Retrieved 14 April 2024. 266. National Academies of Sciences, Engineering, and Medicine (22 June 2023). "Nobel Prize Summit Fuels Initiatives to Combat Misinformation and Disinformation and Build Trust in Science". National Academies of Sciences, Engineering, and Medicine. Wikidata Q124711722. |
参考文献 01. Wahab, Abdul (2025年10月1日). 「ディープフェイクと社会の未来：神話、隠喩、そして信頼できるデジタル未来への示唆」 . Futures. 173 103672. doi:10.1016/j.futures.2025.103672. ISSN 0016-3287. カルポカス, イグナス; カルポキエネ, ユリヤ (2022). Deepfakes. Springer Cham. pp. 1–2. doi:10.1007/978-3-030-93802-4. ISBN 978-3-030-93801-7. ベリー, デビッド・M. (2025年3月19日). 「 合成メディアと計算資本主義：人工知能の批判理論に向けて」. AI & Society. 40 (7): 5257–5269. arXiv:2503.18976. doi:10.1007/s00146-025-02265-2. ISSN 1435-5655. Juefei-Xu, Felix; Wang, Run; Huang, Yihao; Guo, Qing; Ma, Lei; Liu, Yang (2022年7月1日). 「悪意あるディープフェイクへの対抗：概観、戦場、そして展望」. International Journal of Computer Vision. 130 (7): 1678–1734. doi:10.1007/s11263-022-01606-8. ISSN 1573-1405. PMC 9066404. PMID 35528632. Kietzmann, J.; Lee, L. W.; McCarthy, I. P.; Kietzmann, T. C. (2020). 「Deepfakes: Trick or treat?」 (PDF). Business Horizons. 63 (2): 135–146. doi:10.1016/j.bushor.2019.11.006. S2CID 213818098. 2022年12月29日にオリジナルからアーカイブ（PDF）された。2022年12月30日に閲覧。 ウォルドロップ, M. ミッチェル (2020年3月16日). 「合成メディア：ディープフェイクの真の問題点」. Knowable Magazine. Annual Reviews. doi:10.1146/knowable-031320-1. 2022年11月19日にオリジナルからアーカイブされた。2022年12月19日に閲覧。 シュワルツ, オスカー (2018年11月12日). 「フェイクニュースがひどいと思ったか？ ディープフェイクこそが真実が死にゆく場所だ」。The Guardian。2019年6月16日にオリジナルからアーカイブされた。2018年11月14日に閲覧。 ファリド、ハニー（2019年9月15日）。「画像フォレンジクス」。Annual Review of Vision Science。5 (1): 549–573。doi:10. 1146/annurev-vision-091718-014827。ISSN 2374-4642。PMID 31525144。S2CID 263558880。2024年6月10日にオリジナルからアーカイブされた。2023年9月20日に閲覧。 Banks, Alec (2018年2月20日). 「ディープフェイクとは何か、そしてポルノの未来が恐ろしい理由」. Highsnobiety. 2021年7月14日にオリジナルからアーカイブされた。2018年2月20日に閲覧。 Christian, Jon. 「専門家たちは、顔入れ替え技術が国際的な対立を引き起こすことを懸念している」。The Outline。2020年1月16日にオリジナルからアーカイブされた。2018年2月28日閲覧。 ルーゼ、ケビン（2018年3月4日）。「偽の動画もやってくる」。ニューヨーク・タイムズ。ISSN 0362-4331。2019年6月18日にオリジナルからアーカイブされた。2018年3月24日閲覧。 シュライヤー、マルコ；サッタロフ、ティムール；ライマー、ベルント；ボース、ダミアン（2019年10月）。「 会計分野におけるディープフェイクの敵対的学習」。arXiv:1910.03810 [cs.LG]。 「ディープフェイクの危険性：注意すべき点 | 大学IT」。uit.stanford.edu。2025年8月11日に閲覧。 サヴァット、サラ（2024年8月19日） . 「政治的なディープフェイク動画は、他のフェイクニュースと同程度に欺瞞的であるという研究結果」。The Source. 2025年8月11日閲覧。 カラマンシオン、ケビン・マッテ（2021年4月21日）。「誤情報の影響を最も受けやすい人口統計学的プロファイル」。2021 IEEE International IOT, Electronics and Mechatronics Conference (IEMTRONICS)。IEEE。pp. 1–7。doi:10.1109/ iemtronics52119.2021.9422597。ISBN 978-1-6654-4067-7。S2CID 234499888。2024年6月10日にオリジナルからアーカイブされた。2023年6月9日閲覧。 ララ、ヴェジェイ；ミトラニ、アディン；ハーネド、ザック . 「人工知能：エンターテインメント業界におけるディープフェイク」. 世界知的所有権機関. 2022年11月8日にオリジナルからアーカイブされた。2022年11月8日に閲覧。 ハーウェル、ドリュー（2019年6月12日）。「トップAI研究者たちが『ディープフェイク』動画の検出を急ぐ：『我々は力不足だ』」。ワシントン・ポスト。2019年10月31日にオリジナルからアーカイブされた。2019年11月8日に閲覧。 サンチェス、ジュリアン（2018年2月8日）。「AIのおかげで、『フェイクニュース』の未来は自家製ポルノで切り拓かれている」。NBCニュース。2019年11月9日にオリジナルからアーカイブされた。2019年11月8日に閲覧。 ポーター、ジョン（2019年9月2日）。「またしても説得力のあるディープフェイクアプリが拡散し、即座にプライバシーへの反発を招く」。The Verge。2019年9月3日にオリジナルからアーカイブされた。2019年11月8日に閲覧。 マズード、モミナ；ナワズ、マリアム；マリク、ハリド・マフムード；ジャヴェド、アリ；イルタザ、アウン；マリク、ハフィズ（2023年2月）。「ディー プフェイクの生成と検出：最新動向、未解決の課題、対策、および今後の方向性」。『Applied Intelligence』。53巻4号：2-5頁。doi:10.1007/s10489-022-03766-z. キース・D・フット。「生成AIの簡単な歴史」。Dataversity。 ヴァトレシュ、アミナ（2021）。「ディープフェイク現象：フェイクニュースの高度な形態と信頼できるジャーナリズムへの影響」。『Društvene i humanističke studije』。16 (3): 561–576. doi:10.51558/2490-3647.2021.6.3.561. ラナ、Md ショヘル；ノビ、モハンマド・ヌール；ムラリ、ベドゥ；ソン、アンドリュー・H. (2022). 「ディープフェイク検出：系統的文献レビュー」. IEEE Access. 10: 25494–25513. Bibcode:2022IEEEA..1025494R. doi:10.1109/ACCESS.2022.3154404. ISSN 2169-3536. スダルサン, アナニャ; チュア, ホイ・ナ; ジャッサー, ムハンマド・バシール; ウォン, リチャード・T・K. (2024年3月1日). " ソーシャルメディアにおけるディープフェイクの特性、拡散、および検出 - 総説的レビュー」。2024年第20回IEEE信号処理とその応用に関する国際コロキウム（CSPA）。IEEE。pp. 219–224。doi:10.1109/CSPA60979.2024.10525373. ISBN 979-8-3503-8231-0. スダルサン, アナニャ; チュア, フイ・ナ; ジャッサー, ムハンマド・バシール; ウォン, リチャード・T・K. (2024年3月1日). 「ソーシャルメディアにおけるディープフェイクの特性、拡散、および検出 - 総説的レビュー」。2024年第20回IEEE信号処理とその応用に関する国際コロキウム（CSPA）。IEEE。pp. 219–224。doi:10.1109/CSPA60979.2024.10525373。ISBN 979-8-3503-8231-0. Sudarsan, Ananya; Chua, Hui Na; Jasser, Muhammed Basheer; Wong, Richard T.K. (2024年3月1日). 「ソーシャルメディアにおけるディープフェイクの特性、拡散、および検出 - 総説」. 2024年第20回IEEE信号処理とその応用に関する国際コロキウム (CSPA). IEEE. pp. 219–224. doi:10.1109/CSPA60979.2024.10525373. ISBN 979-8-3503-8231-0. Bode, Lisa; Lees, Dominic; Golding, Dan (2021年7月29日). 「スクリーン上のデジタルフェイスとディープフェイク」. 『Convergence: The International Journal of Research into New Media Technologies』. 27 (4): 849–854. doi:10.1177/13548565211034044. ISSN 1354-8565. S2CID 237402465. 「Take it down act 成人向けコンテンツ制作者向けプラットフォーム 」。copyrightshark.com。2026年3月20日閲覧。 ホリデイ、クリストファー（2021年7月26日）。「スターの書き換え：デジタル・ディープフェイクのオンライン・メディア制作における表 面張力とジェンダーの課題」。『Convergence: The International Journal of Research into New Media Technologies』。27 (4): 899–918. doi: 10.1177/13548565211029412. ISSN 1354-8565. S2CID 237402548. ギングリッチ、オリバー・M.（2021年7月5日）。「 GENDER*UCK：ジェンダーとメディア・アートの再構築」. 『EVA London 2021 議事録』（EVA 2021）. Electronic Workshops in Computing. doi:10.14236/ewic/EVA2021.25. S2CID 236918199. フレッチャー、ジョン（2018年）。「ディープフェイク、人工知能、そしてある種のディストピア：オンライン・ポストファクト・パフォーマ ンスの新たな顔」。『シアター・ジャーナル』。70 (4): 455–471. doi:10.1353/tj.2018.0097. ISSN 1086-332X. S2CID 191988083. デ・セタ、ガブリエレ（2021年7月30日）。「Huanlian、あるいは変わりゆく顔：中国のデジタルメディアプラットフォームにおけ るディープフェイク」。『Convergence: The International Journal of Research into New Media Technologies』。27 (4): 935–953. doi:10.1177/13548565211030185. hdl:11250/2833613. ISSN 1354-8565. S2CID 237402447. 2024年6月10日にオリジナルからアーカイブされた。2022年2月9日に取得 2022年2月9日に取得。 Bregler, Christoph; Covell, Michele; Slaney, Malcolm (1997). 「Video Rewrite: Driving visual speech with audio」. Proceedings of the 24th annual conference on Computer graphics and interactive techniques – SIGGRAPH '97. Vol. 24. pp. 353–360. doi:10.1145/258734.258880. ISBN 0-89791-896-7. S2CID 2341707. 2024年6月10日にオリジナルからアーカイブされた。2023年7月10日に閲覧。 スワジャナコーン, スパソーン; サイツ, スティーブン・M.; ケメルマッハー＝シュリツァーマン, アイラ (2017年7月)。「オバマの合成：音声からのリップシンク学習」。ACM Trans. Graph. 36 (4): 95:1–95:13. doi:10.1145/3072959.3073640. S2CID 207586187。2020年5月19日にオリジナルからアーカイブされた。2023年7月10日閲覧。 ティース、ユストゥス；ゾルホーファー、ミヒャエル；シュタミンガー、マルク；テオバルト、クリスチャン；ニースナー、マティアス（2016 年6月）。「 Face2Face: RGB動画のリアルタイム顔キャプチャと再現」。2016年IEEEコンピュータビジョン・パターン認識会議（CVPR）。IEEE. pp. 2387–2395. arXiv:2007.14808. doi:10.1109/CVPR.2016.262. ISBN 978-1-4673-8851-1. S2CID 206593693. ミルスキー, イシュロエル; Mahler, Tom; Shelef, Ilan; Elovici, Yuval (2019). CT-GAN: ディープラーニングを用いた3D医療画像への悪意ある改ざん。pp. 461–478. arXiv:1901.03597. ISBN 978-1-939133 -06-9。2020年6月20日にオリジナルからアーカイブされた。2020年6月18日に閲覧。 オニール、パトリック・ハウエル（2019年4月3日）。「研究者が、医師を騙してがんの誤診をさせるマルウェアを実証」。Gizmodo。2024年6月10日にオリジナルからアーカイブされた。2022年6月3日に閲覧。 ミルスキー、イシュロエル；リー、ウェンケ（2020年5月12日）。「ディープフェイクの作成と検出：概説」。ACM Computing Surveys。arXiv: 2004.11138. doi:10.1145/3425780. S2CID 216080410. カルヌスコス, スタマティス (2020). 「デジタルメディアにおける人工知能：ディープフェイクの時代」 (PDF). IEEE Transactions on Technology and Society. 1 (3): 138. Bibcode:2020ITTS....1..138K. doi:10.1109/TTS.2020.3001312. S2CID 221716206. 2021年7月14日にオリジナルからアーカイブ（PDF）された。2020年7月9日に閲覧。 コール、サマンサ (2018年1月24日). 「我々は本当にやばい：今や誰もがAI生成の偽ポルノを作っている」。Vice。2019年9月7日にオリジナルからアーカイブされた。2019年5月4日に閲覧。 ヘイソム、サム（2018年1月31日）。「人々は顔入れ替え技術を使ってランダムな映画にニコラス・ケイジを登場させている。これが2018年だ」。Mashable。2019年7月24日にオリジナルからアーカイブされた。2019年4月4日に閲覧。 リュウ、シウェイ （2020年7月）。「ディープフェイク検出：現在の課題と今後の展望」。2020 IEEE International Conference on Multimedia & Expo Workshops (ICMEW)。p. 1. arXiv:2003.09234. doi:10.1109/ICMEW46912.2020.9105991. ISBN 978-1-7281-1485-9. Hathaway, Jay (2018年2月8日) . 「Redditでの禁止措置後、『ディープフェイク』と呼ばれる新しい有名人の偽ポルノがどこへ行ったか」。The Daily Dot。2019年7月6日にオリジナルからアーカイブされた。2018年12月22日閲覧。 「ディープフェイクとは何か、そしてどのように作られるのか？」。Online Tech Tips。2019年5月23日。2019年11月8日にオリジナルからアーカイブされた。2025年12月20日に閲覧。 ロバートソン、アディ（2018年2月11日）。「AIを使ってイーロン・マスクとジェフ・ベゾスの顔を入れ替えているが、本当に下手だ」 . The Verge. 2018年3月24日にオリジナルからアーカイブされた。2019年11月8日に閲覧。 「Deepfakes web | 最高のオンライン顔入れ替えアプリ」。Deepfakes web. 2021年7月14日にオリジナルからアーカイブされた。2021年2月21日に閲覧。 「Faceswapは、主要な無料かつオープンソースのマルチプラットフォームDeepfakesソフトウェアだ」。2019年10月15日。2021年5月31日にオリジナルからアーカイブされた。2021年7月14日に閲覧 – WordPress経由。 「DeepFaceLabは、機械学習を利用して動画内の顔を置き換えるツールだ。すぐに使えるスタンドアロンのWindows 7、8、10用バイナリが含まれている（readme.mdを参照）。: iperov/DeepFaceLab」。2019年6月19日。2019年5月9日にオリジナルからアーカイブされた。2019年3月6日に閲覧 – GitHub経由。 チャンドラー、サイモン。「なぜディープフェイクは人類にとってプラスなのか」。Forbes。2020年11月16日にオリジナルからアーカイブされた。2020年11月3日に閲覧。 パンバーン、D. J. (2019年9月21日)。「警告しておく：全身ディープフェイクは、AIによる人間模倣の次の段階だ」。Fast Company。2019年11月8日にオリジナルからアーカイブされた。2019年11月8日に取得。 ライオンズ、キム（2020年1月29日）。「FTC、音声ディープフェイクの技術が向上していると指摘」。The Verge。2020年1月30日にオリジナルからアーカイブされた。2020年2月8日に取得。 「『話者認証からマルチスピーカーテキスト -to-Speech Synthesis」からの音声サンプル」。google.github.io。2019年11月14日にオリジナルからアーカイブされた。2020年2月8日に閲覧。 Jia, Ye; Zhang, Yu; Weiss, Ron J.; Wang, Quan; Shen, Jonathan; Ren, Fei; Chen, Zhifeng; Nguyen, Patrick; Pang, Ruoming; Moreno, Ignacio Lopez; Wu, Yonghui (2019年1月2日). 「話者認証からマルチスピーカーテキスト・トゥ・スピーチ合成への転移学習」. arXiv:1806.04558 [cs.CL]. 「TUM Visual Computing: Matthias Nießner教授」. www.niessnerlab.org. 2020年2月21日にオリジナルからアーカイブされた。2020年2月8日に閲覧。 「ページ全体を再読み込み」。IEEE Spectrum: Technology, Engineering, and Science News. 2019年12月11日。2020年6月26日にオリジナルからアーカイブされた。2020年2月8日に取得。 「ディープフェイク検出研究へのデータ提供」。2019年9月24日。2020年2月5日にオリジナルからアーカイブされた。2020年2月8日に取得。 ターレン、 ミカエル。「わずか数クリックで自分を有名人にディープフェイクできる」。daily dot。2020年4月6日にオリジナルからアーカイブされた。2020年4月3日に閲覧。 マシューズ、ゼイン（2020年3月6日） 。「楽しみか恐怖か：ディープフェイクアプリが自撮りに有名人の顔を合成する」。Kool1079。2020年3月24日にオリジナルからアーカイブされた。2020年3月6日に閲覧。 ファン・デル・スロート、バート（2024）。『合成社会の規制：生成AI、法的課題、そして社会的課題』。ブルームズベリー・アカデミック。ISBN 978-1-5099-7495-5。2025年11月21日閲覧。 「カニエ・ウェスト、キム・カーダシアン、そして彼女の父：故人のホログラムを作るべきか？」。BBCニュース。2020年10月31日。2020年11月15日にオリジナルからアーカイブされた。2020年11月11日閲覧。 「 カニエ・ウェスト、キム・カーダシアンの誕生日に彼女の父親のホログラムを贈る」。themodems。2020年10月30日。2020年11月11日にオリジナルからアーカイブ。2020年11月11日閲覧。 「パークランド銃乱射事件の犠牲者ホアキン・オリバーが、有権者への切実な訴えで蘇る」。adage.com。2020年10月2日。2020年11月11日にオリジナルからアーカイブされた。2020年11月11日に閲覧。 ボウエンバンク、スター（2022年9月14日）。「サイモン・コーウェル、メタフィジックの最新ディープフェイク『AGT』パフォーマンスでエルヴィス とデュエット：動画」。Billboard。2022年9月15日にオリジナルからアーカイブ。2022年11月8日に閲覧。 ズッコニ、アラン（2018年3月14日）。「ディープフェイクの背後にある技術の理解」。アラン・ズッコーニ。2019年11月1日にオリジナルからアーカイブされた。2019年11月8日閲覧。 「ディープフェイクとは何か？」。ブログ - Synthesys。2022年5月3日。2022年6月26日にオリジナルからアーカイブされた。2022年5月17日閲覧。 アヤタ、オザン。「人工現実：ディープフェイクに対する対策」（PDF）。国際ガバナンス・イノベーション・センター。2026年2月4日に閲覧。 「これらの新技術はディープフェイク動画を凌駕できる――今のところは」。Wired. ISSN 1059-1028. 2019年10月3日にオリジナルからアーカイブされた。2019年11月9日に閲覧。 ケンプ、ルーク（2019年7月8日）。「ディープフェイクの時代、バーチャル俳優は人間を職から追い出すだろうか？」。ガーディアン。ISSN 0261-3077。2019年10月20日にオリジナルからアーカイブされた。2019年10月20日閲覧。 ヴェルマ、プランス（2023年7月21日）。「AI技術で作られたデジタルクローンが、ハリウッドのエキストラを不要にするかもしれない」。ワシントン・ポスト。2023年7月20日にオリジナルからアーカイブされた。2024年1月4日閲覧。 「視覚効果のための高解像度ニューラルフェイススワッピング | ディズニー・リサーチ・スタジオ」。2020年11月27日にオリジナルからアーカイブされた。2020年10月7日閲覧。 「 「ディズニーのディープフェイク技術が映画やテレビで活用される可能性」。Blooloop。2020年7月21日。2020年11月12日にオリジナルからアーカイブされた。2020年10月7日に閲覧。 リンリー、ジョン・A.（2020年7月2日）。「ディズニー、顔認識技術で『故人俳優』を復活させる試みに乗り出す」。Tech Times。2021年7月14日にオリジナルからアーカイブされた。2020年10月7日に閲覧。 ラドゥロヴィッチ、ペトラナ（2018年10月17日）。「ハリソン・フォードが『ソロ／スター・ウォーズ・ストーリー』の主役となったのは、ディープ フェイク技術のおかげだ」。Polygon。2019年10月20日にオリジナルからアーカイブされた。2019年10月20日に閲覧。 ウィニック、エリン。「キャリー・フィッシャーのパペット役を演じたことが、『ローグ・ワン』のレイア姫のキャリアを築いた経緯」。MITテクノロジーレビュー。2019年10月23日にオリジナルからアーカイブされた。2019年10月20日に閲覧。 「ディープフェイクのルーク・スカイウォーカーは、不気味なCGIの道をさらに一歩進んだものだ」。ブリティッシュGQ。2022年2月10日。2022年5月22日にオリジナルからアーカイブされた。2022年6月3日に閲覧。 「ヴィジャイではない。『ザ・ゴート』で彼の若い頃を演じたのはこの人物だ」。english.tupaki.com/。2024年9月8日。2024年11月8日に閲覧。 コンスタンティン、メーガン；リム、オードリー；グラス、リア；ウェブ、メラニー；シンプソン、カイル；カリオン、ジョーイ；デモラエス、イサ；オラトゥ ンデ、ティミ；ウェスターマン、レーガン；リバチェク、アンナ；ガン、ニコラス（2025年10月24日）。「ザ・スチューデント・ムーブメント 第110巻第5号：料理とK-POPの市場にて」。『ザ・スチューデント・ムーブメント』第110巻 (2025-2026)。 カテリーナ・チゼック、ウィリアム・ウリッキオ、サラ・ウォロジン：『Collective Wisdom』 | マサチューセッツ工科大学 [1] 2020年3月4日ウェイバックマシンにアーカイブ 「ANSA | フィレンツェで短編映画に出演するオルネラ・ムティ」 。2017年11月3日。2020年2月27日にオリジナルからアーカイブされた。2020年2月27日に閲覧。 「『サウスパーク』のクリエイターが新たなディープフェイク風刺シリーズ『Sassy Justice』を立ち上げる」。NME。2020年10月27日。2024年6月10日にオリジナルからアーカイブされた。2022年6月7日に閲覧。 テイラー、ケリー・M.；ハリス、ローリー・A. (2021年6月8日)。ディープフェイクと国家安全保障 （報告書）。議会調査局。p. 1。2022年6月14日にオリジナルからアーカイブされた。2021年7月19日閲覧。 リンバーグ、ピーター（2020年5月24日）。「ブラックメール・インフレーション」。CultState。2021年1月24日にオリジナルからアーカイブされた。2021年1月18日閲覧。 「キャッピーのために」。テレグラフ。2020年5月24日。2021年1月24日にオリジナルからアーカイブされた。2021年1月18日閲覧。 ハーウェル、ドリュー（2023年2月8日）。「ディープフェイク動画が、偽情報の拡散や人への嫌がらせにどう利用されているか」。ワシントン・ポスト。2025年8月13日閲覧。 「『アメリカズ・ゴット・タレント』の審査員たちは、サイモン・コーウェルの歌唱オーディションにプライスレスな反応を見せた」。NBCイン サイダー公式サイト。2022年6月8日。2022年8月29日にオリジナルからアーカイブされた。2022年8月29日閲覧。 マー、バーナード。「 メタバースAIは『アメリカズ・ゴット・タレント』で優勝できるか？（そしてそれが業界に与える意味）」。フォーブス。2022年8月30日にオリジナルからアーカイブされた。2022年8月30日閲覧。 モラレス、ジョウィ（2022年6月10日）。「ディープフェイクの主流化：メタフィジックの『AGT』エントリーがエンターテインメントに与える影響」。MUO。2024年6月10日にオリジナルからアーカイブされた。2022年8月29日に閲覧。 カーター、レベッカ（2019年6月1日）。「『ブリテンズ・ゴット・タレント』の視聴者、出場者への『無礼』で『意地悪』な発言をしたサイ モン・コーウェルを非難」。エンターテインメント・デイリー。2022年8月31日にオリジナルからアーカイブされた。2022年8月31日に閲覧。 サイモン・コーウェルがステージで歌う？！メタフィジックに言葉を失う | AGT 2022、2022年8月29日にオリジナルからアーカイブ、2022年8月29日に閲覧 セガラ、エドワード。「『AGT』審査員のサイモン・コーウェル、ハウイー・マンデルがAIアクト『メタフィジック』による『ディープフェイ ク』処理を受ける：こちらで視聴」。USA TODAY。2022年8月31日にオリジナルからアーカイブ。2022年8月31日閲覧。 ボウエンバンク、スター（2022年9月14日）。「メタフィジックの最新ディープフェイク『AGT』パフォーマンスでサイモン・コーウェル がエルヴィスとデュエット：動画」。Billboard。2024年6月10日にオリジナルからアーカイブ。2022年9月15日に閲覧。 ズウィーゼン、ザック（2021年1月18日）。「GLaDOSに好きなことを言わせられるウェブサイト」。Kotaku。2021年1月17日にオリジナルからアーカイブ。2021年1月18日閲覧。 ルパート、リアナ（2021年1月18日）。「このアプリで『ポータル』のGLaDOSや他の人気キャラクターに奇妙なセリフを言わせよう」。Game Informer。2021年1月18日にオリジナルからアーカイブされた。2021年1月18日閲覧。 クレイトン、ナタリー（2021年1月19日）。「このAIテキスト読み上げツールで、TF2のキャラクターたちに古いミームを言わせてみよう」。PC Gamer。2021年1月19日にオリジナルからアーカイブされた。2021年1月19日閲覧。 シャーマン、マリア（2023年12月3日）。「KISSがライブツアーに別れを告げ、バーチャル化してデジタルアバターとなる米国初のバンドに」。APニュース。AP通信。2024年1月1日にオリジナルからアーカイブされた。2024年1月4日に閲覧。 セルロ、メーガン（2024年1月9日）。「テイラー・スウィフトの姿を模したAI生成広告が、偽のル・クルーゼのプレゼント企画でファンを騙す」。CBSニュース。2024年1月10日にオリジナルからアーカイブされた。2024年1月10日に閲覧。 ウェストフォール、クリス。「AIディープフェイクの増加が数十億ドルの詐欺被害を引き起こしている」。フォーブス。2024年12月1日に閲覧。 シュー、ティファニー；ルー、イーウェン（2024年1月9日）。「いいえ、ル・クルーゼの調理器具を宣伝しているのはテイラー・スウィフトではない」。ニューヨーク・タイムズ。p. B1。2024年1月10日に閲覧。 テイラー、 デリック・ブライソン（2023年10月2日）。「トム・ハンクス、自身のAI画像を使った歯科広告に警告」。『ニューヨーク・タイムズ』。ISSN 0362-4331。2024年6月10日にオリジナルからアーカイブ。2023年10月12日閲覧。 ジョンソン、カーステン （2023年12月11日）。「アリゾナ州の女性が、ソーシャルメディア上の有名人を悪用したディープフェイク詐欺の被害に遭う」。ABC 15 アリゾナ。2024年1月10日にオリジナルからアーカイブされた。2024年1月10日閲覧。 クルンドゥ、メアリー（2024年1月4日）。「一攫千金詐欺に利用されたイーロン・マスクのディープフェイク動画」。アジェンス・フランス・プレス。2024年6月10日にオリジナルからアーカイブされた。2024年1月10日に閲覧。 エスマエル、リスベット（2024年1月3日）。「フィリピンは『ディープフェイク』 動画」に対抗するには多角的なアプローチが必要だ」。CNNフィリピン。2024年1月10日にオリジナルからアーカイブされた。2024年1月10日に閲覧。 ガーケン、トム（2023年10月4日）。「MrBeastやBBCのスターがディープフェイク詐欺動画に利用される」。BBCニュース。2024年6月10日にオリジナルからアーカイブされた。2024年1月10日に閲覧。 リム、キンバリー（2023年12月29日）。「自身の偽動画が流出した後、シンガポールのリー首相が『非常に説得力のある』ディープフェイクが『偽情報 を拡散している』と警告」。サウスチャイナ・モーニング・ポスト。2024年1月9日にオリジナルからアーカイブ。2024年1月10日閲覧。 テイラー、ジョシュ（2023年11月30日）。「詐欺師が、ディープフェイクのジム・チャルマーズとジーナ・ラインハートの動画を拡散させるため、 Facebookに1回再生につき7セントを支払った」。ガーディアン。2024年6月10日にオリジナルからアーカイブされた。2024年1月10日に 閲覧。 パーマー、ジョセフ・オルブリヒト（2023年12月14日）。「オーストラリア財務省・中央銀行高官のディープフェイクが投資詐欺の宣伝に 利用される」。アジェンス・フランス・プレス。2024年1月10日にオリジナルからアーカイブされた。2024年1月10日に閲覧。 コエブラー、ジェイソン（2024年1月9日）。「メディケア詐欺を宣伝するディープフェイクの有名人広告がYouTubeで横行」。404 Media。2024年1月10日にオリジナルからアーカイブされた。2024年1月10日に閲覧。 ローゼンブラット、カルハン（2023年10月3日）。「MrBeast、自身のAI版が登場するTikTok広告を『詐欺』と非難」。NBCニュース。2024年1月10日にオリジナルからアーカイブされた。2024年1月10日に閲覧。 ジェイソン・ケーブラー （2024年1月25日）。「YouTube、有名人を悪用したAI詐欺広告の動画1,000本を削除」。404 Media。2024年6月10日にオリジナルからアーカイブされた。2024年2月2日に閲覧。 ブッチ、ニーノ（2023年11月27日）。「ディック・スミス、詐欺師によるディープフェイク動画広告の拡散を受けFacebookを批判」。The Guardian。2024年6月10日にオリジナルからアーカイブされた。2024年1月10日閲覧。 ロマス、ナターシャ（2023年7月7日）。「マーティン・ルイス、Facebook上で拡散中の『初の』ディープフェイク動画詐欺広告につ いて警告」。TechCrunch。2024年1月10日にオリジナルからアーカイブされた。2024年1月10日に閲覧。 ロパット、エリザベス（2024年1月3日）。「ディープフェイクの新たな影響：より説得力のある仮想通貨詐欺」。ザ・バージ。2024年1月10日にオリジナルからアーカイブ。2024年1月10日に閲覧。 スタット、ニック（2019年9月5日）。「窃盗犯がAIディープフェイクを使い、企業を騙して金銭を送金させている」。2019年9月15日にオリジナルからアーカイブされた。2019年9月13日に閲覧。 ダミアーニ、ジェシー。「音声ディープフェイクがCEOから24万3000ドルを騙し取る詐欺に利用された」。フォーブス。2019年9月14日にオリジナルからアーカイブされた。2019年11月9日閲覧。 「ディープフェイクの解説」。MITスローン。2024年3月5日。2024年3月5日にオリジナルからアーカイブされた。2024年3月6日閲覧。 シュワルツ、クリストファー；ライト、マシュー（2023年3月17日）。「音声ディープフェイクが電話をかけてくる――その正体と詐欺被害を防ぐ方法」。ザ・コンバージェンス。2024年1月4日にオリジナルからアーカイブ。2024年1月4日に閲覧。 「メルケルが突然トランプの顔になったとき：画像と動画の危険な改ざん」。『アールガウアー・ツァイトゥング』。az Aargauer Zeitung。2018年2月3日。2019年4月13日にオリジナルからアーカイブされた。2018年4月9日に閲覧。 ゲンシング、パトリック。「ディープフェイク：代替現実への道？」。2018年10月11日にオリジナルからアーカイブされた。2018年4月9日に閲覧。2018年4月9日。 ロマーノ、アジャ（2018年4月18日）。「ジョーダン・ピールによるオバマ元大統領の模擬PSAは、フェイクニュースに対する両刃の警告だ」。Vox。2019年6月11日にオリジナルからアーカイブされた。2018年9月10日に閲覧。 スウェンソン、カイル（2019年1月11日） 。「シアトルのテレビ局が、トランプ大統領の大統領執務室での演説を改ざんした映像を放送した。当該従業員は解雇された」。ワシントン・ポスト。2019 年4月15日にオリジナルからアーカイブされた。2019年1月11日に閲覧。 オサリバン、ドニー（2019年6月4日）。「ペロシ下院議長の改ざん動画が波紋を呼ぶ中、議会がディープフェイクを調査へ」。CNN。2019年6月29日にオリジナルからアーカイブされた。2019年11月9日閲覧。 「#TellTheTruthBelgium」。エクステンション・リベリオン・ベルギー。2020年4月25日にオリジナルからアーカイブされた。2020年4月21日閲覧。 ホルボヴィッチ、ジェラルド（2020年4月15日）。「エクステンション・レベリオンがディープフェイクを取り上げる」。Journalism.design（フランス語） 。2020年7月29日にオリジナルからアーカイブされた。2020年4月21日に閲覧。 カーナハン、ダスティン（2020年9月16日）。「偽造動画がバイデンの健康状態に関する誤った認識を助長している」。The Conversation。2022年4月9日にオリジナルからアーカイブされた。2022年4月9日に閲覧。 パーカー、アシュリー（2020年9月7日）。「 トランプ氏と支持者たちが、偽情報とフェイクニュースの拡散に拍車をかけている」。『The Independent』。2022年4月9日閲覧。 クリストファー、ナイレシュ（2020年2月18日）。「インドの選挙運動でディープフェイクが初めて使用された」。『Vice』。2020年2月19日にオリジナルからアーカイブされた。2020年2月19日閲覧。 「アマビー：コロナウイルスと共に再浮上した伝説の生物」。『エコノミスト』。2020年4月28日。ISSN 0013-0613。2021年5月20日にオリジナルからアーカイブされた。2021年6月3日閲覧。 ロス、アンドルー（2021年4月22日）。「ロシアの野党を模倣したディープフェイクのビデオ通話、欧州議会議員が標的に」。ガーディアン。2022年3月29日にオリジナルからアーカイブされた。2022年3月29日に閲覧。 イワノフ、マキシム；ロスロック、ケビン（2021年4月22日）。「こんにちは、レオンイド・ヴォルコフです* ディープフェイク映像を使い、ナワルニーの右腕を装ったロシアのいたずら師たちが、ラトビアの政治家やジャーナリストを騙して招待やテレビインタビューを 引き出した」 . メドゥザ. 2022年3月29日にオリジナルからアーカイブされた。2022年3月29日に閲覧。 「オランダの国会議員、ナワルニー首席補佐官のディープフェイクを模した人物とビデオ会議」。nltimes.nl. 2021年4月24日. 2024年6月10日にオリジナルからアーカイブされた。2022年3月29日に閲覧。 「『ディープフェイク』のナワルニー側近、欧州の議員を標的に」。The Moscow Times。2021年4月23日。2022年3月29日にオリジナルからアーカイブ。2022年3月29日閲覧。 ヴィンセント、ジェームズ（2021年4月30日）。「欧州の政治家を騙したとされる『ディープフェイク』は単なるそっくりさんだった、とい たずら師らが語る」。ザ・バージ。2022年3月29日にオリジナルからアーカイブされた。2022年3月29日に閲覧。 ノヴァク、マット（2023年5月8日）。「カマラ・ハリスが意味不明な言葉を話すというバイラル動画は、実はディープフェイクだった」。Forbes。2023年7月18日にオリジナルからアーカイブされた。2023年7月18日に閲覧。 「PolitiFact - カマラ・ハリスは今日、昨日、明日について支離滅裂なことを言っていたわけではない。この動画は改変されている」。Politifact。2024年6月10日にオリジナルからアーカイブされた。2023年7月18日閲覧。 シューハム、マット（2023年6月8日）。「デサンティス陣営の広告、トランプがファウチを抱きしめる偽のAI画像を使用」。ハフポスト。2024年6月10日にオリジナルからアーカイブ。2023年6月8日閲覧。 ゲルゲン、アフメット；サイギネル、カン（2025年8月1日）。「ディープフェイク技術、メディア、および国家安全保障：ドイツ首相の ディープフェイク動画の事例」。Security Strategies Journal / Güvenlik Stratejileri Dergisi. 21 (51): 279–297. doi:10.17752/guvenlikstrtj.1706990. ISSN 1305-4740. 2025年12月3日取得。 「AIディープフェイクが米国とインドの選挙に重大な脅威をもたらす」。『ワシントン・ポスト』。ISSN 0190-8286。2024年5月20日にオリジナルからアーカイブ。2024年10月22日取得。 クリストファー、ナイレシュ（2024年3月）。「インドの有権者は数百万件のディープフェイクにさらされている。政治候補者はこれを容認している」。『Wired』。2024年3月12日にオリジナルからアーカイブされた。2024年10月20日閲覧。 「インドのディープフェイク制作者が語る、世界の選挙セキュリティについて」。Bloomberg。2024年4月1日にオリジナルからアーカイブされた。2024年10月20日に閲覧。 ポリティ、ダニエル；アルコバ、ナタリー（2025年7月2日）。「アルゼンチン大統領、ジャーナリストに対するAIを利用した中傷キャンペーンに加担」。ニューヨーク・タイムズ。2025年7月3日閲覧。 「ジュリア・メンゴリーニ、ミレイも加わったリバタリアンによる激しいキャンペーンで精神的に崩れた」。ラ・ナシオン（スペイン語）。2025年6月28日閲覧。 スミス、コルビー（2025年7月21日）。「トランプ最新情報：大統領が支持者に『前へ進む』よう促す中、エプスタイン騒動の余波続く」。ニューヨーク・タイムズ。ISSN 0362-4331。2025年7月21日閲覧。 マーゴリス、アンドレア（2025年7月20日）。「トランプ氏、オバマ氏が『YMCA』の曲に合わせて逮捕される様子を描いたAI生成動画を投稿」。フォックス・ニュース。2025年7月21日閲覧。 ロエトガース、ヤンコ（2018年2月21日）。「ポルノ制作者、ハリウッドのディープフェイク動画対策への協力を申し出る」。『バラエティ』。2019年6月10日にオリジナルからアーカイブ。2018年2月28日閲覧。 ディクソン、E. J.（2019年10月7日）。「ディープフェイクポルノは依然として脅威であり、特にK-POPスターにとってはそうだ」。『ローリング・ストーン』。2019年10月30日にオリジナルからアーカイブされた。2019年11月9日閲覧。 「ディープフェイクの現状 - 概況、脅威、および影響」（PDF）。ディープトレース。2019年10月1日。2020年8月9日にオリジナルからアーカイブ（PDF）された。2020年7月7日閲覧。 ゴギン、ベンジャミン（2019年6月7日）。「ポルノから『ゲーム・オブ・スローンズ』まで：ディープフェイクとリアルな偽動画がヒットし た理由」。ビジネス・インサイダー。2019年11月8日にオリジナルからアーカイブされた。2019年11月9日閲覧。 リー、デイブ（2018年2月3日）。「『偽ポルノ』は深刻な結果をもたらす」。2019年12月1日にオリジナルからアーカイブされた。2019年11月9日に閲覧。 コール、サマンサ（2018年6月19日）。「ディープフェイク対策としてGfycatが採用したAIソリューションは機能していない」。Vice。2019年11月8日にオリジナルからアーカイブされた。2019年11月9日に閲覧。 ゾーイ、フレニ（2019年11月24日）。「ディープフェイクポルノは今後も存在し続ける」。Medium。2019年12月10日にオリジナルからアーカイブされた。2019年12月10日閲覧。 コール、サマンサ；マイバーグ、エマニュエル；ケーブラー、ジェイソン（2019年6月26日）。「この恐ろしいアプリは、ワンクリックでどんな女性の写真でも服を脱がせる」。Vice。2019年7月2日にオリジナルからアーカイブされた。2019年7月2日閲覧。 コックス、ジョセフ （2019年7月9日）。「GitHubがDeepNudeのオープンソース版を削除」。Vice Media。2020年9月24日にオリジナルからアーカイブされた。2019年7月14日に閲覧。 「pic.twitter.com/8uJKBQTZ0o」。2019年6月27日。2021年4月6日にオリジナルからアーカイブされた。2019年8月3日に閲覧。 「エマ・ワトソンの顔を使った数百件の性的ディープフェイク広告が、過去2日間でFacebookとInstagramに掲載された」。NBCニュース。2023年3月7日。2024年2月29日にオリジナルからアーカイブされた。2024年3月8日に閲覧。 フィリポヴィッチ、ジル（2024年1月31日） 。「誰でも『ディープフェイク』の被害者になり得る。だが、テイラー・スウィフトが標的とされるのには理由がある」。ガーディアン。ISSN 0261-3077。2024年6月10日にオリジナルからアーカイブされた。2024年3月8日閲覧。 パリ、ブリット（2021年10月）。「偽物の構成：デジタル化された身体、証拠の政治学、そして主体性」 . 『Social Media + Society』. 7 (4) 20563051211062919. doi:10.1177/20563051211062919. ISSN 2056-3051. ダミアーニ、ジェシー。「中国のディープフェイクアプリ『Zao』が話題に、ユーザーデータとセキュリティポリシーを巡り即座に批判に直面」。『フォーブス』。2019年9月14日にオリジナルからアーカイブ。2019年11月18日閲覧。 「アイルランドと米国の選挙を控え、Facebookが『ディープフェイク』動画に対する新たな対策を発表」。『Independent.ie』。2020年1月7日。2020年1月8日にオリジナルからアーカイブされた。2020年1月7日に閲覧。 「ベルギーのビジュアル専門家クリス・ウメがトム・クルーズのディープフェイクをいかに仕組んだか」。『ザ・ステーツマン』。2021年3月6日。2022年8月24日にオリジナルからアーカイブされた。2022年8月24日に閲覧。 メッツ、レイチェル。「 TikTok上のディープフェイク・トム・クルーズが、いかにして現実のAI企業へと変貌したか」。CNN。2024年6月10日にオリジナルからアーカイブされた。2022年3月17日に閲覧。 コーコラン、マーク；ヘンリー、マット（2021年6月23日）。「これはトム・クルーズではない。それがセキュリティ専門家をこれほど心配 させている理由だ」。ABCニュース。2022年3月28日にオリジナルからアーカイブされた。2022年3月28日に閲覧。 ロイター、2020年7月15日、活動家夫婦を攻撃するために使用されたディープフェイクが示す新たな偽情報の前線 2020年9月26日にウェイバックマシンでアーカイブ 「完璧なディープフェイク技術は予想より早く登場するかもしれない」。www.wbur.org。2019年10月2日。2019年10月30日にオリジナルからアーカイブされた。2019年11月9日に閲覧。 ヴィンセント、ジェームズ。「ディープフェイクはよりリアルになり、検出が難しくなっている」。The Verge。2025年8月13日に閲覧。 ソーンメイカー、タイラー。「ソーシャルメディアプラットフォームが迫り来るディープフェイクの波に備える中、Googleの元『詐欺対策責任者』は、最 大の危険はディープフェイクがやがて退屈なものになることだと予測する」。Business Insider。2021年4月14日にオリジナルからアーカイブされた。2021年4月14日に閲覧。 ヴァッカリ、クリスティアン；チャドウィック、アンドリュー（2020年1月）。「 ディープフェイクと偽情報：合成政治動画がニュースにおける欺瞞、不確実性、信頼に与える影響の探求」。『Social Media + Society』。6 (1): 205630512090340。doi:10.1177/2056305120903408。ISSN 2056-3051。S2CID 214265502. Pawelec, M (2022). 「ディープフェイクと民主主義（理論）：偽情報およびヘイトスピーチのための合成視聴覚メディアが民主主義の中核的機能をいかに脅かすか」。 『Digital Society: Ethics, Socio-legal and Governance of Digital Technology』. 1 (2) 19. doi:10.1007/s44206-022-00010-6. PMC 9453721. PMID 36097613. ソマーズ、メレディス（2020年7月21日）。「ディープフェイクの解説」。MITスローン。2024年3月5日にオリジナルからアーカイブされた。2024年3月6日に閲覧。 ベイトマン、ジョン（2020年）。「要約」。『金融システムにおけるディープフェイクと合成メディア』：1–2。2021年4月20日にオリジナルからアーカイブされた。2020年10月28日に閲覧。 ケリオン、 レオ（2020年9月）。「マイクロソフトがディープフェイク検出ツールを公開」。BBCニュース。2021年4月14日にオリジナルからアーカイブされた。2021年4月15日に閲覧。 コーエン、アリエル；リモン、インバル；アフラロ、エラン；パーミュター、ハイム・H.（2022年6月）。「音声なりすまし防止における データ拡張に関する研究」。Speech Communication. 141: 56–67. arXiv:2110.10491. doi:10.1016/j.specom.2022.04.005. S2CID 239050551. マンケ、カラ（2019年6月18日）。「研究者らが顔の癖を利用して『ディープフェイク』を暴く」。Berkeley News。2019年11月9日にオリジナルからアーカイブされた。2019年11月9日に閲覧。 ファリド、ハニー（2006年12月1日） 。「デジタル加工：本物と偽物を区別する方法」。『Significance』。3 (4): 162–166. doi:10.1111/j.1740-9713.2006.00197.x. S2CID 13861938. 「ディープフェイク検出チャレンジ（DFDC）に参加しよう」。deepfakedetectionchallenge.ai。2020年1月12日にオリジナルからアーカイブされた。2019年11月8日に閲覧。 「ディープフェイク検出チャレンジの結果：AIを推進するためのオープンな取り組み」。ai.facebook.com。2020年10月29日にオリジナルからアーカイブされた。2022年9月30日に閲覧。 Groh, Matthew; Epstein, Ziv; Firestone, Chaz; Picard, Rosalind (2022). 「人間によるクラウド、機械、および機械情報に基づくクラウドによるディープフェイク検出」. Proceedings of the National Academy of Sciences. 119 (1) e2110013119. arXiv:2105.06496. Bibcode:2022PNAS..11910013G. doi:10.1073/pnas.2110013119. PMC 8740705. PMID 34969837. 「Google Scholar」。scholar.google.com。2022年4月30日閲覧。 Masi, Iacopo; Killekar, Aditya; Mascarenhas, Royston Marian; Gurudatt, Shenoy Pratik; Abdalmageed, Wael (2020). 動画内のディープフェイクを抽出するための2分岐再帰ネットワーク。Lecture Notes in Computer Science。Vol. 12352. pp. 667–684. arXiv:2008.03412. doi: 10.1007/978-3-030-58571-6_39. ISBN 978-3-030-58570-9. 2024年6月10日にオリジナルからアーカイブされた。2022年4月30日に閲覧。「ディープフェイク問題に対するブロックチェーンの解決策」。 Wired。ISSN 1059-1028。2019年11月7日にオリジナルからアーカイブされた。2019年11月9日に閲覧。リータルー、カレフ。「なぜデジタル署名は ディープフェイクを防げないが、抑圧的な政府には役立つのか」。『フォーブス』。2021年4月14日にオリジナルからアーカイブされた。2021年2月 17日に閲覧。「ディープフェイクのビデオ通話を暴くには、通話相手に横を向いてもらう」。Metaphysic. 2022年8月8日。2022年8月26日にオリジナルからアーカイブされた。2022年8月24日に閲覧。ヘルムス、トッド（2022年）。「入門」。 『人工知能、ディープフェイク、そして偽情報：入門』。RAND Corporation。2025年8月13日に閲覧。 ロメロ＝モレノ、フェリペ（2025年6月23日）。「生成AIにおけるディープフェイク検出：人権保護のための法的枠組みの提案」。『Computer Law & Security Review』。58 106162。doi:10.1016/j.clsr.2025.106162。 カルヌスコス、スタマティス（2020年9月）。「デジタルメディアにおける人工知能：ディープフェイクの時代」。『IEEE Transactions on Technology and Society』。1 (3): 138–147. Bibcode:2020ITTS....1..138K. doi:10.1109/TTS.2020.3001312. ISSN 2637-6415. トゥロス, マティアシュ; ケニェレス, アッティラ・ゾルタン; シュッツ, ゾルタン (2024年9月)。「中等教育段階の生徒における偽動画の検知：社会文化的要因、メディアリテラシー、およびメディア利用要因の影響」。『テレマティク ス・アンド・インフォマティクス・リポート』。15 100160。doi:10.1016/j.teler.2024.100160。 アフメド、サイフディン（2023年5月）。「迷路を抜け出す：ディープフェイク、認知能力、およびソーシャルメディアニュースへの懐疑」。 『ニュー・メディア・アンド・ソサエティ』。25 (5): 1108–1129. doi:10.1177/ 14614448211019198. ISSN 1461-4448. 「ケイト・ミドルトンの指輪が不可解に消失、AIへの懸念が高まる」。MSN。2024年3月25日。2024年6月10日にオリジナルからアーカイブ。2024年5月19日閲覧。 ヒンドゥスタン・タイムズ（2024年4月5日）。「『ケイトの癌告白は偽物』、メーガン・マークルのファンでUCLAディレクターのジョナ サン・パーキンスが陰謀論を唱える」。ヒンドゥスタン・タイムズ。2024年6月10日にオリジナルからアーカイブされた。2024年5月19日に閲覧。 ハメレールズ、マイケル；ファン・デル・メール、トニ・G・L・A；ドッバー、トム（2024年2月）。「彼らは決してこんなことは言わない！政治的 ディープフェイクを疑う理由」。『European Journal of Communication』。39 (1): 56–70. doi:10.1177/02673231231184703. ISSN 0267-3231. サルビ、オゲネレ（2025年10月16日）。「人工知能、誤情報、そして図書館：情報専門家のための新たなフロンティア」。『情報科学技術協会論文集』。62: 572–581. doi:10.1002/pra2.1279. 2025年11月4日閲覧。 ドバー、トム；メトゥイ、ナディア；トリリング、ダミアン；ヘルバーガー、ナタリー；デ・ヴリーゼ、クラーエス（2021年1月）。「（マイ クロターゲティングされた）ディープフェイクは政治的態度に実効的な影響を与えるか？」。『The International Journal of Press/Politics』。26 (1): 69–91. doi:10.1177/1940161220944364. ISSN 1940-1612. サルヴィ、アレッサンドロ；フィリポヴァ、ライナ；ホーゲヴェーン、ブライアン；カラシュコヴァ、イヴァナ；パウラック、パトリック；サル ヴィ、アンドレア（2024年）。『クローンたちの襲来： ディープフェイクとデマ情報の変容する状況。欧州安全保障研究所（EUISS）。pp. 32–40。2025年8月13日閲覧。 「ディープフェイク、選挙、そして『嘘つきの利益』の縮小 | ブレナン・センター・フォー・ジャスティス」。www.brennancenter.org。2024年2月8日。2025年12月10日閲覧。 「トランプ氏が逮捕されるAI生成画像がソーシャルメディアで拡散」。APニュース。2023年3月21日。2024年6月10日にオリジナルからアーカイブ。2023年10月10日閲覧。 フェイガン、ケイリー。「オバマがトランプを『dips---』と呼んでいるように見える拡散動画は、『ディープフェイク』と呼ばれる不穏な 新潮流を示している」。ビジネス・インサイダー。2020年9月22日にオリジナルからアーカイブされた。2020年11月3日に閲覧。 「ディープフェイクの台頭と民主主義への脅威」。ガーディアン。2020年11月1日にオリジナルからアーカイブされた。2020年11月3日に閲覧。 「トランプ氏、祈る自身のディープフェイク写真を共有 逮捕シーンのAI画像がネット上で拡散する中」。インディペンデント。2023年3月24日。2023年5月28日にオリジナルからアーカイブ。2023年6月16日閲覧。 タワーズ＝クラーク、チャールズ。「モナ・リザとナンシー・ペロシ： ディープフェイクがもたらす影響」。フォーブス。2020年11月23日にオリジナルからアーカイブされた。2020年10月7日に閲覧。 「ディープフェイクとシャローフェイクの異なる点とは？」。2020年4月21日。2022年6月26日にオリジナルからアーカイブされた。2021年12月5日に閲覧。 「ギャラリー：『スペクター』公開 （プレスリリース）」。Bill Posters。2019年5月29日。2024年6月10日にオリジナルからアーカイブされた。2024年5月15日に閲覧。 コール、サマンサ（2019年6月11日）。「このマーク・ザッカーバーグのディープフェイクが、Facebookの偽動画ポリシーを試す」。Vice。2024年6月10日にオリジナルからアーカイブされた。2024年5月15日閲覧。 「ディープフェイクのプーチンが、アメリカ人に自業自得の破滅を警告する」。MIT Technology Review。2020年10月30日にオリジナルからアーカイブされた。2020年10月7日閲覧。 ソン、ポール（2023年6月5日）。「ロシアで放送された、戒厳令を宣言する偽のプーチン演説」。ニューヨーク・タイムズ。2024年6月10日にオリジナルからアーカイブ。2023年6月6日に閲覧。 アリン、ボビー（2022年3月16日）。「ゼレンスキーのディープフェイク動画は『氷山の一角』かもしれない 」と専門家が警告。NPR。2022年3月29日にオリジナルからアーカイブ。2022年3月17日閲覧。 サタリアーノ、 アダム；モズール、ポール（2023年2月7日）。「画面に映る人物は偽物だ。偽情報は本物だ」。ニューヨーク・タイムズ。2024年6月10日にオリジナルからアーカイブされた。2023年2月10日に閲覧。 「バレンシアガ姿の教皇フランシスコのディープフェイクが数百万人を欺く：『間違いなく恐ろしい』」。ニューヨーク・ポスト。2023年3月28日。2024年6月10日にオリジナルからアーカイブされた。2023年6月16日に閲覧。 ルー、ドナ（2023年3月31日）。「誤情報、ミス、そしてダウンジャケット姿の教皇：急速に進化するAIにできること、できないこと」。ガーディアン。2024年6月10日にオリジナルからアーカイブ。2023年6月16日閲覧。 マーフィー、ヘザー・タル（2023年3月29日）。「 コートを着た教皇は聖なる場所からのものではない」。『スレート』。2024年6月10日にオリジナルからアーカイブされた。2023年6月16日閲覧。 「労働党大会初日にキア・スターマー卿のディープフェイク音声が公開される」。『スカイニュース』。2024年5月29日閲覧。 「ラシュミカ・マンダナと共演したディープフェイク動画の女性の の顔を使ったディープフェイク動画の女性が沈黙を破る：起きていることに深く動揺し、憤っている」。『タイムズ・オブ・インディア』。2023年11月9 日。ISSN 0971-8257。2023年11月23日にオリジナルからアーカイブされた。2023年11月23日に閲覧。 キューピン、ビー （2024年4月24日）。「マラカニアン宮殿、マルコス大統領が軍事攻撃を命じるディープフェイク音声を指摘」。ラプラー。2024年6月10日にオリジナルからアーカイブされた。2024年5月14日閲覧。 フローレス、ヘレン（2024年4月27日）。「マルコス大統領の音声ディープフェイクの背後に『外国人俳優』の姿」。フィリピン・スター。2024年6月10日にオリジナルからアーカイブされた。2024年5月14日に閲覧。 アルゴシーノ、フェイス（2024年5月14日）。「名誉毀損的なコンテンツやマルコス氏のディープフェイクを理由に、ソーシャルメディアページに対し告 訴が提起される」。フィリピン・デイリー・インクワイアラー。2024年6月10日にオリジナルからアーカイブされた。2024年5月14日に閲覧。 「顔入れ替え？ ディープフェイク検出ツールがマルコス氏の動画とみられるものを『不審』と判定」。ラプラー。2024年7月23日。2024年7月25日閲覧。 「NBIとPNPの調査結果、『ポルボロン』動画は偽物と判明」。ザ・フィリピン・スター。2024年7月24日。2024年7月25日閲覧。 シェパードソン、デビッド（2024年5月23日）。「AI生成のバイデン氏自動音声電話をめぐり、米政治コンサルタントが起訴される」。ロイター。 「AI生成のバイデン氏自動音声電話をめぐり、米政治コンサルタントが起訴される」。AP通信。2024年5月23日。2024年6月10日にオリジナルからアーカイブ。2024年6月8日閲覧。 マグラモ、キャスリーン （2024年5月17日）。「英国のエンジニアリング大手アープ、2500万ドルのディープフェイク詐欺被害に」。CNN。2025年5月18日に閲覧。 デラ・クルス、アイラ（2025年6月16日）。「ファクトチェック：サラ・ドゥテルテ弾劾に反対する学生の動画はAI生成」。ラプラー。 2025年6月17日に閲覧。カバト、ルイーザ（2025年6月16日）。「サラ・ドゥテルテ弾劾をめぐるAI動画でデラ・ロサが嘲笑される」。フィリピ ン・デイリー・インクワイアラー。2025年6月17日閲覧。マグサンボル、ボンズ（2025年6月16日）。「サラ・ドゥテルテ：私の弾劾に反対する AI動画を共有することに何の問題もない」。Rappler。2025年6月17日閲覧。 リゲット、ジェイク（2025年10月22日）。「大統領候補が『恥ずべき』ディープフェイクAI動画を非難」。BBC News NI。2026年1月18日閲覧。ヘック、ピーター（2025年10月22日）。「アイルランド大統領候補のディープフェイク動画が選挙戦を揺るがす」。 Politico Europe。2026年1月18日閲覧。 プライス、ロブ（2018年1月27日）。「Discord、有名人を合成したAI編集ポルノ動画を共有するチャットグループを閉鎖」。Business Insider Australia。2019年12月15日にオリジナルからアーカイブ。2019年11月28日閲覧。 ゴーシャル、アビマニュ（2018年2月7日）。「Twitter、Pornhub、その他のプラットフォームがAI生成の有名人ポルノを禁止」。The Next Web。2019年12月20日にオリジナルからアーカイブ。2019年11月9日閲覧。「Twitterが『ディープフェイク』AI生成ポルノを禁 止」。Engadget。2019年7月20日。2019年12月15日にオリジナルからアーカイブ。2019年11月28日閲覧。 コール、サマンサ（2018年1月31日）。「AI生成の偽ポルノ制作者たちが、愛用していたホスティングサービスから追放された」。Vice。2019 年11月1日にオリジナルからアーカイブ。2019年11月18日に閲覧。ベーム、マルクス（2018年2月7日）。「『ディープフェイク』：企業が偽の セレブポルノに対抗」。シュピーゲル・オンライン。2019年9月23日にオリジナルからアーカイブ。2019年11月9日に閲覧。 バーバラ・ヴィマー（2018年2月8日）。「ディープフェイク：Redditが人工生成された偽ポルノのフォーラムを削除」。 futurezone.at（ドイツ語）。2018年2月8日にオリジナルからアーカイブされた。2019年11月9日に閲覧。「ディープフェイク： Redditも偽ポルノを禁止」。heise online（ドイツ語）。2018年2月8日。2019年4月10日にオリジナルからアーカイブされた。2019年11月9日に閲覧。「Redditが ディープフェイクポルノを禁止 - derStandard.de」。DER STANDARD（オーストリア・ドイツ語）。2019年11月9日にオリジナルからアーカイブされた。2019年11月9日閲覧。 ロバートソン、アディ（2018年2月7日）。「Reddit、『ディープフェイク』AIポルノコミュニティを禁止」。The Verge。2019年9月24日にオリジナルからアーカイブされた。2019年11月9日閲覧。 コール、サマンサ（2018年2月6日）。「Pornhub、AI生成の偽ポルノ動画を禁止へ。同意のないものだと主張」. Vice. 2019年11月1日にオリジナルからアーカイブされた。2019年11月9日に閲覧。 ベレス、デイモン；ギルマー、マーカス（2018年2月2日）。「インターネットの最新の道徳的危機『ディープフェイク』ガイド」。Mashable。2019年12月9日にオリジナルからアーカイブ。2019年11月9日に閲覧。 ハレル、ドリュー。「偽ポルノ動画は、女性を嫌がらせ、屈辱を与えるための武器として利用されている：『誰もが潜在的な標的だ』」。ワシントン・ポスト。2019年1月2日にオリジナルからアーカイブされた。2019年1月1日に閲覧。 アンダーソン、マーティン（2022年）。GoogleはColabでのディープフェイクのトレーニングを禁止した 2022年5月30日にウェイバックマシンでアーカイブ、Unite.ai、2022年5月28日 マイバーグ、エマニュエル（2022年）。『「ディープ・トム・クルーズ」から卑猥なディープフェイクポルノへ、クリック2回で到達』、VICE、2022年5月17日 「Facebookはマーク・ザッカーバーグのディープフェイク動画を削除しないと約束した」。MITテクノロジーレビュー。2019年10月16日にオリジナルからアーカイブ。2019年11月9日に閲覧。 コール、サマンサ（2019年6月11日）。「このマーク・ザッカーバーグのディープフェイクは、Facebookの偽動画ポリシーを試すものだ」。Vice。2019年10月12日にオリジナルからアーカイブされた。2019年11月9日に取得。 「ディープフェイク検出チャレンジの結果： AIを推進するためのオープンなイニシアチブ」。ai.facebook.com。2020年10月29日にオリジナルからアーカイブされた。2020年10月7日に閲覧。 ポール、ケイティ（2020年2月4日）。「Twitter、ディープフェイクやその他の欺瞞的なメディアにラベルを付ける」。ロイター。2020年10月10日にオリジナルからアーカイブされた。2020年10月7日に閲覧。 コール、サマンサ（2018年2月6日）。「Twitter、AI生成ポルノを禁止する最新のプラットフォームに」。Vice。2019年11月1日にオリジナルからアーカイブされた。2019年11月8日に閲覧。 「合成・改変メディアへの取り組みを共に形作ろう」。blog.twitter.com。2020年10月28日にオリジナルからアーカイブされた。2020年10月7日に閲覧。 「TechCrunch」。TechCrunch。2019年11月11日。2021年7月14日にオリジナルからアーカイブされた。2020年10月7日に閲覧。 米国の5州、選挙に関する誤情報問題でマスク氏にAIチャットボットの修正を要請。ロイター、2024年8月19日閲覧。 イーロン・マスクが安全策をほとんど講じずにAIツールをリリース、有害な画像が拡散。ワシントン・ポスト、2024年8月19日閲覧。 イーロン・マスクとXが、いかにしてオンライン誤情報の最大の拡散者となったか。ローリング・ストーン、2024年8月19日閲覧。 サッセ、ベン（2018年12月21日）。「S. 3805–第115回議会（2017-2018）：2018年悪意あるディープフェイク禁止法」。www.congress.gov。2019年10月 16日にオリジナルからアーカイブされた。2019年10月16日に取得。 クラーク、イヴェット・D.（2019年6月28日） 。「H.R.3230 - 第116回議会（2019-2020年）：2019年搾取行為の責任追及による虚偽の外見からの全人格防衛法」。www.congress.gov。 2019年12月17日にオリジナルからアーカイブされた。2019年10月16日に閲覧。 「デジタルID認証の動向2025」。www.zyphe.com。2025年8月11日に閲覧。 「『ディープフェイク』によるリベンジポルノ、バージニア州で違法化」。TechCrunch。2019年7月。2021年7月14日にオリジナルからアーカイブ。2019年10月16日に閲覧。 イアコノ・ブラウン、ニーナ（2019年7月15日）。「議会は2020年までにディープフェイク問題を解決しようとしている。それは我々に とって懸念すべきことだ」。Slate Magazine。2019年10月16日にオリジナルからアーカイブされた。2019年10月16日閲覧。 「法案本文 - AB-602 デジタルまたは電子技術を用いた個人の描写：性的に露骨な素材：訴因」。leginfo.legislature.ca.gov。2019年11月17日にオリジナルからアーカイブされた。2019年11月9日に閲覧。 「法案本文 - AB-730 選挙：欺瞞的な音声または映像メディア」。leginfo.legislature.ca.gov。2019年10月31日にオリジナルからアーカイブされた。2019年11月9日に閲覧。 H.R. 5586：DEEPFAKES Accountability Act Govtrack.US 2024年8月15日にアクセス。 H.R. 6943: No AI FRAUD Act Govtrack.US 2024年8月15日閲覧。 ハットメーカー、テイラー（2018年5月1日）。「DARPAは、改ざんされた動画や『ディープフェイク』を特定できる新技術に資金を提供 している」。TechCrunch。2023年12月8日にオリジナルからアーカイブされた。2024年4月14日閲覧。 Hsu, Jeremy (2018年6月22日). 「専門家たちは初のディープフェイク政治スキャンダルを予測 - IEEE Spectrum」. IEEE. 2024年2月22日にオリジナルからアーカイブされた。2024年4月14日に閲覧。 「メディア・フォレンジクス」. www.darpa.mil. 2020年10月29日にオリジナルからアーカイブされた。2020年10月7日に閲覧。 「米軍はディープフェイクやその他のAIによる偽装を検知する取り組みに資金を提供している」。MIT Technology Review。2020年11月1日にオリジナルからアーカイブされた。2020年10月7日に閲覧。 コリンズ、コナー（2019年3月11日）。「DARPA、AIでディープフェイクに対処」。GovCIO Media & Research。2024年3月2日にオリジナルからアーカイブされた。2024年4月14日に閲覧。 「DARPAがディープフェイク問題に取り組んでいる」。Nextgov.com. 2019年8月6日。2020年10月28日にオリジナルからアーカイブされた。2020年10月7日に閲覧。 サイバート、サラ（2021年9月16日）。「DARPA、改ざんされたメディアを検出する新プログラムを開始」。GovCIO Media & Research。2024年6月10日にオリジナルからアーカイブされた。2024年4月14日に閲覧。 クーパー、ナオミ（2024年3月15日）。「DARPA、改ざんされたメディアに対する防御を強化するため2つの新たな取り組みを開始」。2024年3月15日にオリジナルからアーカイブ。2024年4月14日に閲覧。 「セマンティック・フォレンジクス - 分析カタログ」。semanticforensics.com。2024年4月18日にオリジナルからアーカイブされた。2024年4月14日に閲覧。 266. 米国科学・工学・医学アカデミー（2023年6月22日）。「ノーベル賞サミット、誤情報・偽情報との闘いおよび科学への信頼構築に向けた取り組みを後押し」。米国科学・工学・医学アカデミー。Wikidata Q124711722。 |
| Further reading Daniel Immerwahr, "Your Lying Eyes: People now use A.I. to generate fake videos indistinguishable from real ones. How much does it matter?", The New Yorker, 20 November 2023, pp. 54–59. "If by 'deepfakes' we mean realistic videos produced using artificial intelligence that actually deceive people, then they barely exist. The fakes aren't deep, and the deeps aren't fake. [...] A.I.-generated videos are not, in general, operating in our media as counterfeited evidence. Their role better resembles that of cartoons, especially smutty ones." (p. 59.) Emmanouil Billis,"Deepfakes και Ποινικό Δίκαιο [Deepfakes and the Criminal Law]"(in Greek). In: H. Satzger et al. (eds.), The Limits and Future of Criminal Law - Essays in Honor of Christos Mylonopoulos, Athens, P.N. Sakkoulas, 2024, pp. 689–732. |
追加文献（さらに読む） ダニエル・イマーワー、「嘘をつく目：人々は今、本物と見分けがつかない偽の動画を生成するためにAIを使っている。それはどれほど重大な問題なの か？」、『ニューヨーカー』、2023年11月20日、54–59ページ。「『ディープフェイク』を、人工知能を用いて制作され、実際に人々を欺くような リアルな動画と定義するなら、それらはほとんど存在しない。偽物は深くないし、深いものは偽物ではない。[...] AI生成動画は、一般的に、メディアにおいて偽造された証拠として機能しているわけではない。その役割は、むしろ漫画、特に下品な漫画に似ている。」 （59頁） エマヌイル・ビリス、「Deepfakes και Ποινικό Δίκαιο [ディープフェイクと刑法]」（ギリシャ語）。H. サッツガー他（編）、『刑法の限界と未来 ― クリストス・ミロノプロスへの献呈論文集』、アテネ、P.N. サクーラス、2024年、689–732頁。 |
| https://en.wikipedia.org/wiki/Deepfake |
リ ンク
文 献
そ の他の情報
CC
Copyleft,
CC, Mitzub'ixi Quq Chi'j, 1996-2099
