近年、ディープフェイクやフェイク動画は世界中で話題となっています。特にウクライナ侵攻のような国際的な出来事においてもその存在が確認されたことで、一般の人々からの注目も高まっています。これらの技術は、単なるエンターテイメントの領域を超え、社会、政治、経済に多大な影響を及ぼす可能性を秘めているからです。
本記事では、ディープフェイク動画が持つ有用性、また潜在的な危険性について考察していきます。さらに、これらの技術がどのようにして作成されるのか、その方法についても解説します。ディープフェイクという言葉に漠然とした不安を感じている方、あるいはその可能性に興味がある方は、ぜひ最後までお読みいただき、この技術の本質を理解する一助としてください。
ディープフェイクとはどういうもの？
ディープフェイクとは、ディープラーニング技術を使って人工的に作り出された合成映像や音声、文章などのメディアコンテンツのことです。ディープフェイク技術は、機械学習や人工知能の進歩によって生まれたものであり、その応用範囲は広がりつつあり、政治へも影響を及ぼしています。
具体的には、人物の顔や動きを合成して、まるでその人が実際に映像に出演しているかのように見せるといったことです。また、声のトーンや言葉遣いを学習させることで、本来の話者とは別の人物が話しているように聞こえる音声も作り出せます。
一般的には、ディープフェイク技術で制作した動画は「フェイク動画」と呼ばれ、ディープフェイク＝フェイク動画と思われています。しかし、フェイク動画というと悪意ある使い方をされるイメージがありますが、本来のディープフェイク動画にはさまざまな効果や有用性があるため、全てを同じように判断しないようにすることが大切です。
※「フェイク動画」という表記は、悪意ある目的で作られたものというイメージがあるため、健全な目的で作られた正しい技術のものを本記事では「ディープフェイク動画」という表記を用います。英語では適切な利用のディープフェイクを「Synthetic media（合成メディア／AI生成メディア）」と区別している場合もあります。
ディープフェイクの有用性
ディープフェイク技術の特長を知ると、さっそく使ってみようと思えるかもしれません。また、特長を知るとディープフェイクがどのようなものなのか、その有用性を理解しやすくなります。
CG制作の負担を減らせる
ディープフェイク技術は、ハリウッド映画のようなエンターテインメント業界でよく用いられています。特にCG制作では、人間以外の生き物が登場することもあり、その際にディープフェイク技術を用いることで、これまでよりも制作時の負担を減らすことが可能になります。
これまでは、特殊なキャラクターを演じる際に特殊メイクをする必要がありましたが、メイクだけだとどうしても限界がありました。しかしディープフェイクを用いればその壁を突破し、キャラクター画像を学習させることで違和感なく映像を置き換えることができるようになり、さらに幅広いキャラクターを演じられるようになっています。
再撮影の手間を減らせる
動画制作に関連した特長として、再撮影の手間を減らせることも挙げられます。もしも映ってはいけないものが映ってしまった際に、これまでだともう一度撮影する必要がありました。
しかし、ディープフェイク技術を用いることで、再撮影を行わなくても映画を完成させることも可能になります。AIに大量のデータを読み込ませて学習させておけば、よく似た映像と合成・加工を繰り返して新しい映像を作ることができます。さまざまな理由で再撮影する必要があっても、これまでよりも手間をかけずに編集することが可能になっています。
映像の顔の入れ替えをする
動画制作で、撮影中に俳優が何らかの理由で演技を続けられなくなった場合に、ディープフェイクを用いて、他の演技者の顔にその俳優の顔を投影して撮影を続け、編集で入れ替えをすることが可能になりました。
過去に「ワイルドスピード」シリーズでポール・ウォーカー氏が不慮の事故で亡くなった際に、彼の弟の顔に本人の顔を投影して撮影を続けたという例があります。
架空の人物を生成して代わりをやる
ディープフェイク技術を使うと、実在しないキャラクターやバーチャルアイドルを作り出すことができるため、アナウンサーやタレントの仕事を代わりにやってくれます。
実際にAIアナウンサーを採用しているケースもあり、新華社通信やテレビ朝日では、AIアナウンサーを本格的に起用してニュース放送を行い、話題になりました。
ディープフェイク動画の概要
ディープフェイクは、AI技術を利用して人の顔や声を合成し、本物そっくりの動画を作成する技術です。従来は専門的な知識と高額な機材が必要だった映像合成が、近年のAI技術の進歩により、一般ユーザーでも手軽に使えるようになりました。
この技術は映画制作、教育コンテンツ、マーケティング分野で革新的な可能性を秘めているので、適切な倫理観とガイドラインのもとで活用すれば、創造性の拡張と人手不足の解決に大きく貢献する次世代の映像制作技術として注目されています。
ディープフェイクの仕組み
ディープフェイクの核心技術は、敵対的生成ネットワーク（GAN：Generative Adversarial Networks）と呼ばれるディープラーニング手法です。GANは「生成器（Generator）」と「識別器（Discriminator）」という2つのニューラルネットワークが競い合う構造になっています。生成器は偽の画像を作成し、識別器はそれが本物か偽物かを判定します。
この競争プロセスを繰り返すことで、生成器は識別器を騙せるほど精巧な画像を生成できるようになります。例えば人の顔の場合、大量の顔画像データを学習し、顔の特徴点を抽出・マッピングして、ターゲットとなる人物の顔に別の人物の表情や動きを自然に合成します。変分オートエンコーダ（VAE）などの技術も併用され、より高品質で自然な画像や映像の合成を実現します。
ディープフェイクの応用分野
ディープフェイクの応用分野は多岐にわたります。映画・エンターテインメント業界では、故人の俳優の復活や危険なスタントシーンの代替、多言語での吹き替え制作に活用されています。教育分野では、歴史上の人物による授業や、多言語対応の教育コンテンツ制作が可能になりました。
企業のマーケティングでは、AIアナウンサーによる多言語ニュース配信や、コスト効率の高い広告動画制作が実現しています。医療・研究分野では、患者のプライバシー保護を目的とした症例動画の匿名化に利用されています。また、アクセシビリティ向上の観点から、手話通訳者の不足を補うAI手話通訳システムの開発も進んでいます。これらの応用により、従来は不可能だった表現や、高コストで実現困難だったコンテンツ制作が可能になっています。
ディープフェイクの作成に必要なツール
ディープフェイク動画の制作には、用途と技術レベルに応じて様々なツールが利用できます。初心者向けでは「Reface」「FacePlay」「Avatarify」などのスマートフォンアプリが手軽で、リアルタイムでの顔交換が可能です。
中級者向けには「AKOOL」「DeepSwap」「Remake」などのWebベースのツールがあり、ブラウザ上で高品質な動画が作成できます。上級者・プロ向けには「DeepFaceLab」「FaceSwap」「Reactor」などのデスクトップソフトがおすすめです。これらは高度なカスタマイズが可能で、映画レベルの品質も可能です。
クラウド環境では「Google Colab（利用規約に注意）」「Paperspace」「RunDiffusion」などが利用可能です。しかし制作には、高性能GPU（NVIDIA RTX 4080以上推奨）、十分なRAM（16GB以上）、大容量ストレージが必要となり、処理時間は数時間から数日かかる場合があります。
ディープフェイクには潜在的な危険性がある
ディープフェイク技術にはさまざまな有用性がある反面、潜在的に危険性もはらんでいるため、そのことも踏まえてディープフェイクの理解を深めましょう。
なりすまし動画を作られてしまう
なりすまし動画は「フェイク動画」とも呼ばれており、政治的な動画や偽のニュース映像を作り出して世論を操作できるため、社会的な問題として注目を集めています。
なりすまし動画の悪用は、実際に起きていることです。すでに見たことがある方も多いかも知れませんが、次のようなケースが挙げられます。
事例1）ウクライナ侵攻
2022年3月16日、ウクライナ侵攻においてロシアへの降伏を発表するゼレンスキー大統領の動画が、FacebookとYouTubeへ投稿されました。投稿者は不明ですが、ディープフェイク技術が用いられたフェイク動画であり、投稿後にゼレンスキー大統領自身がこれを否定し、FacebookとYouTubeからも動画は削除されました。
すぐに削除されたフェイク動画ですが、武力紛争において初めて戦術として利用されたディープフェイク技術であったとも指摘されています。そのことを考えると、今後新たな戦術としてさまざまな国でフェイク動画が用いられるかもしれません。
事例2）オバマ元大統領
なりすまし動画の事例として、オバマ元大統領のケースは、あらかじめディープフェイク技術が用いられていることを公表した上で公開された動画ですが、そのことを知らずに見ると本物に思えるかもしれません。
オバマ元大統領のフェイク動画は、ジョーダン・ピールという俳優がオバマ元大統領の声を真似し、動画の唇の動きを俳優の言葉と組み合わせて作られました。非常にクオリティが高いものであり、違和感なくオバマ元大統領がスピーチしているように見えました。
フェイクポルノを作られてしまう
ディープフェイク技術を用いた悪用事例で最も多いのが、ポルノ動画に出演している人の顔を別の人の顔に差し替えるフェイクポルノです。
合成メディアの検知や監視を行う企業であるセンシティ社の報告書によると、ネットに投稿された14,000点以上のディープフェイク動画を対象にしたサンプル調査の中で、96%が同意を得ていないものでした。また同じ報告書には、6ヶ月ごとにネット上のフェイク動画の数が2倍ほど増えていると指摘されています。
日本でもフェイクポルノに関する事件が起きており、2020年10月にはアダルトビデオ出演者の顔を女性芸能人の顔に差し替えたとされる2名が、名誉毀損と著作権法違反の疑いで逮捕されました。
ビジネスメール詐欺の手口に使われる
ディープフェイク技術は、ビジネスメール詐欺に用いられるリスクがあるとも指摘されています。ビジネスメール詐欺とは、上司や取引先を装った偽メールで金銭をだまし取る詐欺の手口で、米国ではビジネスメール詐欺の被害総額はランサムウェアの被害総額を上回る規模とも言われています。
最近までビジネスメール詐欺では、ディープフェイク音声を使った事例が多くみられましたが、2024年にはフェイク動画が用いられるようになりました。メールでビデオ会議に参加させ、上司や同僚のフェイク動画を使って巧妙に騙して送金させるなどの手口です。そのため、ビジネスメールのやり取りにおいて、さらに情報セキュリティの意識が重要になっています。
ディープフェイク動画の作り方
ディープフェイク動画の作成手順をまとめてみると
1. 素材の収集
最初のステップは、動画素材の収集です。使用する映像はできるだけ高解像度で、合成する人物の顔が鮮明に映っているものが理想です。素材によってAIが顔の特徴を正確に学習でき、合成の精度が向上します。顔が頻繁に動くシーンや、複数の角度からの映像を集めることが重要です。
2. AIモデルの構築
次は、AIモデルの構築です。ディープフェイクでは、顔の特徴を学習させるために、ディープラーニングモデルをトレーニングします。具体的には、顔の動きや表情、輪郭などの特徴をAIが理解できるように、数千枚の顔画像をモデルに学習させます。このプロセスは、モデルが新しい映像に対してどのように顔を合成するかを決定する重要なステップです。
3. 動画の合成
次に、合成プロセスに進みます。この段階ではAIモデルが学習した顔の特徴を元に、実際に映像の中に新しい顔を合成します。合成の精度を上げるためには、AIが学習した顔の動きや表情に合わせて、元の映像と違和感なく調整する必要があります。このプロセス（GEN）は試行錯誤が必要で、何度も調整を繰り返しながら最適な結果を追求します。
4. 編集と仕上げ
最後に、映像編集を行います。この段階では映像の滑らかさや音声の同期を調整し、最終的な仕上がりを確認します。特に映像のタイミングや音声とのズレがないか、注意深くチェックすることが重要です。映像全体がスムーズに再生され、違和感のない精度になれば、ディープフェイク動画の完成です。
ディープフェイク動画の作成は、技術的なチャレンジが多いですが、適切なツールと知識を活用することで、初心者でも高品質な作品を作り上げることが可能になりました。
ディープフェイクは今後どうなる？
ディープフェイクは潜在的な危険性を持つ技術ですが、だからといって将来的に使われなくなってしまうことはないでしょう。ディープフェイク技術の未来には、次のようなことが考えられます。
エンターテインメント業界でさらに活用される
すでにディープフェイク技術が用いられているエンターテインメント業界では、さらに活用されていくでしょう。例えば、P&G社のスキンケアブランド「SK-Ⅱ」のCMでは、バーチャルヒューマンと女優が共演した映像を作って公開しています。
またディズニーでは、オリジナル実写ドラマであるマンダロリアンシリーズで、ディープフェイク技術の活用が検討されました。大手のエンターテインメント会社からも注目を集めているため、さらに今後も活用されるようになるでしょう。
悪用を防ぐための検出技術と技術規格
フェイク動画への対抗策としては、企業では社内外に流通する情報について、その真偽や正確性を検証し、早期に虚偽を見抜く体制の構築が重要になります。具体的には、ファクトチェックツールやディープフェイク検出ツールの活用です。
ファクトチェックツールは、例えばTDAI Labは「LLMファクトチェッカー」を開発し、Web情報やPDF文書から自動で検索・抽出し、真偽を効率的に確認することができます。
ディープフェイク検出ツールは、例えばAdobeの「Content Authenticity Initiative」やMicrosoftの「Video Authenticator」などがあります。これらのツールは、画像や動画の信頼性を確認するために設計されています。
また、コンテンツの来歴と真正性を証明するための技術規格「C2PA」が開発されました。これにより画像や動画の作成者や編集履歴を追跡することが可能です。ユーザーはコンテンツの信頼性を確認し、安心して利用できます。
俳優による対応が明確に分かれていく
現在、ディープフェイク技術に対して俳優や役者が何らかの対応を取るケースがいくつか見られます。例えば、ダイ・ハードシリーズで有名なブルース・ウィリスは、ディープフェイクを使って自身のデジタルツインを映画や広告に出演させる権利を売却しました。
一方、ジョン・ウィックシリーズで有名なキアヌ・リーブスは、編集で涙を追加する等のディープフェイク技術を契約で禁止しています。このようなケースが今後増えていくかもしれません。
法律やルールの整備が行われる
倫理的観点や社会受容性の観点の問題から、国内外でディープフェイク技術に対する法律やルールの整備が行われています。
例えばアメリカやヨーロッパでは、AIを導入した結果、社会的な非難を浴びたり、既存の法律に違反したりと、倫理や法律の観点からさまざまな問題提起がされています。
そのため、AIの法制化やAI政策の整備、倫理のルール化が進められています。これらは日本にも影響を及ぼすことになるでしょう。
他言語への翻訳がしやすくなる
ディープフェイク技術は、映画の翻訳で用いられる可能性があります。イギリスのFlawlessという企業はディープフェイク技術を用いて、映画の俳優が翻訳された言語で話しているかのように演出できるソフトウェアを開発しました。これまでの吹き替え翻訳よりも手間を減らせる上に、自然な形で表現できるため、今後増えるかもしれません。
DXと連携して活用される
ディープフェイク技術は、DXと連携する可能性もあります。DXとはデジタル・トランスフォーメーションの略で、デジタルテクノロジーを活用して効率化や生産性、ビジネスプロセスを見直すことです。
ディープフェイク技術はすでに現代社会で用いられ始めており、前述したAIアナウンサーを導入してニュース番組や案内動画を24時間自動作成したり、小売・銀行・自治体などでは、「バーチャルコンシェルジュ」「バーチャル店員」が導入されたりしています。
まとめ
今回は、ディープフェイク技術の概要や有用性、潜在的な危険性などについて解説しました。ディープフェイクはCG制作の負担を減らせたり、再撮影の手間を減らせたりなどの利点があります。しかし、巧妙ななりすまし動画（フェイク動画）が作られやすくなるといったリスクがあることにも注意しなくてはなりません。
しかし将来的には、ディープフェイク技術はさらに活用される可能性があります。またディープフェイク動画の作成は、適切なツールと知識を活用することで、初心者でも高品質な作品を作り上げることが可能になりました。そのため、今のうちに理解を深めておくことをおすすめします。
弊社ではさまざまな動画制作を行っております。気になる方は、以下のリンク先からお問い合わせください。
