ディープフェイクは、AI技術「ディープラーニング（深層学習）」を利用して作成されるフェイク（偽）動画です。フェイクだと分からないほど精度が高いものもあり、悪用によるリスクが懸念されています。
本記事では、ディープフェイクの概要、悪用問題、作り方、活用の可能性について解説します。
ディープフェイクとは？
ディープフェイクとは本来、ディープラーニングを活用して画像や動画を部分的に交換させる技術のことを意味します。そこから定義が広がり、今ではフェイク（偽）動画を指すことも多くなってきました。
具体的には、ディープラーニング技術を用いて、動画に登場する人物の顔や表情、声などを別人のものと差し替え、動画内で本人が実際に行なっていない動作をさせたり、言っていないことを言わせたりします。
フォトショップなどの画像編集ソフトを使い、画像に登場する人物の顔を別人のものと差し替えることは以前から行なわれていました。しかし昨今では、AIの進化に伴って動画での差し替えも可能になってきたのです。
以下の動画はその一例です。
@deeptomcruise Sports!
♬ original sound - Tom
この動画は、2021年2月にTikTokで公開されたものです。登場する人物がトム・クルーズ氏であることに、多くの人は疑いを持たないのではないでしょうか。しかし、この動画はトム・クルーズ氏のモノマネタレントであるマイルズ・フィッシャー氏が演じる動画の顔の部分をトム・クルーズ氏の顔に差し替えたディープフェイク動画なのです。
上の動画の完成度が高いのは、AIの専門家がものまねタレントと協力し、AIのトレーニングに2か月、撮影に数日、30秒ほどの動画の編集に24時間と、大きな労力をかけて作ったからです。決して誰にでも同じようなものが作れるわけではありません。
しかし現在では、素人では見分けがつかないレベルのディープフェイク動画をスマホを使って手軽に作れてしまいます。AI技術の進歩は速いため、今後はますます手軽に、高度なディープフェイク動画が登場することでしょう。
ディープフェイク動画のなかにはエンタメとして作られるものもありますが、悪用のリスクが強く懸念されているのが実情です。
ディープフェイクの悪用問題
ここでは、ディープフェイクの悪用問題について見ていきましょう。ディープフェイクの悪用が懸念されているのは、政治家などのなりすましやフェイクポルノなどです。すでに、実際の悪用事例も生まれています。
政治家などのなりすまし
ディープフェイクの悪用でまず懸念されているのが、以下の動画のような政治家などのなりすましです。
この動画の前半部分では、オバマ元米大統領が不自然な様子もなく話しています。しかし、後半部分を見ればわかるとおり、これは米国の俳優・プロデューサーであるジョーダン・ピール（Jordan Peele）氏がオバマ氏の声を真似し、動画の唇の動きをピール氏の言葉とシンクロさせたものです。
この動画の24秒あたりで、偽オバマ元大統領は「President Trump is a total and complete dipshit（トランプ大統領は完全にマヌケだ）」と言っています。
この動画はディープフェイクであることを公言して公開されました。しかし、このような政治家などのディープフェイク動画が急速に拡散され、それを見た人々が本物と信じた場合は、人々の投票行動を左右するなどの大きな悪影響や社会的混乱につながりかねません。
実際に、政治家のディープフェイク動画には以下のような悪用事例もあります。
これは2022年3月16日にFacebookとYouTubeへ何者かによって投稿された、ウクライナのウォロディミル・ゼレンスキー大統領のディープフェイク動画です。動画は、ゼレンスキー大統領がウクライナ軍に武器を置くように呼びかけ、ロシアへの降伏を発表しているかのように見せかけています。
今回は、この動画が確認された直後にゼレンスキー大統領自身がこれを否定し、FacebookとYouTubeも即座に動画を削除したため、大きな問題にはなりませんでした。しかし、このようなディープフェイク動画の拡散は、今後も起き得ると考えられます。
フェイクポルノ
ディープフェイク動画の悪用事例として現状もっとも多いケースは、ポルノ動画に登場する人物の顔だけを別人と差し替えるフェイクポルノです。2019年に行なわれた調査によれば、ネットに投稿された1万4,000点以上のディープフェイク動画のうち、差し替えに使用された顔の本人の同意を得ないディープフェイクポルノは約96%を占めていました。
海外だけでなく、国内でも日本人女優やアイドルの顔を使用したディープフェイクポルノ動画が多数制作・拡散されています。
ディープフェイクポルノ動画の制作や拡散に携わると、名誉毀損罪や著作権法違反、わいせつ物頒布等罪などの罪に問われることもあります。実際に2020年10月、アダルトビデオ出演者の顔を女性芸能人と差し替えた大学生やシステムエンジニアが、名誉毀損と著作権法違反の疑いで逮捕されています。
ポルノ動画でなくても、本人の同意を得ずに他人の顔をディープフェイク動画に使用した場合は罪に問われる可能性があります。
ディープフェイク動画を作れるアプリ
それでは、パソコン・スマホのアプリを使ったディープフェイス動画の作り方を紹介します。
Xpression（スマートフォン用：iOS）
iOSで使える「Xpression」は、あらゆる顔の映像・写真を自由に動かしたり、しゃべらせたりできるアプリです。スマホのカメラ撮影を使って顔の動きを解析し、動画や画像の中の顔の表情をリアルタイムで置き換えられます。
具体的には、誰かの動画に自分がしゃべりたいことをしゃべらせる、絵画や彫刻をしゃべらせるなどが可能です。そのほか、あらかじめ撮影しておいたスーツを着た自分自身の動画を、現実世界ではパジャマを着たままでしゃべらせてオンライン会議に参加する、などの使い方もできます。
Reface（スマートフォン用：iOS、Android OS）
「Reface」は動画や画像の中の顔を、自撮りした動画と置き換えられるアプリです。映画スターやゲーム登場人物などはもちろん、絵画や動物などあらゆるものを、自分の顔に置き換えられます。
Deepfakes Web（PC用）
「Deepfakes Web」はPCで利用するサービスです。元になる動画と置き換える顔の動画をそれぞれアップロードすると、それらを合成した動画が作成できます。
置き換え素材として動画を使用し、時間をかけて学習するため、より高精度なディープフェイク動画が作成できます。有料制です。
ディープフェイク動画の仕組み
ここで、ディープフェイク動画がAIのどのような仕組みで作られるのか、詳しく解説します。
ディープラーニングの手法の一つGAN
ディープフェイク動画は、ディープラーニング技術の一つである「GAN（Generative Adversarial Networks：敵対的生成ネットワーク）」によって作られます。生成ネットワーク（Generator）と識別ネットワーク（Discriminator）の2つを競い合わせることにより、高精度な画像・映像の生成を可能とするGANは、偽札作りに例えられます。
まず、偽札の作り手（Generator）が作った偽札（ディープフェイク動画）を、警官（Discriminator）が偽札と見抜きます。すると、偽札の作り手は技術を発展させ、より高度な偽札を作ります。このイタチごっこが繰り返されることにより、最終的には警官が「本物」と判断する、限りなく本物に近いディープフェイク動画が完成するのです。
2014年にGANが発表された後、その発展形として以下の「DCGAN」「StyleGAN」が開発されています。
DCGAN
DCGAN（Deep Convolutional GAN）は、画像認識技術の一つである「畳み込みニューラルネットワーク」を活用した手法です。オリジナルのGANと比べてより安定した学習が可能となり、鮮明な画像・映像を生成できます。
StyleGAN
StyleGANは、入力されるノイズの柔軟な調整機構を備え、画像の大局的な構造から詳細な構造までを制御しながら、画像生成ができるようにしたものです。極めて高画質でリアルな画像が生成できるStyleGANの登場により、「写真はもう証拠にならない」とまでいわれるようになっています。
ディープフェイクのポジティブな活用可能性
現在、多様な悪用の可能性が強く懸念されているディープフェイク技術ですが、活用のポジティブな可能性も以下のとおり多くあります。
映画のリアルな吹き替え
ディープフェイク技術を使えば、映画などでの多言語へのリアルな吹き替えが可能です。従来の吹き替えは、映画の映像はそのままで、音声だけを多言語に差し替えるものでした。
しかし、ディープフェイク技術を使えば、俳優があたかもその言語で話しているかのような映像が作れます。
Flawless Demo - www.flawlessai.com from Flawless AI on Vimeo（現在はリンク切れ）
上の動画では、ジャック・ニコルソン氏とトム・クルーズ氏が92年の映画『ア・フュー・グッドメン』での有名なやり取りをフランス語で、トム・ハンクス氏が94年の『フォレスト・ガンプ／一期一会』でドイツ語、スペイン語、日本語で話しているかのように合成されています。
テレビニュースのAIキャスター
テレビニュースのキャスターをAIが務める実験も進んでいます。
上の動画は中国国営メディア新華社通信のAIキャスターです。キャスターをAIが務めるようになれば、深夜の急な生番組などで人間のキャスターがいなくても放送できるなど、テレビ業界での働き方も変わってくる可能性があります。
バーチャルタレント
AIによって合成されたバーチャルタレントも登場しています。
上のCM映像では、バーチャルヒューマン「imma」が綾瀬はるかさんとコラボしています。
教育
ディープフェイク技術を使えば、たとえば歴史教育で、過去の人物を動画として再現することもできます。アインシュタインが発見した相対性理論を、アインシュタインそっくりの人物と対話しながら学ぶこともできるでしょう。
まとめ
ディープラーニング技術を活用して、動画の登場人物の顔や表情、声などを別人のものと差し替えるディープフェイク。スマホでも手軽に作れるまでに技術が進化しているため、政治家のなりすましやフェイクポルノなどへの悪用が懸念されており、実際に悪用事例も発生しています。
しかし、ディープフェイク技術はネガティブな側面ばかりでなく、映画の吹き替えやテレビニュースのAIキャスター、バーチャルタレントなどポジティブな活用可能性も多くあります。
悪用を防ぎながらディープフェイク技術を正しく活用していくリテラシーが、今後は誰にとっても必要になってくるでしょう。
AIをはじめとする技術はこれからさらに発展していくと予測されているので、早い段階で基本的な活用方法を取り入れておくことが大切です。SEデザインでは、IT分野におけるBtoBマーケティング&セールス支援を行っており、30年以上の実績がございます。業務の効率化や顧客へのアプローチでお困りの際は、お気軽にSEデザインへご相談ください。
