ディープフェイクとは？可能性と危険性を秘めた新技術を徹底解説！

ディープフェイクほど不憫な技術もないかもしれません。

ディープフェイクとは、AIにおけるディープラーニングを利用して、画像や動画に「本来はないものを当てはめる」技術です。日本では、2020年に起こった事件によって有名になりました。

危険で画期的な新技術は多くの注目を集め、それに伴って、簡易的なフェイク動画を作成できるツールや、フェイク動画を扱うTV番組も登場しています。このような経緯から、現在のディープフェイクに対するイメージは「悪事に利用される危険な技術」「面白おかしい技術」というものがほとんどでしょう。

果たして、ほんとうにそうなのでしょうか？

この記事では、ディープフェイクをめぐるこれまでの経緯や概要を確認したうえで、ディープフェイクの可能性や危険性について考えていきたいと思います。

ディープフェイクとは

「ディープフェイク」は、AIにおける「ディープラーニング（深層学習）」と、偽物の意味を表す「フェイク」を組み合わせた言葉。誕生のきっかけは、2017年にアメリカで起きた「ポルノ動画事件」の犯人ユーザー「ディープフェイクス（deepfakes）」です。

本来、ディープラーニングによって「2つ以上の動画や画像の一部を交換する技術」を指しますが、現在では、「見破ることが難しい高精度のフェイク動画」全般の呼び名として使われることが多くなっています。

この記事内では、技術の呼び名として用いていくことにしましょう。

AI技術の飛躍的な発達によって登場した技術であり、既に事件も引き起こしていることから、今後も社会問題に関わってくる可能性が高い技術として注目を浴びています。

また、簡単な処理方法を用いて作成する低精度のフェイク動画は「チープフェイク」と呼ばれます。

ディープフェイクが問題になった経緯

ディープフェイクが表舞台に現れたのは、2017年にアメリカで起きた「ポルノ動画事件」です。ポルノ動画に女優の顔が当てはめられたこの事件を境に、高精度の「フェイク動画」が「ディープフェイク」と称されることとなります。

2018年には、アメリカの映画監督が作成した「バラク・オバマ元大統領のフェイク動画」が話題になりました。実際には発言していない内容を発言しているように見せた動画は、「ディープフェイクの問題点を訴える」という目的のとおり、見た人にインパクトを与えました。これを機に、ディープフェイクへの注目はアメリカから世界へと広がっていきます。

2019年には、日本にも平和な形でディープフェイクが上陸。「Amazonロゴが入った飛行船の動画」が注目を浴びました。

ドローンで配送するという話があったけど、もう始まってたんだな。もっと先の話かと思ってた。

There was a talk about delivery by drone, but it had already started. I thought it was a story ahead.#エイプリルフール #zozi撮影 pic.twitter.com/hFrmGOKwof

— zozi009 (@zozi009) March 31, 2019

一方ヨーロッパでは、芸術イベントの作品として「マーク・ザッカーバーグ氏のフェイク動画」が制作されるかたわら、「フェイク音声」による詐欺事件も発生しています。このあたりから、登場時より不安視されていたディープフェイクの問題点が、加速度的に露呈していきます。

この投稿をInstagramで見る

Bill Posters(@bill_posters_uk)がシェアした投稿

2020年には、「女性タレントの顔に差し替えたポルノ動画」をサイトで紹介したとして、日本人男性2人が名誉毀損・著作権法違反の疑いで逮捕。この事件はメディアでも話題になり、日本におけるディープフェイクの知名度を急上昇させました。アメリカでも、「ジョー・バイデン大統領候補の発言が捏造された動画」が公開。政治への介入まで見られるようになったことから、その危険性を問題視する風潮が高まります。

2021年に入ってからも、ディープフェイクの勢いはとどまる気配がありません。アメリカでは、母親がディープフェイク技術を用いて、娘のチームメイトのわいせつな画像や動画を作成する事件が発生。日本でも、「地震に関する記者会見で加藤官房長官が笑みを浮かべているフェイク画像」がTwitterに投稿され、話題になりました。

これまでの流れを振り返ってみると、ディープフェイクがクリエイティブ性と危険性を孕んでいる技術であることは確かです。一方で、数多の事件とメディアの影響も相まって、クローズアップされているのはほとんど危険性の部分のみであり、世のなかでは「危険な技術」としての立ち位置を獲得しつつあることが分かります。

ディープフェイクは危険な技術なのか

ディープフェイクとは、ほんとうに危険な技術なのでしょうか。

なにも、ディープフェイクは安全な技術だ。危険性はない。と言いたいわけではありません。ただし、「危険な技術でしかない」と断定することには「待った」を唱えたいのです。

ディープフェイクという技術の「価値」について、これまでの事例や提示されている可能性を踏まえて考えていきます。

ディープフェイクの誕生

ディープフェイクという技術は当初、どのような目的で開発されたのでしょうか。開発の経緯を知るには、ディープフェイクの歴史を辿る必要があります。

ディープフェイクの基となった技術は、いまから20年以上前には存在していた「人物画像合成技術（synthesis human technology）」です。つまり、その歴史は20年以上前からはじまっていたといえます。
人物画像合成技術は、「映像や画像に人を合成するための技術」として開発されました。実際に映画『アバター』でもこの技術が使われており、俳優の表情や動きがCG上のキャラクターに当てはめられています。一方でこの技術には、高価な機材やしっかりした映像スタジオが必要だという、致命的な欠点がありました。

流れがまた大きく動き出したのは、2015年です。ワシントン大学のスティーブン・セイツ（Steve Seitz）教授らが、人間の画像をAIに学習させることで、高価な機材や場所を利用せずして表情を作成することに成功しました。2016年には、ミュンヘン工科大学のマチアス・ニースナー（Matthias Nießner）教授が、3Dの顔（歯なし）をリアルタイムで変化させることにも成功します。

2017年に入ると、現在もディープフェイク動画の多くに利用される技術「GAN（敵対的生成ネットワーク）」が登場。「ディープフェイク」という名前のソフトウェアパッケージがオープンソースで提供されたことにより、一般にもこの技術が広まっていくこととなりました。

ディープフェイクのポジティブな活用事例

先述したようにディープフェイクは、映像業界に光をもたらすべく開発された技術です。そのネガティブな面ばかりが注目されるなか、映像や画像を扱うあらゆる業界において、当初の思惑通りのポジティブな活用方法も増えてきています。ここでは、ディープフェイクの活用事例を紹介していきます。

Generated Photos

「Generated Photos」は、Generated Media社が提供している「人物画像を無料ダウンロードできるサービス」です。人物画像はすべて、AIによってゼロから作成された架空の人物の画像。自動生成されたとは思えない高品質さに加え、使用するにあたって著作権や肖像権といった権利の侵害を心配する必要がないため、幅広い用途に利用できるでしょう。無料会員に登録することで、画像のダウンロードはもちろんのこと、性別や年齢、感情といった条件を指定しての画像の生成も可能になります。

Face Swap

「Face Swap」は、スマートフォン向けの画像共有アプリ「Snapchat」で提供されている機能です。この機能では、カメラ機能を使用して2つの顔を入れ替えることができます。カメラに写っている2つの顔だけでなく、機能に内蔵されている画像や、端末に保存されている画像と顔を交換することも可能です。入れ替わった相手の顔を意のままに動かすことができるという点が、その他の顔交換アプリと違うポイントでしょう。

BBC newsreader ‘speaks’ languages he can’t

イギリスのテレビ局「BBC（British Broadcasting Corporation）」は、実際は英語しか話せないニュースキャスターが、英語、スペイン語、北京語、ヒンディー語の4ヶ国語を話しているフェイク映像を公開しました。この映像の作成に使用されたソフトウェアは、ロンドンを拠点とするスタートアップ企業「Synthesia」によって作成されたとのこと。映像では、話している言語に合わせて口が動いており、素人目には違和感がありません。ないものを作り出すディープフェイクの可能性を感じさせる事例です。

ディープフェイク動画は簡単に作成できる？

高精度のディープフェイク動画を作成しようとした場合は、それ相応の勉強時間と動画の作成時間が必要です。

一方で、「チープフェイク」とも呼ばれるような低精度のフェイク動画であれば、「Online Deepfake Maker」や「FakeApp」といったサイトやソフトを用いればPCで、「Xpression」や「Reface」といったアプリを用いれば、スマートフォン1台でも作成が可能です。これらのサイトやソフト、アプリは、仲間内におけるディープフェイクの検証やディープフェイクの仕組みを理解するうえで力を発揮するでしょう。

チープフェイクであっても、その利用の仕方には注意しなければなりません。公に発表しない形での利用に留めておきましょう。

ディープフェイクにはどう対策するか

ディープフェイクを利用した事件が増加しているなか、あなたの身にその攻撃が降りかかる可能性も決して低くはありません。高精度で見破るのが難しいディープフェイクに対して、私たちはどのように対策していけば良いのでしょうか。

ディープフェイク犯罪に対抗しうる技術の開発は世界各地で進められています。対策の事例を見ていきましょう。

DeepFake Detection Challenge

「DeepFake Detection Challenge」とは、2019年9月にFacebook社をはじめとした大手企業や研究機関が立ち上げた「ディープフェイク動画の検知技術」を競うコンテストです。100万ドルが賞金として用意され、最終的に2000チームを超える団体からの応募が集まりました。

結果として、コンテスト用に公開していたディープフェイク動画の検知率は80%を超えたものの、その技術を別のディープフェイク動画（識別を困難にする加工が施された動画）にも応用したところ、検知率は65％程度に留まり、未知のデータに関しては検知の難易度が格段に上がることを証明する形になりました。

（参照：Deepfake Detection Challenge | Kaggle）
（参照：Deepfake Detection Challenge Results: An open initiative to advance AI）

Spot the Deepfake

Microsoftをはじめとした3つの機関によって制作された、ディープフェイクについて学習できるツールが「Spot the Deepfake」です。10問のクイズに答えながら学ぶ形式になっており、内容も初心者向けのため、ディープフェイクに興味を持ち始めたばかりの方におすすめです。

（参照：Spot the Deepfake）

Microsoft Video Authenticator

「Microsoft Video Authenticator」は、Microsoftが2020年9月に公開した「虚偽情報対策に向けた新たな取り組みについて」において発表された、ディープフェイク検知ツールです。画像や動画に、微妙な色あせやグレースケールといった違和感がないかどうか分析し、ディープフェイク動画の確率や信頼度スコアをリアルタイムで表示してくれるという仕組みです。

（参照：虚偽情報対策に向けた新たな取り組みについて – News Center Japan）

インフォデミックを克服するソーシャル情報基盤技術

ディープフェイクに対抗するための技術を研究しているのは、日本も同様です。ディープフェイクをはじめとしたフェイクメディアに対処すべく取り組まれているのが「インフォデミックを克服するソーシャル情報基盤技術」の研究です。

この研究は、「AIにより生成されたFM（フェイクメディア）がもたらす潜在的な脅威に適切に対処すると同時に、多様なコミュニケーションと意思決定を支援するソーシャル情報基盤技術を確立すること」を目的としており、Security(SEC)領域（国立情報学研究所 越前グループ）、Multimedia(MM)領域（大阪大学 馬場口グループ）、Computational Social Science(CSS)領域（東京工業大学 笹原グループ）という3領域の専門知識を結集させ、研究実施項目に相補的に取り組むとされています。

（参照：研究概要 | インフォデミックを克服するソーシャル情報基盤技術）

ひとりひとりの向き合い方がディープフェイクの今後を決める

ディープフェイクは犯罪に使用された事例の多さから、とりわけ危険性を孕んだ技術であるという面に焦点が当てられています。無論、「ディープフェイク が危険である」ということついて、異論を唱えることは難しいでしょう。

一方で、実際に活用している企業があるように、ビジネス利用の可能性を秘めた技術であることも忘れてはいけません。むしろ活用している企業が少ないいまこそ、大きなビジネスチャンスが隠された技術ともいえるはずです。

ディープフェイクを前にできることは、ただ恐れ、目の敵にして遠ざけることだけではありません。諦めるだけではありません。

いくつかの企業がそうしているように、対抗できる術、正しい情報を見極める耳や目をもってそれを制することができれば、そこにはまだ無限の可能性が埋れているでしょう。

深い闇を味方につけた者だけが、その先の光景を見ることができるのです。