ディープフェイクは進化している。しかし、見破るのは容易だ

先週、モナ・リザは微笑んだ。大きく、大きく開いた笑顔に続いて、笑い声のような表情が続き、そして何世紀にもわたって鑑賞者を魅了してきた謎への答えとしか思えない言葉を静かに口にした。

非常に多くの人々が不安に陥った。

モナの「生きた肖像画」は、マリリン・モンローやサルバドール・ダリといった有名人の肖像画とともに、ディープフェイク（機械学習を用いて生成される一見リアルなメディア）の最新技術を実証した。モスクワにあるサムスンのAI研究所の研究者によって開発されたこれらの肖像画は、一枚の画像から信憑性のある動画を作成する新しい手法を示している。実在の顔写真を数枚使うだけで、結果は劇的に向上し、著者らが「フォトリアリスティックなトーキングヘッド」と表現するものが生成される。研究者たちは（不気味にも）この結果を「操り人形」と呼んでいる。これは、目に見えない糸が対象の顔を操っているように見えることを指している。そして確かに、理論上はFacebookのプロフィール写真を動かすのに使えるかもしれない。しかし、糸で悪意を持って顔を引っ張られるのではないかと恐れる必要はない。

「自宅でディープフェイクを生成するために、これをすぐに使えるようになるとは思えません。短期的にも、中期的にも、長期的にもです」と、ハーバード大学とMITのAI倫理・ガバナンス・イニシアチブのディレクター、ティム・ファン氏は語る。その理由は、高品質なフェイクを作成するための高額なコストと技術的なノウハウにあり、これらの障壁はすぐには解消されないだろう。

画像にはデビッド・ベッカムの顔、人物、エマ・デュモン、フリーダ・カーロの頭、コラージュ、広告、ポスターが含まれている可能性があります

ディープフェイクが初めて世間の注目を集めたのは2017年後半、「deepfakes」という匿名のRedditユーザーが、スカーレット・ヨハンソンなどの有名人の顔をポルノ俳優の体に合成した動画を投稿し始めた時だった。初期の例では、既存の映像にフレームごとに顔を挿入できるツールが使われていたが、これは当時も今も不具合の多い作業だった。そして、その対象は急速に政治家やテレビタレントへと拡大した。有名人はディープフェイクのアルゴリズムを訓練するのに使える公共のイメージが豊富にあるため、最も格好の標的だ。例えば、昼夜を問わずあらゆる角度からテレビに登場するドナルド・トランプの高忠実度動画を作るのは比較的簡単だ。

ディープフェイクの基盤技術は、拡張現実（AR）などの技術に取り組む企業にとって注目の分野です。Googleは金曜日、動画における奥行き知覚の制御に関する画期的な技術を発表しました。これにより、ディープフェイクの弱点である、簡単に見破られてしまうという問題に対処しました。月曜日にプレプリントとして発表された論文の中で、サムスンの研究者たちは、ゲームやビデオ会議用のアバターを迅速に作成できる可能性を指摘しています。表面上は、サムスンはこの基盤モデルを用いることで、わずか数枚の画像からアバターを生成できるとされており、これはAppleのMemojiに匹敵するフォトリアリスティックな回答となるでしょう。同研究室は今週、全身アバターの生成に関する論文も発表しました。

これらの技術革新の悪用に対する懸念から、ディープフェイクが民主主義を損なうために利用される可能性についての議論が巻き起こっている。懸念されるのは、著名人の巧妙に作られたディープフェイク（例えば、粗い携帯電話の動画を模倣して欠陥を見逃し、適切なタイミングで合成したもの）が、多くの世論を左右する可能性があることだ。2020年の選挙を前に、ディープフェイクの検出方法を自動化するための競争が激化している。国防総省傘下の国防高等研究計画局（DARPA）はメディアフォレンジック研究プログラムに数千万ドルを費やしており、複数のスタートアップ企業が選挙戦開始にあたり、真実の裁定者となることを目指している。議会では、政治家たちがディープフェイクの「悪用」を禁止する法案の制定を求めている。

しかし、テキサス大学の法学教授、ロバート・チェズニー氏は、政治の混乱には最先端技術は必要ないと述べています。不和を煽ることを目的とした低品質のコンテンツでも、必ずしも人を騙す目的ではないからです。例えば、Facebookで拡散されているナンシー・ペロシ下院議長の3分間の動画は、彼女が酔っ払って人前でろれつが回らない様子を映しているように見えますが、これはディープフェイクですらなく、悪意のある人物が単に映像をスロー再生しただけだったのです。

必要な写真の枚数を減らすことで、サムスンの方法は別の難題も生み出す。「これは一般の人々にとってより大きな問題を意味します」とチェズニーは言う。「オンライン上にビデオや写真の証拠があまりないことで匿名性が保たれ、少し孤立していると感じていた人もいるかもしれません。」「少量学習」と呼ばれるこのアプローチは、膨大な計算処理のほとんどを事前に行う。システムに、例えばトランプ氏専用の映像でトレーニングするのではなく、さまざまな人物が含まれるはるかに大量のビデオを与える。システムが人間の頭の基本的な輪郭と顔の表情を学習するという考え方だ。そこからニューラルネットワークは知識を適用し、わずか数枚の写真、あるいはモナリザの場合はたった1枚の写真に基づいて、特定の顔を操作することができる。

このディープフェイクの制作者は、それが武器として利用される可能性を懸念し、その手法を公開するつもりはない。提供：Xin Yang、Yuezun Li、Siwei Lyu

シンヤン。ユエズン・リー。シウェイ・リュー

このアプローチは、ニューラルネットワークが言語などの他のものを学習する方法に革命をもたらした手法に似ています。膨大なデータセットを用いて一般化可能な原理を学習させるのです。このアプローチは、OpenAIのGPT-2のようなモデルを生み出しました。GPT-2は非常に流暢な書き言葉を生成するため、開発者はフェイクニュースの作成に利用されることを恐れて、公開を見送ることにしました。

この新しい技術を悪意を持ってあなたや私に対して用いるには、大きな課題があります。このシステムは対象の顔画像をより少ない数で利用しますが、大規模なモデルを一から学習させる必要があり、これは費用と時間がかかり、今後さらに増加する可能性があります。また、これらの技術を駆使するには専門知識も必要です。例えば、映画編集やPhotoshopといった確立された技術に頼るのではなく、なぜ一から動画を作成したいと思うのか、理解に苦しみます。「プロパガンダを行う人々は実利主義者です。もっと低コストでこれを行う方法はたくさんあるのです」とファン氏は言います。

今のところ、もしそれが悪用されるよう改変されたとしても、この種の不正行為は簡単に見破られるだろうと、DARPAのプログラムでディープフェイク科学捜査を研究しているニューヨーク州立大学アルバニー校の教授、シウェイ・リュ氏は言う。デモは印象的ではあるが、マリリン・モンローの有名なほくろなど、より細かいディテールが欠けているとリュ氏は指摘する。モンローは笑うために頭を後ろに反らせるとほくろが消える。研究者たちはまた、ディープフェイクに音声を適切に同期させる方法や、不具合のある背景を修正する方法など、他の課題にもまだ対処していない。比較のために、リュ氏はより伝統的な手法を使った最先端の例を送ってくれた。それは、ファレル・ウィリアムスの「ハッピー」を歌うものまねタレントにオバマ大統領の顔を合成した動画だ。リュ氏によると、アルバニーの研究者たちがこの手法を公開しなかったのは、兵器化される可能性があるためだという。

ファン氏は、技術の進歩によって偽物と現実の区別がいずれ困難になるだろうと確信している。コストが下がるか、あるいはより訓練されたモデルが何らかの形でリリースされ、有能な人物が強力なオンラインツールを開発できるようになるだろう。その時が来たら、解決策は必ずしも一流のデジタルフォレンジックではなく、文脈上の手がかりを分析する能力になるだろうと彼は主張する。つまり、動画以外の証拠を検証し、その信憑性を裏付けるか否定するかを一般の人々が判断するための強力な手段、つまりファクトチェックだ。

しかし、このようなファクトチェックは、デジタルプラットフォームにとって既に課題となっている。特に対策を講じる際にはなおさらだ。チェスニー氏が指摘するように、ペロシ氏の動画のように、改変された映像を見分けるのは容易だ。問題は、制作者の意図――風刺なのか悪意を持って作られたのか――を突き止めるという危険な道に陥ることなく、次に何をすべきかだ。「視聴者を欺いて軽蔑的な考えを抱かせることが明らかに意図されていると思えば、削除するのは当然のように思えます」と彼は言う。「しかし、一度その道に踏み込んでしまうと、線引きのジレンマに陥ってしまうのです」

週末の時点で、フェイスブックも同様の結論に達したようだ。ペロシ氏のビデオは依然としてインターネット上で共有されており、同社によれば、独立したファクトチェッカーによる追加の文脈も添えられているという。

WIREDのその他の素晴らしい記事