安価で簡単なディープフェイクが本物に近づきつつある

トム・ハンクスの写真はたくさんあるが、水曜日にブラックハット・コンピューター・セキュリティー会議で公開されたこの一流の一般人の画像のようなものはない。それらの画像はカメラではなく、機械学習アルゴリズムによって作成されたものだ。

セキュリティ企業FireEyeのデータサイエンティスト、フィリップ・タリー氏は、人工知能（AI）研究室のオープンソースソフトウェアが偽情報キャンペーンにどれほど容易に応用できるかを検証するために、偽のHanksesモデルを作成した。「経験の浅い人でも、これらの機械学習モデルを活用して非常に強力な成果を上げることができる」とタリー氏は結論づけている。

FireEyeの偽ハンクス画像は、フル解像度で見ると、首のしわや肌の質感といった欠点が見られる。しかし、眉間のしわや、見る者を冷徹に見つめる緑がかった灰色の目といった、俳優の顔の馴染み深いディテールは正確に再現されている。ソーシャルネットワークのサムネイルサイズであれば、AIが作成した画像は容易に本物と見分けがつくだろう。

タリーは、ハンクスの画像をオンラインで数百枚集め、オープンソースの顔生成ソフトウェアを選んだ被写体に合わせて調整するのに100ドルもかからなかった。調整したソフトウェアを使い、彼はハンクスの顔を作り上げた。タリーはまた、他のオープンソースAIソフトウェアを使って、3つのYouTube動画からハンクスの声を真似しようと試みたが、結果はそれほど印象的ではなかった。

FireEyeプロジェクトは、いかに安価かつ容易に、いかにまともな偽写真が作成できるかを実証することで、まともな画像や音声を生成するAI技術によってオンライン上の偽情報が増幅されるのではないかという懸念を一層強める可能性がある。こうした技術とその成果物はしばしばディープフェイクと呼ばれる。これは、2017年末にハリウッド女優の顔を含むように加工されたポルノ動画を投稿したRedditアカウントの名前に由来する。

インターネットの僻地で見られるディープフェイクのほとんどは低品質で、ポルノや娯楽目的で作成されています。これまでのところ、ディープフェイクの悪質な利用例として最も多く記録されているのは、女性へのハラスメントです。企業プロジェクトやメディア制作会社は、多額の予算を投じれば、動画など、より巧妙な成果物を作成できます。FireEyeの研究者たちは、最小限のリソースやAIの専門知識で、高度なAI研究に便乗する方法を明らかにしたいと考えました。両党の議員は、ディープフェイクが政治介入に利用される可能性を懸念しています。

タリー氏のディープフェイク実験は、学術界や企業のAI研究グループが最新の成果をオープンに公開し、コードも頻繁に公開する手法を巧みに利用した。彼は「ファインチューニング」と呼ばれる手法を用いた。これは、膨大なデータセットを用いて多額の費用をかけて構築された機械学習モデルを、はるかに少ないデータセットを用いて特定のタスクに適応させる手法である。

偽ハンクスを作るために、タリー氏はエヌビディアが昨年リリースした顔生成モデルを応用した。エヌビディアは、強力なグラフィックプロセッサのクラスターを用いて、数日間かけて数百万の顔サンプルを処理し、このソフトウェアを開発した。タリー氏はクラウドでレンタルした単一のグラフィックプロセッサを用いて、1日もかからずにこのモデルをハンクス顔生成器に応用した。また、彼は自身のノートパソコン、30秒の音声クリップ3つ、そして大学院生がGoogleの音声合成プロジェクトをオープンソースで再現した音声のみを使って、ハンクスの声を数分で複製した。

AI研究室間の競争がさらなる進歩を促し、その成果が共有されるにつれて、こうしたプロジェクトはますます説得力を持つようになるだろうと彼は言う。「この状況が続けば、社会全体に悪影響が出る可能性があります」とタリー氏は言う。彼は以前、インターン生と共に、AIテキスト生成ソフトウェアが、2016年の大統領選挙で不正操作を試みたロシアのインターネット・リサーチ・エージェンシー（IRA）が作成したコンテンツと同様のコンテンツを作成できることを示した。

ジョージタウン大学セキュリティ・新興技術センターの研究員、ティム・ファン氏は、ファイア・アイのような実験は、時にヒステリーに陥りかねないディープフェイクの脅威をめぐる議論に、より確かな根拠を与える可能性があると述べている。「この脅威に関する議論の多くは、ドラマチックな逸話によって煽られてきました」とファン氏は指摘する。よくある例としては、架空の大統領選挙で、候補者の一人を完璧なタイミングで、完璧なディープフェイクで操作するという話がある。

FireEyeのプロジェクトは、最小限のリソースとAI研究のオープンソースの成果で何が達成できるかを示すことで、実用的な詳細を補足しています。ファン氏は、こうした情報と偽情報組織の活動方法に関する既知の知識を組み合わせることで、最悪のシナリオを検討するよりもディープフェイクの脅威を評価するためのより良い方法だと述べています。「インターネット・リサーチ・エージェンシー（IRA）の中間管理職が、上層部に『投資に対する見返りはこれです』と説明しなければならない場面を想像してみてください」とファン氏は言います。

タリーの偽ハンクス氏にもかかわらず、ファン氏はディープフェイクによる偽情報のキラーアプリはまだ登場していないようだと述べている。IRAなどの組織は安価な労働力と比較的シンプルな技術インフラで多くの成果を上げており、小規模なAIプロジェクトから得られる利益はそれほど大きくないだろう。高度なディープフェイク動画を作成するには、相当の時間と専門知識が必要となるだろう。ファン氏は先月発表した報告書の中で、ディープフェイクは深刻な差し迫った脅威ではないものの、社会はいずれにせよ防御に投資すべきだと結論付けている。

報告書は、企業や大学の研究室に対し、「ディープフェイク動物園」を作成し、FireEyeがディープフェイク検出器の開発に活用しているような様々なオープンソース技術を用いて作成されたサンプルを収集することを推奨しています。一部の企業はすでに同様のプロジェクトに着手しています。NVIDIAは、自社のソフトウェアで合成された顔を検出する方法に関する成果を発表しました。

Facebookは最近、大量のディープフェイク動画を作成し、それらを用いて学習させた最も高性能なディープフェイク検出ツールに50万ドルの賞金を提示しました。優勝者は、Facebookのコレクションに含まれていないディープフェイクをわずか65%しか検出できませんでした。

FireEyeの研究者たちは、ディープフェイクが偽情報ビジネスの既存の手法にどのように適合するかについても検討している。水曜日のタリー氏の講演は、同社でオンライン操作キャンペーンを追跡するチームを率いるリー・フォスター氏との共同制作である。昨年、同社はTwitterやFacebookで偽のペルソナを使い、中東政治の専門家を騙してインタビューに答えさせ、後に作戦のメッセージを広めるという、広範な親イラン派の偽情報キャンペーンを暴露した。

フォスター氏は、タリー氏の研究結果と、偽情報の拡散者と接した自身の経験から、彼らが近いうちにディープフェイクに頼るようになると考えている。他の情報源から盗用されたプロフィール写真は、偽情報の捜査員が偽の人物を暴くための手がかりとなる。ハンクス氏の偽コンテンツは、詐欺師に代替案を提供するのに必要な品質に遠く及ばないとフォスター氏は指摘する。「私たちが情報を急速に消費する現代社会では、説得力を持つために完璧である必要はない」とフォスター氏は言う。「Twitterのフィードを高速スクロールしているとき、プロフィール写真をじっくりと精査することはないだろう」

WIREDのその他の素晴らしい記事

• 憎悪に満ちたr/The_Donaldの台頭とその壮大な崩壊
• ビデオ通話の画質と音質を向上させるヒント
• ウェブ上のダークパターンを見分け、回避する方法
• シンガポールのファンタジーとサイバーパンクの未来主義
• 狂気の科学者が1億年前の微生物を復活させる
• 🎙️ 未来がどのように実現されるかをテーマにした新しいポッドキャスト「Get WIRED」をお聴きください。最新エピソードを視聴し、📩ニュースレターに登録してすべての番組をチェックしましょう。
• ✨ ロボット掃除機からお手頃価格のマットレス、スマートスピーカーまで、Gearチームのおすすめ商品であなたの家庭生活を最適化しましょう