選挙に対するディープフェイクの脅威はどうなったのか?

2019年6月に行われた下院情報委員会の公聴会で、専門家たちは、人工知能（AI）によって生成された動画、いわゆるディープフェイクが民主主義を歪める可能性について警告を発した。アダム・シフ委員長（カリフォルニア州選出、民主党）は、エリザベス・ウォーレン上院議員（マサチューセッツ州選出、民主党）を装った動画を再生し、ソーシャルメディア企業に対し、この脅威を深刻に受け止めるよう求めた。「2020年の選挙でディープフェイクが拡散してしまえば、もう手遅れだ」と訴えた。当時メリーランド大学で法学教授を務めていたダニエル・シトロン氏は、「ディープフェイクの動画や音声は、選挙結果を左右し、民主主義のプロセスを損なう可能性がある」と述べた。

2020年の選挙戦はもはや過去のものとなった。番狂わせはあったものの、ディープフェイクは影響を及ぼさなかった。「特に影響はなかった」と、ディープフェイク追跡スタートアップ企業Sensityの創業者ジョルジオ・パトリーニ氏は語る。BBCを含むメディア組織や非営利団体とディープフェイク検出ツールを試験運用しているAI Foundationの製品ディレクター、アンジー・ヘイデン氏も、選挙戦は静かだったと報告している。「自社の技術が窮地を救うのは嬉しいが、窮地を救う必要がない方がずっと良い」と彼女は言う。

最近の投票をめぐっては、多くの偽情報が渦巻き、今もなお渦巻いているが、その一因となった誤解を招く動画は、アルゴリズムではなく、職人技によるものだったようだ。ファクトチェッカーたちは、ジョー・バイデンがフロリダの住民をミネソタの住民として挨拶したように見せかけるように編集された動画など、従来のツールで誤解を招くような描写や編集がされた動画を発見した。AIで生成されたプロフィール写真が、バイデンの息子に対する混乱した、信用できない中傷を広める偽の人物に添付されていたことが明らかになったが、この行為において、それは脇役に過ぎなかった。

TwitterとFacebookは2020年初頭にディープフェイクに関する具体的なルールをモデレーションポリシーに追加したが、両社ともまだ適用していないようだ。Twitterは先週、選挙活動を総括するブログ記事で、10月27日以降に30万件のツイートに誤解を招くコンテンツへの警告ラベルを追加したと述べている。これは、同期間における選挙関連投稿全体の0.2%に相当する。ディープフェイクについては言及しておらず、広報担当者はこの件について「具体的なことは何もない」と述べた。Facebookはコメント要請に応じなかった。

米国の有権者を説得しようとした2つのディープフェイク動画キャンペーンは、この技術の潜在性を警告する取り組みとして、公然と行われた。

フロリダ州パンハンドル地区の民主党下院議員候補、フィル・エア氏は、対立候補である共和党現職マット・ゲーツ氏のディープフェイク版を起用した選挙広告を発表した。ゲーツ氏は「FOXニュースは最悪だ」「オバマは私よりずっとクールだ」といった、彼らしくないセリフを発している。エア氏自身の顔（どうやら完全に人間のようだ）が割って入り、ディープフェイクと国家主導の偽情報に関するPSA（公共広告）を配信する。「私たちの選挙運動がこんな動画を作れるなら、プーチン大統領が今何をしているか想像してみてください」とエア氏は語る。

記事画像

超スマートなアルゴリズムがすべての仕事をこなせるわけではありませんが、これまで以上に速く学習し、医療診断から広告の提供まであらゆることを行っています。

選挙顧問のキース・プレスリー氏によると、海軍の退役軍人で電子戦に携わった経験を持つエア氏は、ゲーツ氏に偽情報の問題について言及するよう促したという。エア氏はゲーツ氏が偽情報を軽視していると考えていた。選挙陣営は、ファッション撮影やオンラインコマース用の画像や動画をディープフェイク技術で制作するスタートアップ企業、RosebudAIに連絡を取った。プレスリー氏によると、選挙陣営は60秒のCMを、悪意ある転用の可能性を最小限に抑えるよう設計したという。アルゴリズムによるゲーツ氏の姿は有権者のリビングルームのテレビにのみ表示し、全画面表示は避け、景品の不具合も盛り込んだ。ゲーツ氏の事務所はコメント要請に応じなかった。

洗練された広告にもかかわらず、エール氏は惨敗した。プレスリー氏は、選挙期間中に悪質なディープフェイクは登場しなかったものの、人々を啓蒙することは依然として重要だと述べている。彼は、現実をシームレスに模倣できるとされる技術の成果を注視することの矛盾を指摘し、「一体誰がそれを見分けられるというのか？」と問いかけた。

2020年に公開された他の公然としたディープフェイク広告は、無党派の非営利団体RepresentUsによる偽動画で、ロシアのウラジーミル・プーチン大統領と北朝鮮の金正恩委員長が、分断されたアメリカが民主主義への信頼を失いつつある様子を議論している様子が映し出されていた。「民主主義が崩壊するのは難しくない。何もしなければいいだけだ」と、笑顔の偽キムは語る。エールのAI生成広告と同様に、この広告もディープフェイクの脅威を警告しようとしたものの、最終的には現実のものとはならなかった。

2020年の選挙戦でディープフェイクが少なかった理由の一つは、それが不要だったからかもしれない。今年、虚偽を拡散しようとした者は、AIアルゴリズムを習得しなくても、Facebookの投稿を入力、Photoshopを起動、あるいは現職大統領のツイートをリツイートするなど、多くの選択肢があった。ディープフェイクは独特で致命的な精度で定評があるが、ほとんどのディープフェイクはまだそれほど優れているとは言えない。当分の間は、従来の動画制作技術を使って現実を偽造する方が簡単だろう。ファクトチェックとジャーナリズムのエコシステムは、2016年の歪曲報道の後、多くの人が懸念していたよりも、2020年の偽情報に対してうまく対応した。

昨年ディープフェイクについて議会に警告し、現在はボストン大学に所属するシトロン氏は、勝利宣言をするのは時期尚早だと述べている。ディープフェイク技術は安価で入手しやすくなり、利用する機会も豊富にあると彼女は指摘する。「偽情報で満ちた情報エコシステムのせいで、我が国には二つの現実が存在します」と彼女は言う。「毎日、現実の危害をもたらす新たな機会が生まれているのです。」

2020年の選挙がディープフェイクに溢れかえらなかったのは幸いでした。AI生成動画の自動検出の試みはまだあまり成功していないからです。Facebookが研究者にディープフェイクを見分けるコードの作成を依頼したところ、6月に発表された優勝者はテストコレクションのディープフェイクの3分の1以上を見逃しました。WIREDがAI Foundationのディープフェイク検出ツールのプロトタイプをテストしたところ、結果はまちまちでした。

同財団のReality Defenderサービスは、Microsoftと主要AIラボが開発したディープフェイク検出アルゴリズムを簡単に利用できるインターフェースを提供しています。偽の金正恩氏を精査するよう依頼された際、Microsoftとミュンヘン工科大学のディープフェイク検出ツールは何も異常を検出せず、Reality Defenderは「加工された可能性は低い」と報告しました。グラフィックス研究者でディープフェイク制作者のHao Li氏が作成したトランプ大統領の偽動画でも同様の結果が得られました。イーロン・マスク氏の顔をジャーナリストに貼り付けたディープフェイクはフラグ付けされましたが、加工されていない元の動画も同様にフラグ付けされました。

AI財団のヘイデン氏によると、新たな検出アルゴリズムを追加し、その出力を様々な方法で表示することを実験しているという。最近追加されたアルゴリズムの一つは、カリフォルニア大学バークレー校のもので、キム・カーダシアンの偽広告を見破った。また、カリフォルニア大学サンタバーバラ校の教授らが設立した企業がテスト中の別のアルゴリズムは、動画の背景に見られる操作の兆候を検知するのに優れており、先週の開票作業中に不審な動きがあったとされる動画でテストされているという。財団はまた、ディープフェイクの進化に合わせて検出装置を最新の状態に保つ方法についても検討しており、例えば、AIの偽造品コレクションを継続的に増加させ、偽造品検出アルゴリズムを再学習させるといった方法が考えられる。

2020年にディープフェイクが姿を消したことで、その危険性に関する警告は弱まるのだろうか？昨年、2020年の偽情報予測リストの筆頭にディープフェイクを挙げたニューヨーク大学の報告書を執筆したポール・バレット氏は、当時の警告が功を奏し、ディープフェイク制作者志望者たちに、自分たちの動画はすぐに見破られると信じ込ませた可能性があると指摘する。しかし、脅威は依然として存在すると警告する。「ディープフェイクは明らかな危険であり、今後さらに増加する可能性がある」と、ニューヨーク大学ビジネス・人権センターの副所長であるバレット氏は述べている。

既に勢いよく増え続ける2024年選挙予測リストに、確実な予測が加わる。ディープフェイクに関する警告が再び高まり、動画合成技術は大幅に向上するだろう。願わくば、ディープフェイク検出技術も同様に進化していることを期待したい。

WIREDのその他の素晴らしい記事