ウェブはディープフェイクで溢れており、そのほとんどがポルノだ

2017年11月、「deepfakes」というRedditアカウントが、ハリウッド女優の顔を実際の出演者の顔に貼り付けるソフトウェアで作成されたポルノ動画を投稿しました。それから約2年後、ディープフェイクは人工知能ソフトウェアで操作または捏造された動画の総称です。この手法はYouTubeで笑いを誘う一方で、政治的な偽情報を恐れる議員からは懸念の声が上がっています。しかし、オンラインで拡散するディープフェイクを追跡した新たな報告書によると、それらのディープフェイクは、その猥褻なルーツをほぼそのまま維持していることがわかりました。

スタートアップ企業のDeeptraceは、報道機関やオンラインプラットフォームへの販売を予定している検出ツールの開発に役立てるため、6月と7月にディープフェイクに関する一種の国勢調査を実施しました。その結果、ディープフェイクとして公然と公開されている動画が約1万5000本見つかりました。これは7か月前の2倍近くに相当します。Deeptraceによると、流通しているディープフェイクの約96%はポルノ動画でした。

この集計は網羅的ではないだろうが、ディープフェイクが選挙を不安定化させるという憶測があるにもかかわらず、この技術は主に全く異なる用途で利用されており、嫌がらせの道具として利用されていることを改めて認識させるものだ。懸念すべき傾向として、ディープトレースは、ディープフェイクを作成するために必要なツールがより洗練され、より広く入手可能になっていると指摘している。

このスタートアップ企業の報告書は、ポルノディープフェイクを共有、議論、協力するウェブサイトやフォーラムからなる、ニッチながらも活気のあるエコシステムについて述べている。中には、ポルノ動画を撮影し、本人の同意なしに顔を編集して作られたディープフェイク動画を宣伝する商業ベンチャーも存在する。

ディープトレースが発見したポルノ動画に編集されていた人物はすべて女性だった。欧米の女優や韓国のポップスターといった人気者の動画は数百万回再生された。非営利団体は既に、女性ジャーナリストや政治活動家がディープフェイクで攻撃されたり、中傷されたりしていると報告している。ディープトレースの研究者で、同社の報告書作成に携わったヘンリー・アジダー氏によると、ディープフェイクに関するフォーラムでは、ユーザーが元交際相手など知り合いの女性のポルノディープフェイクについて議論したり、ポルノ動画に編集されたディープフェイクをリクエストしたりしているという。

ボストン大学の法学教授、ダニエル・シトロン氏は、本人の同意なしに作成されたポルノディープフェイクを「性的プライバシーの侵害」と表現する。シトロン氏は、6月に行われた米下院情報委員会の公聴会で、人工知能（AI）によるメディア操作ツールについて講演した。

ポルノ業界は、VHSやポップアップ広告からストリーミングビデオに至るまで、新しいメディア技術の開拓に貢献してきました。シトロン氏は、ポルノにおけるディープフェイクの蔓延は、テクノロジーの歴史から得られるもう一つの一貫した教訓を思い起こさせるものだと述べています。「どの段階においても、人々は女性を苦しめるために、手近にあるものや利用可能なものを使ってきました。ディープフェイクはまさにその好例です。」

シトロンは、リベンジポルノに関する州法制定の最近の広がりを後押ししました。現在、リベンジポルノは少なくとも46州とコロンビア特別区で法律の対象となっています。カリフォルニア州もその一つで、先週、ギャビン・ニューサム知事が、性的に露骨なコンテンツに同意なく編集された人物が、そのコンテンツを作成または開示した人物に対して民事上の損害賠償を求めることを認める法案に署名しました。

同法学教授はまた、ディープフェイクを含む悪意のある偽造品やなりすましの配信を罰する新たな連邦法について、現在、上下両党の議員らと協議中だと述べた。「迅速な対応に勇気づけられています」と彼女は付け加えた。

先週、上院情報委員会の委員であるフロリダ州選出の共和党議員マルコ・ルビオ氏とバージニア州選出の民主党議員マーク・ワーナー氏は、Facebookを含む10のソーシャルメディアサイトに書簡を送り、悪質なディープフェイク動画の検知と対応計画の詳細を求めた。議員らは、フェイク動画は「我々の民主主義を蝕むような影響を与える可能性がある」と警告した。

ディープトレースのアジュダー氏は、偽動画が2020年の選挙に大きな影響を与えるという懸念を軽視している。しかし、同社の報告書では、この技術への認知度が高まり、政治的欺瞞が助長される可能性があると指摘している。

6月には、マレーシアの政治顧問が、同国の経済大臣と性交している様子を映したとされる動画が公開され、逮捕された。（マレーシアでは同性間の性行為は違法である。）首相はこの動画はディープフェイクだと主張したが、独立した専門家たちは動画が操作されたかどうかを判断できていない。「ディープフェイクは、もっともらしい否認の根拠となり得る」とアジダー氏は言う。

分析を行うために、Deeptrace は手動検索と Web スクレイピングツール、データ分析を組み合わせて使用し、主要なポルノサイト、YouTube などの主流のビデオサービス、ディープフェイク専用のサイトやフォーラムから既知のディープフェイクを記録しました。

この手法は不完全だ。本物の動画に見せかけたディープフェイクを分析することも、オンライン上のあらゆる隠れた場所を調査することもできない。独立系AIラボOpenAIの政策ディレクター、ジャック・クラーク氏は、それでもDeeptraceの報告書は、これまで不足していたディープフェイクに関する実証的証拠を集めるための、歓迎すべき試みだと述べている。

クラーク氏は、フェイク動画は、商業化とオープンソース化を通じた人工知能ツールの普及がもたらす不快な結果の最初の例ではないと予測している。「個人がテクノロジーに手を出すようになるだろうし、その手口の中には有害で不快なものもあるだろう」と彼は指摘する。

この記事はWIRED USで最初に公開されました。

この記事はWIRED UKで最初に公開されました。