ポルノサイトは依然として非合意のディープフェイクを削除しない

2020年8月30日午前9時

これらの動画は数百万回再生されている。一方、被害者にとって、法的手段はテクノロジーの進化に追いついていない。

新たな分析によると、世界最大級のポルノウェブサイトには、女性セレブ、女優、ミュージシャンを起用した露骨なディープフェイク動画が毎月数百本もアップロードされている。これらの合意のない動画は数百万回も再生されており、ポルノ制作会社は依然としてウェブサイトから削除できていない。

ディープフェイク検出企業Sensityの調査によると、2020年にはディープフェイク動画の人気が高まり、毎月最大1,000本のディープフェイク動画がポルノサイトにアップロードされている。これらの動画は、ディープフェイクポルノに特化したコミュニティから脱却し、主流へと浸透し続けている。

3大ポルノサイト、XVideos、Xnxx、xHamsterに掲載されているディープフェイク動画は、何百万回も再生されています。動画の周囲には広告が表示されており、サイトの収益源となっています。チェコの持株会社が所有するXVideosとXnxxは、世界最大のポルノサイトであり、ウェブ全体でもトップ10にランクインしています。それぞれの訪問者数は、Wikipedia、Amazon、Redditと同等かそれ以上です。

上記3つのサイトすべてに掲載され、女優エマ・ワトソンの顔を使った30秒動画は、2,300万回以上再生され、そのうちXnxxでは1,300万回再生されています。数十万回、あるいは数百万回再生されているその他のディープフェイク動画には、ナタリー・ポートマン、ビリー・アイリッシュ、テイラー・スウィフト、インド人女優アヌシュカ・シェッティといった著名人の動画が含まれています。これらの著名人の多くは、2018年にディープフェイクが初めて登場して以来、継続的にその標的となっています。

「これらのウェブサイトは、これを問題視していないかのような態度です」と、最近までDeepTraceという社名だったSensityのCEO兼チーフサイエンティスト、ジョルジオ・パトリーニ氏は語る。ディープフェイクポルノ動画は、その中心に据えられた女性を標的にし、傷つけ、屈辱を与えると広く考えられている。パトリーニ氏はさらに、SensityではInstagram、Twitch、YouTubeのインフルエンサーなど、公の場で活躍する人々のためにディープフェイクが作られるケースが増えていると指摘し、ディープフェイク技術の進歩によって必然的に一般の人々が標的にされるようになることを懸念している。

「（ポルノサイト側が）削除やフィルタリングを試みるような確固たる理由がない限り、何も起こらないだろうと確信しています」とパトリーニ氏は言う。「何億人もの人々が閲覧するこれらのウェブサイトに何の罰則も科されることなく、人々はこの種のコンテンツを自由にアップロードし続けるでしょう。」

多くの動画は、見られるためにアップロードされているので、あからさまに目につく場所に隠れています。中には、タイトルに「フェイク」や「ディープフェイク」という言葉が含まれ、ディープフェイクであるとタグ付けされている動画もあります。例えば、XVideosやXnxxのタグページには、数百ものディープフェイク動画がリストアップされています。

しかし、ポルノサイトにおける問題の全体像は未だ不明です。これらの動画がどれだけ人々の許可なく作成されているのか、真の姿が明らかになることはおそらくないでしょう。

XVideosとXnxxの担当者に何度も連絡を取ろうとしたにもかかわらず、運営者はディープフェイクに対する姿勢や方針についてのコメント要請に応じなかった。

xHamsterの副社長アレックス・ホーキンス氏は、同社にはディープフェイクに関する特別なポリシーはないものの、「他の非合意コンテンツと同様に扱っている」と述べている。ホーキンス氏によると、同社のモデレーションプロセスには複数の異なるステップが含まれており、個人の画像が許可なく使用されている場合は動画を削除するという。

「ディープフェイクに関する懸念は十分に理解しており、削除しやすいようにしています」とホーキンス氏は述べた。「必要な許可を得ずにアップロードされたコンテンツは利用規約に違反しており、特定され次第削除されます。」ホーキンス氏はさらに、WIREDが指摘したxHamster上のディープフェイクと思われる動画数十本は、モデレーションチームに引き渡され、審査を受けていると付け加えた。

WIREDが確認したディープフェイクのアップロード数には、ポルノサイトで第2位の規模を誇るPornhubは含まれていない。Pornhubは2018年にディープフェイクを禁止したにもかかわらず、いまだに動画に関する問題を抱えている。

「女性がインターネット上でこのように恥をかいたり、屈辱を受けたり、侮辱されたりしている時に、私たちはどう対処すべきか、何らかの考えを持たなければなりません。これはまさにプライバシーとセキュリティの問題なのです」と政治番組のキャスターであり、『Deepfakes and the Infocalypse』の著者でもあるニーナ・シック氏は言う。

2018年初頭にRedditで最初のディープフェイクが登場して以来、ディープフェイク作成に必要な基盤となる人工知能技術は進歩を遂げてきました。ディープフェイク動画の作成は、より安価で容易になっています。最近の例では、セキュリティ研究者がオープンソースソフトウェアを使用し、100ドル未満でトム・ハンクスの動画と音声を作成することに成功しました。

技術の進歩により、ディープフェイクが政治的な議論を操作するために利用されるのではないかという懸念が高まっています。こうした事例は初期にいくつかありましたが、脅威は概ね現実のものとなっていません。しかし、この技術が最初に発明されたディープフェイクポルノは盛んに利用されています。ハリウッド女優のクリステン・ベルは、自分の画像が使われたディープフェイクが作られたことを初めて知ったとき、「ショックを受けた」と述べています。「『これは彼女じゃない』とラベル付けされていても、そんなことを考えるのは難しい。私は搾取されているのよ」と、彼女は6月にVoxのインタビューで語っています。

オンライン上のディープフェイクの数は急増しています。昨年発表されたSensityのレポートによると、2019年7月時点で14,678本のディープフェイク動画がオンライン上に存在し、そのうち96%がポルノで、ほぼ全てが女性を題材としています。今年6月までに、ディープフェイクの数は49,081本にまで増加しました。

ディープフェイクポルノの大部分は特定のコミュニティで発見され、作成されています。Sensityの2019年の分析によると、上位4つのディープフェイクポルノウェブサイトは昨年、1億3,400万回以上の視聴回数を記録しました。あるディープフェイクポルノウェブサイトには、著名人が出演する動画が多数掲載されており、インド人女優の動画は数百万回も視聴されています。一部の動画にはリクエストがあったと記載されており、作成者はビットコインでの支払いを希望しているとしています。

「こうした技術の一部は、残念ながら開発者側のエネルギーと意欲が非常に大きいため、急速に進歩しています」とパトリーニ氏は言う。「近いうちに、より大規模な意図で、個人にまで適用されるようになるでしょう」。彼は、この技術が誰にとっても簡単に使えるようになれば、立法府が問題に気づく「転換点」が訪れると確信している。

ポルノ規制と性的虐待画像を専門とするダラム大学ロースクールのクレア・マクグリン教授も同意見だ。「これは、一般の人々に迫り来る問題を示しています」と彼女は言う。「これは、有名人だけでなく、世間の注目を集める人々にとって深刻な問題です。しかし、有名人ではない被害者の方々と話をする中で、私が長年懸念しているのは、これから起こるであろうリスクです。」

現時点では、ディープフェイク動画に登場した人物に対する法的措置は、技術の進歩に追いついていません。実際、AI生成ポルノの影響に対する備えは全く整っていませんでした。「自分のポルノ画像や動画がオンラインに投稿された場合、削除するための法的措置は大きく異なります」と、ロンドンのロイヤル・ホロウェイ大学の法学講師、アイスリン・オコネル氏は述べています。

米国の州ではディープフェイクに関する法律がいくつか可決されていますが、これらは主に政治に焦点を当てており、ディープフェイクが人々の生活に既に及ぼしている影響は考慮されていません。英国では、法制委員会がディープフェイクを含むプライベートな画像のオンライン共有に関する調査を行っていますが、何らかの変化がもたらされるまでには数年かかると予想されています。オコネル氏は、人々が適切に自分自身を保護できるよう、イングランドが肖像権法を制定することを提案しています。

しかし、立法者がこの問題に対処できない一方で、この技術はより安価になり、誰もが利用しやすくなるだろう。「ポルノ業界におけるディープフェイクの進化は、今後顕在化するであろう、より大きな市民的自由の問題の前兆だと私は考えています」とシック氏は語る。

「この技術は既に存在し、社会が追いつけないほどの速さで進化しています」と彼女は付け加える。「私たちは、ビデオでさえほぼ誰でも改ざんできるような合成メディアの時代にまだ備えができていません。」シック氏は、これに対抗するには、技術者、一般市民、分野の専門家、政策担当者、そして立法者など、多くの人々の関与が必要だと述べている。しかし、現状ではそれが実現していない。

この記事はもともと WIRED UKに掲載されたものです。

WIREDのその他の素晴らしい記事