ディープフェイクポルノボットが数千人の女性を虐待するために使用されている

ポルノディープフェイクが驚くべき規模で武器化されており、7月以降、メッセージアプリTelegram上で稼働するボットによって少なくとも10万4000人の女性が標的にされている。このボットは毎月数千人が使用しており、友人や家族のヌード画像を作成している。中には18歳未満と思われる人物もいる。

ヌード女性の静止画は、ヌードではない写真から衣服の一部を「削除」するAIによって生成されています。このボットは毎日、約2万5000人の登録者を抱えるTelegramチャンネルに新しい画像ギャラリーを送信しています。これらの画像セットは、頻繁に3000回以上閲覧されています。このボットを宣伝する別のTelegramチャンネルには、5万人以上の登録者がいます。

ボットが生成した画像の中には不具合のあるものもありますが、本物と見分けがつかないものも少なくありません。「このような大規模な事例を目にするのはおそらく初めてでしょう」と、この調査を実施したディープフェイク検出企業SensityのCEO兼チーフサイエンティスト、ジョルジオ・パトリーニ氏は述べています。同社は、コンテンツをホストしているサービスに削除を迫るため、調査結果を公表していますが、関係するTelegramチャンネルの名前は公表していません。

ディープフェイクボットの標的となった女性の実際の数は、おそらく10万4000人よりもはるかに多いだろう。Sensityがカウントできたのは公開されている画像のみであり、ボットはユーザーに非公開で写真を生成するオプションを提供している。「この攻撃の標的のほとんどは個人です」とパトリニ氏は言う。「そのほとんどは、私たちが認識できない人物です。」

そのため、標的となった女性のうち、画像の存在を知っている人はごくわずかだろう。このボットと、それにリンクされた複数のTelegramチャンネルは主にロシア語で運営されているが、英語への翻訳も提供されている。センシティは、作成された画像には18歳未満の少女が映っているケースが複数あると付け加え、確認する方法はないものの、法執行機関に存在を報告済みだと述べている。

ポルノサイトで数百万回も再生されている、他の合意のない露骨なディープフェイク動画とは異なり、これらの画像の作成には技術的な知識は必要ありません。プロセスは自動化されており、誰でも利用できます。画像をメッセージサービスにアップロードするのと同じくらい簡単です。

被害者の服を着た画像をスマートフォンやデスクトップからTelegramボットにアップロードすると、自動的に画像が作成されます。Sensityの分析によると、この技術は女性の画像にのみ有効です。ボットは無料で利用できますが、1日に10枚までという制限があり、画像の透かしを削除するには料金がかかります。Sensityによると、プレミアム版は112枚の画像で約8ドルです。

「この技術について聞いた当初の私たちが抱いていた懸念が、すべて現実のものとなったのは、本当に気が滅入ることです」と、マイアミ大学法学部のメアリー・アン・フランクス教授は語る。フランクス教授はセンシティの研究が発表される前にフィードバックを提供したが、最終的な報告書の結論には関与していない。「今、さらに恐ろしい現実が突きつけられています。裸で写真を撮ったことがなくても、誰かと個人的なデータを共有したことがなくても、必要なのは顔写真だけなのです」

このTelegramボットは、DeepNudeソフトウェアのバージョンを利用していると考えられています。DeepNudeについては、Viceが2019年6月に初めて報じました。元の開発者は、その悪用方法への懸念を理由にアプリを終了させましたが、その数日後にはダウンロード数は9万5000件に達していました。

コードはすぐにバックアップされ、コピーされました。DeepNudeソフトウェアは、ディープラーニングと敵対的生成ネットワークを用いて、被害者の体型を推定して生成します。AIは、着衣女性と裸女性の画像セットで学習し、最終的な画像に体の各部位を合成することができます。

「これは今やコミュニティがメッセージングプラットフォームアプリに組み込んだものであり、それによってこの種の技術の使いやすさとアクセスしやすさが向上しました」とパトリニ氏は語る。Telegramボットは外部サーバーで動作しており、参入障壁が低いとセンシティは言う。「ある意味、これは文字通りディープフェイクをサービスとして提供していると言えるでしょう。」

Telegramは、ボットとそれが生成する虐待画像に関する質問に回答しなかった。Sensityの報告書によると、同社は数ヶ月前にボットとチャンネルについて報告した際にも回答しなかったという。同社は限定的な利用規約を設けており、3つの箇条書きの1つには、「公開されているTelegramチャンネル、ボットなどに違法なポルノコンテンツを投稿してはならない」と記載されている。

Telegramは、よくある質問集の中で、「違法な公開コンテンツ」の削除要請は対応していると述べている。また、Telegramのチャットとグループチャットは非公開であり、それらに関する要請は対応していないと付け加えている。ただし、チャンネルとボットは公開されている。削除に関するセクションには、「ポルノボットは削除できます」と記載されている。

この記事の公開前に、ボット生成のディープフェイク画像のギャラリーを毎日公開していたTelegramチャンネルから、すべてのメッセージが削除されました。誰が削除したのかは不明です。

こうした活動には、通常、ボットを使用したユーザーとその意図に関するデータが含まれています。ボットにリンクされたTelegramチャンネルには詳細な「プライバシーポリシー」があり、サービスを利用しているユーザーは自らの行動に関するアンケートに回答しています。

2019年7月にTelegramチャンネルに投稿された匿名のアンケートには、7,200人以上が回答し、そのうち70%が「ロシア、ウクライナ、ベラルーシ、カザフスタン、そして旧ソ連全域」出身だと回答しました。世界のその他の地域からの回答は、それぞれ6%未満でした。このボットを使用している人々は、ロシアのソーシャルメディアネットワークVKでこのボットを見つけたと自己申告しています。Sensityの報告によると、VK上で大量のディープフェイクコンテンツが発見されており、このボットは専用ページも開設しています。VKの広報担当者は、「プラットフォーム上でのこのような行為は容認しない」とし、「このコミュニティを永久にブロックした」と述べています。

2019年7月に3,300人が回答した別のアンケート調査では、人々がボットを利用する動機が明らかになった。「そもそも誰の服を脱がせたいですか？」という質問に対し、回答者の圧倒的多数（63%）が「実生活で知り合っている身近な女性」を選択した。有名人や「スター」は2番目に多く（16%）、3番目に多かったのは「インスタグラムのモデルや美女」で8%だった。

専門家は、こうした画像が女性を辱め、脅迫するために利用されることを懸念している。しかし、ディープフェイク技術が急速に発展する中、法律は対応できず、この技術の将来的な政治的影響に焦点が当てられている。

ディープフェイクは2017年末に発明されて以来、主に女性を虐待するために利用されてきました。過去1年間で、ディープフェイクの作成に必要な技術が安価になり、使いやすくなったため、その数は飛躍的に増加しました。センシティの以前の調査によると、2019年7月には14,678本のディープフェイク動画がオンライン上にありました。今年6月までにその数は49,081本にまで増加しました。これらの動画のほぼすべてがポルノ的な性質を持ち、女性をターゲットにしていました。

8月、WIREDはディープフェイクポルノ動画がいかにして主流になったかを報じました。世界最大級のポルノサイトには、毎月1,000本以上の虐待的な動画がアップロードされていました。女優エマ・ワトソンの顔を使った30秒の動画は、同じ会社が所有するXVideosとXnxxに掲載されており、3,000万回以上再生されています。当時、同社はコメント要請に応じませんでした。一方、WIREDがこれらの動画を取り上げた後、xHamsterは数百万回再生されているディープフェイク動画数十本をサイトから削除しました。

ボット生成画像の躍進は、ディープフェイクの悪用を危険な新たな領域へと押し上げています。Telegramボットは、基盤となるDeepNudeシステムが実際に使用されている唯一の例ではありません。Google Playストアには、写真の一部をピクセル化して被写体が服を着ていないように見せたり、X線を使って服を透視しているように見せたりするアプリが存在します。ディープフェイク技術へのアクセスを有料化するウェブサイトもあり、あるウェブサイトでは月額20ドルのサブスクリプションサービスを提供しています。

Sensityは、Telegramボットの背後にいる人物はロシアを拠点としている可能性が高いと見ている。ボットについてメッセージを送ると、作成者はこの技術が及ぼす影響を軽視した。「すべては無料で利用可能です。このエンターテイメントアプリを利己的な目的で使用した場合、その責任はあなたにあります。自分の行動について説明しなければなりません」と匿名の作成者は主張した。ボットのプライバシーポリシーでは、このボットを使用して作成された画像は「偽のパロディであり、実在の人物と混同されたり、特定の人物と関連があるとみなされてはならない」と述べており、画像は「楽しみのために」作成されたものであるとしている。

DeepNudeコードの複数のバージョンが、Microsoft所有のソフトウェアプラットフォームGitHubで公開されています。本稿執筆時点では、DeepNudeコードセットのうち2つが過去1週間以内に更新されています。資料によると、技術に詳しい人は透かしなしでコードを利用し、システムの最適な操作方法のデモも提供されているとのことです。

GitHubにはDeepNudeのオープンソース版コードが残っており、GitHubは既に削除済みです。DeepNudeアプリが2019年7月に初めて登場した後、GitHubは「利用規約」に違反したとして一部のファイルを削除しました。DeepNudeファイルが依然としてプラットフォーム上に残っていることについて尋ねられたGitHubの広報担当者は、苦情がない限りユーザーがアップロードしたコンテンツをモデレーションすることはないと回答しました。「GitHubを性的にわいせつなコンテンツの投稿に利用することは容認しておらず、利用規約および利用規約でそのような行為を禁止しています」と広報担当者は述べています。本稿執筆時点では、オープンソースコードの全バージョンが引き続きサイト上でアクセス可能でした。

この技術の存在そのもの、そしてテクノロジー企業によるその拡散阻止への対策の欠如は、女性や少女たちに長期的な危害をもたらす可能性があるとフランクス氏は指摘する。「この技術は、あなたが何を言おうとするのか、何をしようとするのか、どんなリスクを負えるのか、どんな仕事に応募するのか、といったことを確実に阻害するでしょう。これらはすべて、私たちが女性や少女たちに沈黙を強いる手段なのです。」

この記事はもともと WIRED UKに掲載されたものです。

WIREDのその他の素晴らしい記事

• 📩 テクノロジー、科学、その他の最新情報を知りたいですか？ニュースレターにご登録ください！
• 学校（そして子供たち）には新鮮な空気が必要だ
• ワシントン州フォークスにおけるアンティファ侵攻の真実
• 「ザ・ワイヤー」にヒントを得た、密猟者を監視する偽のカメの卵
• シリコンバレーはジョー・バイデンのために財布を開く
• Qアノン支持者はあなたが思っているような人たちではない
• 🎮 WIRED Games: 最新のヒントやレビューなどを入手
• 📱 最新のスマートフォンで迷っていますか？ご心配なく。iPhone購入ガイドとおすすめのAndroidスマートフォンをご覧ください。