iStock / ポビトフ
Redditにおける有名人の顔を入れ替えたポルノ動画の共有は、作成開始から2か月後に禁止されました。Redditによる「不本意なポルノ」禁止の動きは、他のサイトやサービスが同様のコンテンツの共有やホスティングを禁止する動きに追随するものです。
1月、RedditユーザーのDeepFakesAppが「FacesApp」というアプリケーションを作成しました。このアプリケーションを使うと、十分な技術知識があれば誰でも、合意に基づくポルノ作品に登場する俳優の顔を別の人物に置き換えることができます。このアプリは、ごく初歩的な機械学習を用いて、人物の顔の画像や動画を操作し、元の映像に重ね合わせることで、偽のポルノ動画を作成していました。
このアプリを使って作成された動画は、サブレディット「r/deepfakes」に投稿されました。大半の動画では有名人をポルノ動画に登場させていましたが、パートナーや恋人を登場させることは可能かと疑問視する声もありました。このような動画の作成に関する法律は明確ではありません。
r/deepfakesグループは、同名のRedditユーザーによって12月に開始されました。その存在は最初にMotherboardによって報告されました。Redditがこのコミュニティを削除する前には、9万人以上が登録していました。
Redditはユーザーポリシーを更新し、関係者の同意を得ていない「偽造された性的描写」や「露骨なコンテンツの偽造、あるいは「類似」ポルノの勧誘」を禁止すると発表した。同ソーシャルネットワークは、ユーザーはポリシーに違反していると思われるコンテンツを報告すべきだとしている。
Redditはディープフェイクを掲載しているにもかかわらず、ディープフェイクを禁止したのは初めてではありません。今週、Twitterはジャーナリストから@mydeepfakesというユーザーの存在を指摘されたことを受け、このユーザーを禁止しました。他のプラットフォームと同様に、Redditにも合意のない性的画像の共有を禁止するポリシーがあります。
続きを読む: AI生成のフェイクポルノの台頭に法律はまだまだ対応できていない
世界最大のポルノサイトPornhubは、これらの動画が許容基準を満たしていないとして禁止しました。PornhubはMashableに対し、ユーザーから報告を受けた動画はすでに削除したと述べています。ディープフェイク作品を最初に禁止したウェブサイトは、GIF画像を共有・ホスティングするプラットフォームであるGfycatです。同社は、これらの動画は「不快」であると述べました。
しかし、Redditは偽の性的動画の背後にある技術を禁止する動きを見せていません。露骨な目的で使用されるだけでなく、ユーザーはニコラス・ケイジや他の有名人の偽動画も作成しています。サブレディット「r/fakeapp」は現在も存在しています。執筆時点でメンバーはわずか5,000人ですが、ページ上部、最新ダウンロードへのリンクの下に「/r/FakeAppは合意のないポルノを一切許容しません」というメッセージが固定されています。
「FakeAppは、一般の人々が創造的かつ探求的な用途でリアルなフェイススワッピング技術を利用できるようにするために作られました」とdeepfakeappの投稿には記されている。このサブレディットの最近の投稿は、ほぼ全てが削除されている非合意動画について議論している。
Redditがポルノ動画を削除した今、それらはインターネットのより曖昧な場所へと移される可能性が高い。テクノロジーについて議論したり、有名人の動画を投稿したりするためのフォーラムとして、既に少なくとも1つのウェブサイトが開設されている。あるRedditユーザーはこう書いている。「疑わしいコンテンツについては、信頼できるプロバイダーを利用する必要がある。Voat、4chan、8chなどのサイトだ。」
この記事はWIRED UKで最初に公開されました。
