GitHubのディープフェイクポルノ取り締まりは依然として機能していない

11月下旬、米国を拠点とするディープフェイクポルノ制作者が、世界最大のポルノディープフェイクサイトに、TikTokインフルエンサーのチャーリー・ダメリオの顔をポルノ俳優の体に重ね合わせた、性的に露骨な動画を投稿した。このインフルエンサーは動画の制作に一切関与していないとみられるにもかかわらず、この動画は8,200回以上再生され、他のディープフェイクファンの注目を集めた。

「素敵！ディープフェイクを作るのにどんなプログラムを使ったの？」と、balascoolという名のユーザーがコメントした。「チャーリー大好き」。ダメリオの代理人はコメント要請に返答しなかった。

動画の制作者「DeepWorld23」はコメント欄で、このプログラムは開発者プラットフォームGitHubでホストされていたディープフェイクモデルであると主張しています。このプログラムは4万6300人のユーザーから「スター」を付けられていましたが、GitHubが合意のない性的な画像、いわゆるディープフェイクポルノを合成して作成するプロジェクトを禁止する規則を導入したため、2024年8月に無効化されました。2024年11月にアーカイブ形式で再び公開され、ユーザーは引き続きコードにアクセスできます。

GitHubの取り締まりは不完全であり、開発者サイトによって削除された他のコードと共に、このコードはプラットフォーム上の他のリポジトリにも残っている。WIREDの調査では、ディープフェイク「ポルノ」動画に関連する10以上のGitHubプロジェクトが検出を逃れていることが判明し、性的画像の悪用に使用されるコードへのアクセスが拡大し、プラットフォームのモデレーションにおける盲点が浮き彫りになった。WIREDは、悪用を拡大することを避けるため、プロジェクトやウェブサイトの名前を公表していない。

「オンラインに公開された瞬間に何かを削除するのは容易ではありません」と、MetaやAdobeといったテクノロジー企業のAIアドバイザーを務めるヘンリー・アジダー氏は、オンライン上のオープンソースコンテンツのモデレーションという課題について語る。「同時に、非常に明確な危険信号もありました」

2024年6月に施行されたGitHubのポリシーでは、「合意のない親密な画像や誤報や偽情報となるコ​​ンテンツを作成するために合成または操作されたメディアを使用することを設計、奨励、促進、サポート、または何らかの形で示唆する」プロジェクトを禁止しています。

GitHubは2024年12月にWIREDが特定した少なくとも3つのリポジトリを無効化し、悪質なコードに対して明確な措置を講じている。しかし、プラットフォーム上の他の場所にも新たなリポジトリが出現しており、その中にはほぼ同じブランド名や、「NSFW」「アンロック版」「バイパス」といった明確な説明文が付いているものもある。

「GitHubを利用して性的にわいせつなコンテンツを投稿することは、GitHubの利用規約および利用規定で禁止されています」と、GitHubのオンラインセーフティ顧問であるジェシー・ジェラシ氏は述べています。「GitHubは、不正使用の報告を積極的に調査するだけでなく、そのようなコンテンツに対して積極的なスクリーニングを実施しています。また、利用規約に違反するコンテンツには迅速に対応します。」

WIREDが2024年12月に特定したあるプロジェクトは、GitHubが昨年、利用規約違反を理由に数ヶ月間無効化した「ディープフェイク作成のリーディングソフトウェア」を自称する主要プロジェクトとほぼ同一のブランディングを持っていました。GitHubはその後、この追加バージョンも無効化しました。

「隠れていたわけじゃないんです」とアジュダーさんは言う。「特に目立たなかったわけでもないんです」

ただし、主要リポジトリのアーカイブ版はまだ利用可能であり、1 月 10 日の時点で、ほぼ同一のブランドのものも含め、このモデルに基づく少なくとも 6 つの他のリポジトリが GitHub 上に存在していました。

WIREDが発見したGitHubプロジェクトはすべて、少なくとも部分的に、ディープフェイクポルノストリーミングサイトの動画にリンクされたコードに基づいて構築されていました。これらのリポジトリは、ディープフェイクポルノの作成に利用可能なオープンソースソフトウェアのネットワークの一部として存在していますが、そのオープンな性質上、制限を設けることはできません。GitHubリポジトリは「フォーク」と呼ばれる形でコピーすることができ、開発者はそこから自由にカスタマイズすることができます。

「性的画像の悪用を見てみると、そのツールや武器としての利用の大半はオープンソースから生まれています」とアジダー氏は言う。しかし、多くの場合、善意の開発者が発端となっていると彼は言う。「誰かが面白い、あるいはクールだと思ったものを作り、悪意のある誰かがその悪意ある可能性に気づき、武器化するのです。」

8月に無効化されたリポジトリのように、特定の用途に特化したコミュニティが構築されているものもあります。アジダー氏によると、このモデルはディープフェイクポルノのツールとして位置づけられており、主に女性を標的とした虐待の「入り口」となっているとのことです。

GitHubからダウンロードしたAIモデルをクレジットするアカウントによってポルノストリーミングサイトにアップロードされた他のビデオには、ディープフェイクのターゲットとして人気の高い有名人であるエマ・ワトソン、テイラー・スウィフト、アニャ・テイラー＝ジョイ、およびそれほど有名ではないが極めて実在する他の女性の顔が性的な状況に重ね合わされていた。

作成者は、使用したツールについて自由に説明しました。その中には、GitHub によって削除されたものの、他の既存のリポジトリにコードが残っている 2 つのツールも含まれていました。

ディープフェイクを狙う加害者たちは、Discordの秘密のコミュニティフォーラムやRedditの公然たるフォーラムなど、オンライン上の様々な場所に集結しており、ディープフェイク防止の取り組みを複雑化させています。あるRedditユーザーは9月29日、アーカイブされたリポジトリのソフトウェアを使ったサービスを提供し、「誰か私のいとこの顔を作ってくれませんか？」と別のユーザーが尋ねました。

GitHubが8月に禁止したメインリポジトリのトレントは、ウェブ上の他の場所でも入手可能であり、オープンソースのディープフェイクソフトウェアを全面的に取り締まることがいかに難しいかを示しています。DeepNudeアプリなどの他のディープフェイクポルノツールも、新バージョンが登場する前に同様に削除されています。

「モデルの数は非常に多く、モデルには様々な派生があり、様々なバージョンが存在するため、全てを追跡するのは困難です」と、英国の超党派シンクタンクDemosのデジタル政策ディレクター、エリザベス・シーガー氏は述べる。「一度モデルがオープンソース化され、ダウンロード可能になってしまうと、それを公にロールバックすることは不可能です」と彼女は付け加える。

女性セレブの露骨な動画を13本も加工したディープフェイクポルノ制作者は、ある有名なGitHubリポジトリを「NSFW（職場閲覧注意）」版として宣伝し、責任ある利用を促し、ヌード目的での使用を控えるようユーザーに明確に呼びかけている。「GitHubから入手可能なフェイススワップAIはすべて学習済みです。オンラインサービスは使用していません」と、この動画サイトのプロフィールには厚かましく記載されている。

WIREDがディープフェイク動画を特定した時点で、GitHubはすでにこのNSFWバージョンを無効化していました。しかし、1月10日には、このモデルの「アンロック」バージョンと銘打たれた他のリポジトリがプラットフォーム上で公開されており、中には2,500個の「スター」が付いたものもありました。

「一度モデルが公開されたら、それを元に戻すことはできないというのは技術的に正しい。しかし、人々がアクセスしにくくすることはできる」とシーガー氏は言う。

彼女はさらに、放置すればディープフェイク「ポルノ」の潜在的な害は心理的なものだけにとどまらないと付け加えた。その連鎖的な影響には、女性、マイノリティ、そして政治家に対する脅迫や操作などがあり、政治的なディープフェイクが世界中で女性政治家に影響を与えている例が見られる。

しかし、問題に対処するのはまだ遅くなく、GitHubのようなプラットフォームには、アップロード時点で介入するなど、選択肢があるとシーガー氏は言う。「GitHubにモデルをアップロードしたのに、GitHubが拒否し、すべてのホスティングプラットフォームも拒否した場合、一般の人にとってそのモデルを入手するのは難しくなります。」

オープンソースモデルで作成されたディープフェイクポルノを抑制するには、政策立案者、テクノロジー企業、開発者、そしてもちろん、虐待コンテンツの作成者自身にも依存します。

非営利団体パブリック・シチズンの立法追跡システムによると、少なくとも30の米国州では、ディープフェイクポルノに関する法律（禁止を含む）が制定されているが、定義や方針は州によって異なり、未成年者のみを対象とする法律もある。英国政府は1月7日、性的に露骨なディープフェイクの作成とその共有を犯罪化すると発表したため、ディープフェイク制作者もまもなくこの法律の効力を実感することとなるだろう。

2025 年 1 月 21 日午前 9 時 40 分 (EST) 更新: このストーリーは、GitHub からのコメントを含めるように更新されました。