WIREDは、Metaのソーシャルプラットフォーム上で、性的に露骨な「AIガールフレンド」アプリを宣伝する広告が数千件掲載されていることを突き止めた。一部のセックスワーカーは、Metaが自分たちの投稿を不当に厳しく監視していると主張している。
写真イラスト：ジャッキー・ヴァンリュー、ゲッティイメージズ
Metaのオンライン広告ライブラリによると、同社はFacebook、Instagram、Messenger上で、AI生成のNSFWコンパニオンアプリや「ガールフレンド」アプリの広告を数千件掲載している。これらのアプリは、NSFWチャットのサンプルや、服を着ていない、信じられないほど体型が変わった女性のAI画像を用いて、性的に露骨な画像やテキストを提供するチャットボットを宣伝している。
WIREDがレビューした広告に登場するバーチャル女性の多くは、多少不気味ではあるものの、リアルで若く、典型的なポルノグラフィを彷彿とさせる。見込み客は、AIの「義母」とロールプレイをしたり、ヒジャブをかぶったコンピューター生成のティーンエイジャーとつながったり、「1分であなたをイカせます」と約束するアバターとチャットしたりできる。
Metaの広告ポリシーでは「露骨または挑発的な姿勢の人物の描写、または過度に挑発的または性的に挑発的な行動」を含む「アダルトコンテンツ」を明確に禁止しているにもかかわらず、広告は盛況のようだ。
これにより、AIと従来型労働の衝突をめぐる議論に新たな局面が生まれている。一部のセックスワーカーは、Metaがチャットボットの増殖を許す一方で、アダルトコンテンツに関するルールを過度に適用することで、自分たちの古くからある職業をプラットフォームから不当に排除していると不満を漏らしている。
「セックスワーカーとして、『あなたのためなら何でもします。1分であなたをイカせます』などと書いたら、すぐに削除されてしまいます」と、英国を拠点とするセックスワーカーの権利とポールダンスイベントの団体「ポールダンスストリッパームーブメント」のディレクター、ジェマ・ローズ氏は言う。
Metaのポリシーでは、ユーザーがヌードや性行為を公開したり、セクスティングを含む性的行為を売ったりすることを禁じています。ローズ氏をはじめとするセックスワーカー擁護団体は、MetaがチャットボットアプリによるNSFW（職場での不適切な閲覧を推奨する）体験の宣伝を許可しながら、人間のセックスワーカーによる同様の行為を禁じているのは二重基準だと主張しています。
性教育、セックス・ポジティブ、性労働などについて投稿する人々は、長年にわたり、Metaが自分たちのコンテンツを不当に抑圧していると訴えてきました。WIREDが入手したスクリーンショットによると、Metaはローズの投稿の一部をフォロワー以外には表示しないように制限していました。ローズの個人用Instagramアカウントと所属団体のアカウントは、Metaのポリシー違反により既に停止されています。
「コミュニティのガイドラインや規則、規制の多くに賛成しているわけではありませんが、これらの広告は明らかにポリシーに反しています」と、Metaプラットフォームで宣伝されている性的チャットボットについてローズ氏は語る。「それなのに、私たちはインターネット上で検閲を受けずにいることも、ただ存在して生計を立てることも許されていないのです。」
WIREDは、Metaの広告ライブラリを用いてチャットボット広告を調査した。Metaの広告ライブラリは、Metaプラットフォーム上で現在配信されているすべての広告、過去1年間にEUで配信されたすべての広告、そして過去7年間の選挙、政治、社会問題に関連する広告を閲覧できる透明性ツールである。検索の結果、Metaプラットフォーム上で少なくとも29,000件の露骨なAI「ガールフレンド」広告が掲載されており、そのほとんどは性的な内容を含む示唆的なメッセージを使用していることがわかった。また、「NSFW」という用語を使用した広告は少なくとも19,000件、「NSFW AI」を提供する広告は14,000件あった。
WIREDが先週Metaに連絡を取った時点で、約2,700件の広告がアクティブだった。数日後、Metaの広報担当者ライアン・ダニエルズ氏は、同社はアダルトコンテンツを含む広告を禁止しており、広告を審査し、ポリシーに違反する広告を削除していると述べた。「違反広告を特定した場合は、ここで行っているように、迅速に削除に取り組みます」とダニエルズ氏は述べた。「ポリシーに違反する広告や行動の検出方法を含め、システムを継続的に改善していきます。」
しかし、Metaの広告ライブラリによると、4月23日には「AIガールフレンド」の広告が3,000件、また「NSFW」を含む広告が1,100件掲載されていた。
WIREDの初期調査では、Google Playストアから10万回以上ダウンロードされたAIガールフレンドアプリ「Hush」が、Metaプラットフォーム全体で1,700件の広告を掲載していたことが判明した。その広告のいくつかは、リアルな女性キャラクター、アニメの女性、漫画の動物たちとの「NSFW」チャットや「秘密の写真」を約束していた。
1つは、中世の牢獄で首と手首を足かせに繋がれたAI女性が「助けてください。あなたのためなら何でもします」と誓う広告です。メタの技術を使って18歳から65歳の男性をターゲットにした別の広告では、アニメキャラクターと「NSFW画像をもっと見たいですか？」というテキストが使われています。
WIREDが発見した「パーソナライズAIコンパニオン」アプリ「Rosytalk」のMeta広告980件のうちいくつかは、非常に若い女性のAI生成女性と24時間チャットできると謳っていた。これらの広告には「#barelylegal」「#goodgirls」「teens」といったタグが使われていた。Rosytalkはまた、Metaプラットフォーム上で、Rosygirl、Rosy Role Play Chat、AI Chat GPTなど、少なくとも9つのブランド名で990件の広告を掲載していた。
少なくとも13のAI「ガールフレンド」アプリが、Metaの広告で同様のサービスを宣伝しています。その中には、ユーザーがAIガールフレンドの服を脱がせて画像をダウンロードできる「ヌード化」機能も含まれています。ガールフレンド広告の一部は、Metaの広告基準に違反したため、すでに削除されています。ソーシャルメディア調査会社Graphikaによると、「脱衣」アプリは主要ソーシャルプラットフォームでも販売されており、Daily Mail紙は最近、LinkedInでも販売されていると報じています。
いわゆるAIコンパニオンのユーザーの中には、孤独感を和らげるのに役立つと述べる人もいれば、本当のパートナーのように感じられると報告する人もいます。WIREDが発見した広告のすべてが刺激的なコンテンツだけを売りにしているわけではなく、中にはAIチャットボットが精神的なサポートを提供できると示唆する広告もありました。「誰とでも話しましょう！あなたは一人じゃないんです！」と、Metaプラットフォームに掲載されたHushの広告の一つが謳っています。
英国ノーサンブリア大学デジタル市民センターでソーシャルメディアの検閲を研究するイノベーションフェローのカロリーナ・アレ氏は、Metaでは人間の性労働者が同社のプラットフォーム上で広告を出すことが極めて困難になっていると語る。
「自分の体を使って利益を得ようとする人は、禁じられています」と、Metaプラットフォームで失効したり不当に停止されたりしたアカウントをセックスワーカーが復活させるのを支援してきたアレ氏は言う。「しかし、既に存在する画像を悪用する、主にブロスが運営するAI企業は、それが可能なのです」
アレ氏は、性的に挑発的なAIガールフレンドの存在は、インターネットポルノの初期の洗練されておらず、ありきたりだった時代を思い出させると語る。「セックスワーカーは、顧客、登録者、フォロワーと、よりパーソナルな方法で関わっています」と彼女は言う。「ヌード画像の共有という枠を超えた、多大な労力と感情労働です。」
AIアプリがどのように構築されているか、また、その基盤となるテキストや画像を生成するアルゴリズムがどのように訓練されているかについては、限られた情報しか入手できていません。あるアプリは「Sora」という名前を使用しており、これは明らかにOpenAIの同名の動画生成ツールとの関連性を示唆するものと思われますが、このツールは未公開です。
露骨なAIガールフレンドを宣伝するアプリの開発者は不明です。Metaのプラットフォームで宣伝されているアプリの開発者としてGoogle PlayやFacebookに掲載されている開発者は、コメント要請に応じませんでした。
アダルト業界の非営利業界団体、フリースピーチ連合の広報担当ディレクター、マイク・スタビル氏は、AIガールフレンドを謳うアプリとその広告戦略を「詐欺的」だと見ている。アダルト業界はオンライン広告を禁止されているにもかかわらず、AIアプリは「氾濫している」と彼は言う。「これが検閲のパラドックスです。結局、実際のセックスワーカーを検閲したり沈黙させたりして、その代わりにこうした雑草が繁茂するのを許してしまうのです」
2018年に米国で成立した性的人身売買防止法（FOSTA-SESTA）は、プラットフォームにオンライン投稿内容の責任を負わせ、アダルトコンテンツを大幅に制限しました。しかし、その結果、合意に基づく性労働がデジタル世界において人身売買とみなされるようになり、アダルトコンテンツの制作者はオンライン生活から締め出され、もともと社会的に周縁化されていた性労働者たちはさらに脆弱な立場に置かれました。
MetaがプラットフォームからAIガールフレンド広告を削除すれば、過去の人間のセックスワーカーに対する一連の動きに追随することになるかもしれない。ローズ氏によると、Metaのガイドラインに熱心に従おうとしていたにもかかわらず、ポールダンス・ストリッパー・ムーブメントのアカウントは、2023年6月に少なくとも45件の性的関連アカウントが削除された際に「警告なしに」停止された。Metaは最終的に、誤りを理由に一部の削除を元に戻した。しかし、ソーシャルメディア上のセックスワーカーにとって、このような出来事は繰り返し起こるものだ。
ローズさんの個人アカウントとそのバックアップは、2021年6月に新型コロナウイルスのパンデミックの最中に削除されました。彼女はポールダンスのワークショップの写真を共有した後のことでした。当時、彼女はオンラインのポールダンス教室を主催し、アダルト動画配信サイト「OnlyFans」に投稿していました。「私のビジネスは一夜にして消えてしまいました」と彼女は言います。「自活する方法がありませんでした。」
「そうか、私のコンテンツは削除されたんだね」とローズは付け加えた。「でも、こういう会社はセックスワーカーには許されていないようなクソみたいなコンテンツを出すのが許されているって？ わけがわからない」
更新：2024年4月25日午前10時（東部夏時間）：WIREDは、Carolina Areの立場をより正確に反映するために引用を明確にしました。
