Googleの合意のない不適切な画像問題は悪化している

2022年初頭、Googleのポリシー担当者2名が、詐欺の被害に遭った3人の女性と面会しました。彼女たちの露骨な動画がGoogle検索結果を含むオンライン上で拡散していました。彼女たちは、水着モデル募集の広告に応募した数百人の若者のうちの1人でした。しかし、GirlsDoPornというウェブサイトで配信された性的な動画への出演を強要されたのです。同サイトは2020年に閉鎖され、プロデューサー、会計係、カメラマンの3人が性的人身売買の罪を認めましたが、女性たちが削除を要請するよりも早く、動画はGoogle検索結果に表示され続けました。

バーチャル会議に出席した、あるいは説明を受けた5人によると、女性たちは弁護士とセキュリティ専門家とともに、Googleが犯罪的で屈辱的な動画をより効果的に隠蔽するための多くのアイデアを提示した。彼女たちは、Google検索でGirlsDoPorn関連のウェブサイトや同動画の透かしが入った動画をブロックするよう求めていた。彼女たちは、女性たちのサイバーセキュリティコンサルタントであるチャールズ・デバーバー氏がGirlsDoPornの全エピソードを保存している25テラバイトのハードドライブをGoogleが借り受け、各動画の数学的指紋、つまり「ハッシュ」を取得し、検索結果に二度と表示されないようにブロックすることを提案した。

会議に出席した2人のGoogle社員は、そこで得た情報を活用して上層部からより多くのリソースを獲得したいと考えていた。しかし、被害者側の弁護士であるブライアン・ホルム氏は、疑念を抱きながら会議を終えた。ポリシーチームは「厳しい立場」にあり、「Google社内に変化をもたらす権限がなかった」と彼は言う。

彼の直感は正しかった。2年経った今でも、会議で提案されたアイデアはどれも実行されておらず、動画は今でも検索でヒットする。

WIREDは、Googleの元従業員5人と、同社と連絡を取り合ってきた被害者支援団体10人に話を聞いた。彼らは皆、Googleが最近行った変更により、GirlsDoPorn詐欺のような画像ベースの性的虐待の被害者が、望まない検索結果をより容易かつ確実に削除できるようになったことを高く評価している。しかし、彼らは、世界中の何百万人もの被害者（その多くは女性）のプライバシーをより完全に回復し、保護できると信じているハードドライブ構想などの提案を、Googleの経営陣が承認していないことに不満を抱いている。

情報筋は、これまで公表されていなかった社内協議について説明している。その中には、Googleが非合意の親密な画像（NCII）に関する情報を共有する業界ツール「StopNCII」を利用しなかった理由や、ポルノサイトに対し検索トラフィックの基準を満たすために同意の確認を義務付けていないことなどが含まれている。Google自身の研究チームは、StopNCIIの利用を含む、テクノロジー企業がNCIIに対抗できる対策を発表している。

情報筋は、こうした取り組みによって、ガールズ・ドゥ・ポルノ被害者の作品を含む、露骨なディープフェイクを作成するAIツールへのアクセス拡大などを通じて、拡大する問題をより効果的に抑制できると考えている。英国のリベンジポルノ・ホットラインへの通報件数は昨年、約1万9000件と2倍以上に増加し、合成コンテンツに関する件数も増加した。最近の調査では、2000人以上の英国人のうち半数がディープフェイクの被害に遭うことを懸念している。ホワイトハウスは5月、NCII全体の抑制に向けて、議員と業界に迅速な行動を促した。6月には、グーグルが他の7社と9団体とともに、対応を調整するためのワーキンググループの設置を発表した。

現在、被害者は加害者の訴追を求めるか、コンテンツをホストするウェブサイトに対して法的請求を行うことができますが、どちらの方法も確実なものではなく、訴訟費用がかかる可能性があります。Googleに検索結果を削除させることは、最も現実的な手段であり、友人、採用担当者、将来の家主、デートの相手など、ほぼ全員がGoogleで人探しをする可能性が高い人々の目に違反コンテンツが触れないようにするという最終的な目的を達成するのに役立ちます。

Googleの広報担当者は、加害者からの嫌がらせを避けるため匿名を条件に、GirlsDoPornの被害者との電話会議についてコメントを控えた。同社が「合意のない露骨な画像（NCEI）」と呼ぶものへの対策は引き続き優先事項であり、Googleの対応は法的に義務付けられている範囲をはるかに超えていると述べた。「長年にわたり、私たちは業界をリードするポリシーと保護対策に多大な投資を行い、この有害コンテンツの影響を受ける人々を守ってきました」と広報担当者は述べた。「Googleの各チームは、引き続き安全対策を強化し、新たな課題に慎重に対処することで、人々をより良く保護できるよう尽力して​​います。」

WIREDのインタビューで、Google検索のプロダクトマネージャーで危害対策を監督する人物は、ハッシュを使った動画ブロックは導入が難しいと述べた。これは、一部のウェブサイトが検索エンジンが比較できる形式で動画を公開していないためだ。匿名を条件に語った彼女は、Googleは露骨表現を含むウェブサイトに対し、この問題への対応を促してきたと述べた。彼女はさらに、Googleには一般的にもっとや​​るべきことがあると付け加えたが、幹部が作業を遅らせていたという主張を否定した。

Googleのより大胆な行動を支持する人々は、児童性的虐待コンテンツ（CSAM）の検索に対する同社の厳格な規制を、同社がもっと多くの対策を講じるべき証拠として挙げている。Googleで「ディープフェイク ヌード 子供」と入力すると、そのようなコンテンツは違法であるという警告が表示され、最終的にはニュース記事や支援グループに誘導される。Googleはまた、CSAMを含むウェブページを毎年約100万件新たに発見し、検索結果からブロックしている。

最近Googleで「ディープフェイクヌード ジェニファー・アニストン」と検索したところ、まさにそれを提供すると謳う検索結果が7件表示されました。米国のほぼすべての州と多くの国で、成人向けの性的コンテンツの無許可配信が犯罪化されているにもかかわらず、Googleは警告や関連情報を提供しませんでした。Googleは警告がないことについてコメントを控えました。

プロダクトマネージャーは、CSAMとの比較は無効だと主張する。事実上、裸の子供の画像は違法であり、自動的に削除される可能性があると彼女は言う。NCEIと合意に基づくポルノを区別するには、コンテンツが許可なく撮影または配信されたことを示す何らかの証拠が必要であり、被害者が報告し、人間が分析するまで、その文脈はしばしば明らかにならない。しかし、マネージャーは、Googleがこの課題を克服しようとしたかどうかについて、直接的な回答を避けた。

アドボカシー・教育団体「Ending Tech-Enabled Abuse」の創設者アダム・ドッジ氏は、Googleが積極的にNCIIの削除を進めるまでは、被害者は自らNCIIを見つけて報告することに細心の注意を払う必要があると述べている。「それは被害者に押し付けるべきことではありません」と彼は言う。「私たちは、トラウマを乗り越えるために、オンラインで暴行を受けた場所に行くよう求めているのです。」

Googleは2015年、ヌードやセックスにつながる検索結果について、そのコンテンツが非公開を意図したものであり、公開を許可されていない限り、削除リクエストを受け付けるようになりました（ポリシーによる）。この方針は2020年までほぼ変わらず、同社は「親密な状態」にある場合も削除対象としました。

その年のニューヨーク・タイムズ紙のコラムがきっかけとなり、Google幹部はこの問題にリソースを投入し、「Sparrow」というコードネームを含むプロジェクトを組織し、被害者が検索結果からコンテンツを永久に排除できるように支援したと、元従業員3人が証言している。プロダクトマネージャーは、幹部がNCEIへの対応を改善するよう各チームに働きかけたことがあると認めた。

情報筋によると、Googleは削除フォームをより使いやすく、理解しやすく、アクセスしやすいものにした。ポルノは一般的に合意に基づくものとみなされているため、Googleは法律用語と「リベンジポルノ」という時代遅れの用語を削除した。スクリーンショットの提出方法や審査プロセスの詳細も追加した。

このフォームは、すべての検索結果の横に表示されるメニューをクリックすることでアクセスできるようになりました。ある情報筋によると、初期のテストではリクエスト数が約19倍に増加しました。別の情報筋によると、このフォームはGoogleで最も多く利用されている不正行為報告フォームの一つとなっており、修正後、リクエストの件数が大幅に増加して検索結果が削除されたとのことです。Googleはこれらの数字に異議を唱えていますが、NCEIに関する包括的なデータの公開は拒否しています。

政府義務付けの透明性報告書によると、グーグルは入手可能な最も古いデータである2020年12月以降、韓国で望ましくない性的コンテンツとして報告された約17万件の検索リンクとYouTubeリンクのほとんどを削除し、2021年5月以降、インドのユーザーからの380件の苦情に応じて約300件のコンテンツを削除した。限られたデータは、グーグルが、検索におけるより小規模なライバルであるマイクロソフトよりも多くの報告を信頼できると判断していることを示唆している。マイクロソフトは、2015年から2023年6月までにBingおよびその他のサービスに関して世界中で受け取った約8,400件のケースの52％に措置を講じた。

2021年後半に導入されたStopNCIIシステムは、ハッシュ化された写真や動画を57万2000件以上データベース化し、InstagramやTikTokを含む10のサービスで1万2000回以上共有をブロックしてきました。3つの情報筋によると、Googleはデータベースに実際に何が含まれているのかという懸念から、このツールをコンテンツ検索ブロックに導入していません。

被害者のプライバシー保護のため、StopNCIIは報告されたコンテンツを審査せず、ハッシュ値からはコンテンツの内容は何も分からない。情報筋によると、Googleは無害なものをブロックしてしまう可能性があることを懸念しているという。「カップケーキの画像だけかどうかは分かりません」と関係者の一人は言う。情報筋によると、Googleは社内からの助言にもかかわらず、より優れていると考えるシステムへの資金提供を断念したという。

グーグルの広報担当者はStopNCIIについてコメントを控えたが、4月に同社は、このツールを使用しない決定についてグーグルに質問した英国議員に対し、「データベースの相互運用性について具体的な方針と実際的な懸念がある」と詳細には触れなかった。

グーグル社内では、削除対策を改善するための大胆なアイデアがいくつか出ている。4人の情報筋によると、従業員たちは、ポルノ企業を含む露骨な表現を含むウェブサイトを、コンテンツが合意に基づくものであることを保証しない限り、検索結果から削除する案を議論したという。しかし、この案は採用されなかった。グーグルの検索部門は、性的画像のような扱いにくくタブーなテーマに関するルール設定を避けてきたと、3人の情報筋は述べている。「彼らはインターネットの規制当局と見られたくないのです」と、ある元従業員は語る。

Googleは性的なコンテンツを含むウェブサイトに膨大なトラフィックを送っているため、これらのウェブサイトに対し、より厳格な対策を取らせる可能性がある。元社員の一人によると、Googleが毎日受信する数十億件の画像検索のうち、約15%、動画検索の最大半分がポルノ関連だという。同社はこの数字についてコメントを控えた。「Googleは王国の鍵を握っている」と情報筋は語る。一方、他の企業で介入する動きはほとんどない。米国議会は、オンラインアップロードに同意確認を義務付ける法案をまだ可決していない。また、RedditやXbox Oneといった、性的なコンテンツを共有する人気サービスの中には、対象者の同意を証明する書類の提出を求めていないところもある。

ポルノ業界団体「フリー・スピーチ・コアリション」の広報担当者マイク・スタビル氏は、米国法の規定に基づき出演者から身元情報を収集しているポルノ制作会社は、検索エンジンとの同意シグナルの共有を支持していると述べた。「大手アダルトサイトは既に、主流プラットフォームよりもはるかに積極的にNCIIを監視し、ブロックしています」とスタビル氏は付け加えた。

Googleの広報担当者は同意を求めるアイデアについてはコメントを控えたが、既存のペナルティについて言及した。Googleは昨年12月、削除要請が「大量に」認められたウェブサイトの検索結果をブロックするのではなく、順位を下げ始めた。

Googleのプロダクトマネージャーと広報担当者は、画像による性的虐待の被害者の負担を軽減するために、検索チームが過去3年間で既に大きな一歩を踏み出してきたと主張している。しかし、WIREDの調査によると、いくつかの改善には留意すべき点が伴っていることが明らかになった。

Googleが導入したシステムは、以前に報告されたコンテンツが新しいウェブサイトに再表示された際に検索リンクを自動的に削除しようとするものだが、動画や改変された画像には機能しない。2つの情報筋によると、Googleはこのシステムの改善に専任のスタッフを配置していなかったという。「改善の余地は十分にあるのに、被害者の問題を本当に解決できるかどうかに十分な注目が集まっていない」と1人は述べている。広報担当者は、このツールの改善にスタッフを配置していると述べた。

2人の情報筋によると、「既知の被害者保護」と呼ばれる別のシステムは、過去の削除要請に類似する検索クエリから、露骨な画像を含む検索結果を除外しようとする。このシステムは、合法的なポルノ検索結果を妨げないよう設計されており、被害者が新しいアップロード画像に常に注意を払う必要性を軽減する。しかし、Googleは韓国の規制当局に対し、このシステムは完璧ではないことを認めている。「ウェブの動的かつ絶え間ない変化の性質を考えると、自動化システムはすべての露骨な検索結果を100%捕捉できるわけではない」と、同社は透明性レポートに記している。

グーグルは昨年8月、最大の転換点の一つとして、同意を得て撮影されたことを示す兆候を含むコンテンツへのリンクの削除を拒否するという方針を撤回した。長年にわたり、グーグルは画像や音声から、被写体が強制や苦痛の兆候なく撮影されていることを認識していたと判断した場合、削除要請者が同意なしに公開されたことを示す十分な証拠を提示しない限り、削除要請を拒否してきた。元従業員の一人は、これは「非常に曖昧な概念」だったと語る。

同じ情報筋によると、スタッフは経営幹部に対し、経済的な必要からOnlyFansでアダルトパフォーマーになった人々が後から同意を撤回し、性労働とのつながりを断ち切ることができるようにすることの重要性を説明し、ポリシーの改訂を促したという。Googleの広報担当者もこの点に異議を唱えなかった。

ワシントンD.C.に拠点を置く反ポルノ団体で、画像による性的虐待に関する権威として知られる全米性的搾取センターは、今回の改定後もGoogleの対応は不十分だと主張している。センターは、Googleに対し、すべての削除要請を自動的に尊重し、問題のコンテンツの録画と公開に同意があったことを証明する責任をウェブサイト側に負わせるよう求めている。Googleの広報担当者は、ポリシーの見直しは常に検討されていると述べている。

擁護者たちの目には、Googleは本来あるべき、あるいはできるはずのリソースや注意深さを全く発揮していないように映る。ヒューストンのギルド法律事務所のブラッド・ギルド氏は、昨年8月に依頼人が元交際相手を相手に12億ドルの判決を勝ち取り、注目を集めたにもかかわらず、YouTubeに投稿された彼女の性的に露骨な音声への検索結果上位リンクをGoogleが削除できなかったことに失望したと語る。被害者の名前が記載され、100回以上再生されたこの動画は、WIREDが問い合わせた後、先月ようやく削除された。

合意のないメディアを積極的に特定する信頼性の高いAIシステムの開発は不可能かもしれない。しかし、大規模な事例に注意深く耳を傾けることはそれほど難しいことではないと、DMCA削除会社Ceartasを設立した被害者のダン・パーセル氏は述べている。グーグルの従業員はこの問題について、CSAMを含む他の種類の問題のあるコンテンツと同様に、優先フラグプログラムを設立し、パーセル氏のようなNCIIを監視する外部組織から正式に情報提供を求めるという提案をした。しかし、このアイデアを運営するための人員配置は実現しなかった。「グーグルはナンバーワンの発見プラットフォームです」とパーセル氏は言う。「彼らはもっと責任を負うべきです」。グーグルの広報担当者はコメントを控えた。

GirlsDoPornの被害を受けたクライアントと共にGoogleと協議した削除コンサルタントのデバーバー氏は、今月WIREDとの電話インタビュー中に、そのうちの1人のクライアントを検索した。彼女の動画へのリンクは表示されなかった。デバーバー氏はこれらのページの削除に100時間以上を費やしたからだ。しかし、あるポルノサービスが彼女の名前を悪用して視聴者を他のコンテンツに誘導していた。デバーバー氏はこの新たな検索結果をGoogleに削除するよう要請しなければならなかった。さらに別のGoogle検索では、クライアントの動画を閲覧できる問題のあるウェブサイトにアクセスできた。

加害者たちは定期的に、依頼人のNCIIへのリンクをテキストメッセージで送ってくる。これは、彼女の過去がまだ消えていないことを苛立たしく思い起こさせる。「彼らは人目につかず、忘れ去られたいのです」とデバーバーは依頼人について語る。「私たちは正しい方向に向かっています」。しかし、彼と被害者たちは、加害者を永久に追放するためにGoogleの力に頼っている。「Googleはもっと多くのことをできたはずですし、まだできるはずです」