Facebookのリベンジポルノ対策ツールが失敗した理由 ケイティ・ヒル

先月、右派メディアやタブロイド紙が元米国下院議員ケイティ・ヒルのヌード写真を掲載した際、その写真はFacebookやTwitterといったソーシャルメディア上で容易に拡散され、エンゲージメントを高め、パブリッシャーがウェブサイトへのトラフィックを増やすことを目的としたプラットフォームの機能も利用されました。これらの投稿は、数百万人のフォロワーを抱えるユーザーやページによって数千回もシェアされました。

FacebookとTwitterはどちらも、被写体の許可なく私的な写真を共有することを禁止しています。これは、非合意ポルノ、あるいはリベンジポルノ（実際にはどちらでもないことから、多くの専門家はこの用語を避けています）と呼ばれます。Facebookは最近、この問題に対処するための自動システムの威力を誇示しました。しかし、ある議員が最近、著名な被害者となった際には、両社とも自社のプラットフォーム上で何が起こっているかを把握していなかったか、あるいは自社のポリシーを徹底していなかったようです。

これらの写真は、最初は保守系ウェブサイトRedState、その後DailyMail.comに掲載され、ヒル氏が2人の部下と不適切な関係にあったという疑惑も掲載された。1人は選挙スタッフとの関係で、写真には写っていたもののヒル氏は後にこれを認めた。もう1人は下院議員事務所のスタッフとの関係で、下院規則に違反するがヒル氏はこれを否定している。写真が公開されてから数日後、下院倫理委員会が調査を開始すると、ヒル氏は下院議員を辞任した。

申し立ての真偽はさておき、またその重大性を否定するわけではないが、露骨な写真を公開するという決定は別の問題として考えるべきであり、一線を越えているとある専門家は指摘する。

「不倫が起こったことを知る公衆の権利と、その不倫疑惑の実際の親密な写真を見る公衆の権利の間には違いがあります。特に、その不倫相手が世間の注目を浴びていない人物である場合はなおさらです」とマイアミ大学法学部の教授でサイバー市民権イニシアチブ代表のメアリー・アン・フランクス氏は言う。

離婚手続き中のヒル氏は、今回の流出は別居中の夫のせいだと非難し、「恥知らずな工作員たちに、私が今まで見た中で最も汚い下劣な政治活動に利用され、右翼メディアは私の同意どころか、私の知らないうちに撮影された私のプライベートな写真を拡散することで、クリック数を増やし、視聴者を拡大し、何百万人もの人々を性的娯楽に利用した」と述べた。ヒル氏は代理人を通じてこの件についてコメントを拒否した。

「画像を見るにはクリックしてください」

セイラム・メディア・グループ（キリスト教コンテンツとオンラインストリーミングの大手インターネットプロバイダー）傘下のレッドステートは、10月18日の記事でヌード写真を1枚掲載し、「クリックして画像を表示 - 警告：不適切な画像です」という追加リンクの後ろに隠した。多くの人が最終的にそうするだろうように、この記事をFacebookやTwitterで共有した人は、ヒル氏が青いブレザーを着た、あまり目立たない通信社の写真を目にした。

DailyMail.comは数日後、異なるアプローチを取りました。10月24日付けのヒル氏に関する最初の記事では、TwitterとFacebook、そして検索エンジンの検索結果に同じ画像を表示させました。それはヒル氏の4枚の異なる写真を組み合わせたコラージュで、そのうち最大のものは彼女の裸を写しているように見えます。これは、実際の記事で最初に目にする写真のトリミング版です。

それは、これらすべてのプラットフォームの規則に違反します。

Facebookは、以下の3つの条件を満たす画像を「リベンジポルノ」とみなします。画像が「非営利目的または私的な環境で作成されたもの」であること、「（ほぼ）裸、性行為中、または性的なポーズ」をとっている人物が写っていること、そして被写体の許可なく共有されていること。Facebookは、これらの条件を満たす画像は常に削除するとしています。

Facebookのコミュニティ規定にはある程度精通していたので、翌週DailyMail.comの戦略に気づいた時、いくつか疑問に思ったことがあります。このタブロイド紙は同じヌード写真を別のコラージュに転用しており、今度はヒル氏が10月27日に下院議員辞職を発表した記事に添えていたのです。DailyMail.comはその日のうちに、このニュースとヌード写真をFacebookの1630万人のフォロワーにシェアしました。

この件についてFacebookに連絡したところ、同社は画像がポリシー違反であることを確認し、投稿を削除しました。私が送ったリンクはそれだけでしたが、DailyMail.comがヌード画像を同様に使用した複数の記事をFacebookに投稿していることも伝えました。Facebookは積極的にそれらを探し出そうとはしなかったようです。例えば、10月24日の記事とそのコラージュを共有する投稿は、400万人のフォロワーを持つDaily Mail AustraliaのFacebookページにまだ残っています。（不思議なことに、私が確認した時点では、10月24日の記事はDailyMail.comのメインFacebookページには全く見当たりませんでした。この記事がどこかの時点で削除されたのか（Huffington Postは、ヒル氏の弁護士がDailyMail.comに使用停止命令書を送ったと報じています）、それともそもそも掲載されていなかったのかは不明です。）

DailyMail.comは複数回のコメント要請には応じなかったが、11月1日午前11時45分（米国東部標準時）、10月24日の記事に新たなソーシャルシェア画像をアップロードしたようだ。これは私が最初に広報担当にメールを送ってから約20分後のことだ。新しいコラージュでは、ヒル氏がヌード写真ではなく、服を着た写真に置き換えられている。この更新はページのコード上でのみ確認でき、記事の他の部分には変更が見られなかった。

Facebookが所有する分析ツール「CrowdTangle」によると、その時点でこの記事はFacebook上で1万4000回以上シェアされていた。これは必ずしも写真がこれほど頻繁に投稿されたことを意味するわけではない。ユーザーはリンクをシェアする際に投稿のプレビューから画像を削除できるからだ。しかし、この画像は1週間以上自動的に掲載されていたはずで、DailyMail.comの記事へのトラフィックを最も多く獲得したFacebook投稿上位5つのうち4つには、今もこの写真がページに掲載されている。

そうです、まだです。DailyMail.comがサイト上の画像を更新したからといって、Facebook上のすべての画像が魔法のように更新されるわけではありません。新しい写真を表示するには、ユーザーが投稿を手動で更新する必要があります。これは当然のことです。そうでなければ、悪質なパブリッシャーが、ユーザーが共有した後で、無害なプレビュー画像をより不快なものにすり替えてしまう可能性があります。しかし今回のケースでは、残念ながら、多くの露骨な写真がFacebookページに残っていることになります。

それはFacebookだけではありません。

Twitterの非合意ヌードに関するポリシーでは、太字で「本人の同意なく作成または配信された、個人の私的な写真や動画を投稿または共有してはならない」と明記されており、「同意なく作成または共有された私的なメディアのオリジナル投稿者と特定されたアカウントは、直ちに永久に停止される」と警告している。ヒル氏の場合、RedStateとDailyMail.comの両方が投稿した画像に透かしを入れていたため、オリジナル投稿者の特定はかなり容易だった。DailyMail.comの記事の冒頭には、「衝撃的な写真」が「DailyMail.comが独占的に入手した」と、実に誇らしげに書かれている。

DailyMail.comは10月24日の記事を掲載した直後、ヒル氏のヌード写真を前面に押し出した独自のコラージュ画像とともにツイートした。翌日、DailyWireの記者は、Twitterが当該リンクが「潜在的に有害であるか、Twitterの利用規約違反に関連する」とユーザーに警告したと報じ、一部のTwitterユーザーは、写真の投稿によりアカウントがロックされたと主張している。

数週間後、保護されたアカウントでリンクを共有しようとしたところ、全く投稿できませんでした。代わりにTwitterから「ユーザーをスパムや悪意のある行為から保護するため、現在この操作を完了できません」というメッセージがポップアップ表示されました。しかし、積極的な対策はそれだけだったようです。DailyMail.comはツイートにURL短縮サービスを使用していましたが、私はそのURLを問題なく投稿できました。

Twitterはコメントを拒否し、代わりに同社の非合意ヌードに関するポリシーを指摘しました。DailyMail.comの元のツイート（ヌード写真、短縮リンクなどすべて）は、1,500件のリツイートと2,300件のいいねを獲得し、今もオンライン上に残っています。

これらの写真はインターネット上にも消えることなく残るでしょう。RedStateとDailyMail.comによって公開されると、人々はそれらの画像を転載したり、ミームにしたり、YouTube番組の背景に使ったりして、ネットワークやプラットフォーム、フォーラムに拡散していきました。（後者の例についてYouTubeに連絡したところ、嫌がらせやいじめに関するサイトのポリシーに違反しているとして、動画は削除されました。）

これは、この種のプライバシー侵害が被害者に強いる、数多くの残酷な余波のうちの 1 つです。

「企業に適切な対応を促し、そうしたコンテンツを削除するためのポリシーを整備し、リソースを投入することは可能です」とメアリー・アン・フランクスは言います。「しかし、特にわいせつなコンテンツが拡散する性質について分かっているのは、削除してから3日、4日、5日経っても手遅れだということです。ですから、特定のプラットフォームからは削除できても、インターネットから削除されることはないのです。」

AIを使って反撃する

ケイティ・ヒル氏が辞任を発表した2日後、Facebookは「Facebookを女性にとってより安全で、より歓迎される場所に」と題した投稿を公開した。署名のないこの投稿は、同社が「最先端技術」を用いて合意のないポルノを検出し、投稿自体をブロックしていることを強調した。

Facebookは、2017年に調査で「Marines United」という非公開グループに所属する数千人の現役および元軍人が、女性の写真を本人の承諾なしに共有していたことが明らかになって以来、合意のないポルノに対抗するため、より積極的な戦略を展開してきた。Facebookはすぐにこのグループを閉鎖したが、新しいグループが次々と現れ、それに取って代わった。おそらくこの傾向を察知したのか、数週間後、Facebookは、報告・削除された画像の再アップロードを防ぐため、写真照合技術を導入すると発表した。同様の技術は、画像のデータから固有の署名（ハッシュ）を生成し、それをフラグ付けされた素材のデータベースと比較することで、児童ポルノやテロリストのコンテンツをブロックするために使用されている。

その年の後半、Facebookは、誰でも安全に自分のヌード写真をFacebookに共有でき、事前にハッシュ化して自動的にブロックできるプログラムを試験的に導入した。当時、この提案には懐疑的な見方もあったが、同社は被害者から肯定的なフィードバックを得たと述べ、3月にプログラムの拡大を発表した。同日、Facebookは機械学習と人工知能を導入し、許可なく共有されているほぼ裸の画像が積極的に検出すると発表した。これは、写真が漏洩したことに気づいていない、または報告できない人々を保護するのに役立ちます。（Facebookの非合意ポルノに対するポリシーは、写真が公開される外部リンクにも適用されますが、広報担当者は、そのような事例は通常、最初に報告され、確認される必要があると述べています。）NBCニュースが月曜日に発表した記事によると、同社は現在、この問題に専念する約25名のチームを編成しています。

「彼らはこの分野で多くの革新的な取り組みを行ってきました」とメアリー・アン・フランクスは言う。彼女が運営する、合意のないポルノ被害者を支援する団体「サイバー・シビル・ライツ・イニシアチブ」は、FacebookやTwitterを含む多くのテクノロジー企業と協力し、ポリシー策定に取り組んできた。

Facebookは、違反行為に該当する投稿を手動で特定し、削除することもあります。この手法は通常、テロ関連コンテンツにのみ適用されますが、Facebookの広報担当者は、ヒル氏の写真が公開された後、FacebookとInstagramの両方で画像をハッシュタグで削除したと述べています。

ハッシュ化と機械学習は効果的なゲートキーパーとなり得ますが、万能ではありません。Facebookは既に1年以上前から、ポルノや成人向けヌードといった違反コンテンツに対し、AIによる自動フラグ付けと削除を実施しています。水曜日に発表された最新の透明性レポートでは、過去2四半期において、ユーザーからの報告を受ける前に、このカテゴリーのコンテンツの98%以上にフラグ付けを行ったと発表しました。Facebookによると、第3四半期には3,030万件のコンテンツに対して対策を講じており、そのうち約3,000万件が自動的に削除されたことになります。

それでも、Facebookの規模を考えると、約50万件もの事例がアルゴリズムによって検出されずに報告されていることになります（そして、これらの報告では、自動的にフラグ付けされなかったり、ユーザーから報告されなかったりするコンテンツの量を把握することはできません）。繰り返しますが、これは合意に基づくポルノとヌードに関するものです。FacebookのAIが、合意のないポルノに関して、より積極的に対応しているかどうかは断言できません。NBCニュースによると、同社は毎月約50万件の報告を受けています。Facebookは、特定の違反に関する削除件数や削除率に関するデータを公開していません。

写真を分析する機械学習分類器は、検出するように訓練されたパターンとのわずかな違いによって誤認識される可能性があります。背景を変更したりフィルターを追加したりするなど、写真に十分な加工を施すと、ハッシュ化技術でさえも回避される可能性があります。ケイティ・ヒルのケースでは、たとえ元の写真がオンライン公開直後にFacebookによってハッシュ化されていたとしても、DailyMail.comのように画像を切り抜いて他の写真とコラージュするだけで検出を逃れられる可能性があります。

しかし、RedStateとDailyMail.comの写真と酷似した、あるいは全く同じコピーでさえ、Facebookのページやグループにアップロードされ、数週間経った今でもそのまま残っていた。CrowdTangleでヒル氏の名前を検索し、投稿の種類でフィルタリングするだけで、10件以上の例を見つけることができた。写真の中には、ミーム風に加工されていたり、左右に黒いバーが追加されていたり、RedStateとDailyMail.comの透かしが削除されていたりするものもあった。

露骨な写真のほぼ全ては、数百人から15万5000人以上のメンバーを抱える、トランプ支持派や右翼系のページやグループによって投稿された。つまり、これらの写真やミームを最もよく見る人々は、同時に、それらを報告する可能性が最も低い人々でもある可能性がある。まさにFacebookの機械学習とAI技術が解決するはずのシナリオである。しかし今回は、少なくとも完全には解決されなかった。

意図の問題

Facebookは被害者支援のための専用ポータルで、合意のないポルノに対して「一切容認しない」姿勢を貫いていると述べている。ポリシーページには、「人物の許可なく共有された、あるいは性暴力の場面を描写した、性的な画像や動画を削除します」と記載されている。「ほとんどの場合、Facebook、Instagram、Messengerで当該コンテンツを共有した、あるいは共有すると脅迫したアカウントも停止します」

しかし、FacebookはDailyMail.comが自社のプラットフォーム上で写真を公開したことに対して何らかの措置を取る予定はない。

「当社は、ポリシーに違反するコンテンツが共有された場合、一切容認しない方針をとっています。共有の意図に関わらず、すべてのコンテンツを削除します。しかし、文言にも示されているように、コンテンツを共有しているアカウントやページを必ずしも削除するわけではありません。画像の共有の意図を理解することは、この判断を行う上で重要です」と広報担当者はメールで述べています。

Facebook社は、今回の件におけるDailyMail.com社の動機について同社がどう理解しているかについては詳しく述べなかった。

しかし、Facebookがメディアを取り締まることに躊躇している可能性もある。特に、これほど政治的な注目を集めているニュースに関してはなおさらだ。共和党議員は、同社が保守派を検閲していると頻繁に非難している。その主張を裏付ける証拠はほとんどないにもかかわらず、Facebookは2016年にトレンドトピックチームを廃止し、昨年には反保守的な偏向に関する報告書を委託するなど、彼らをなだめるために多大な努力を払ってきた。（Twitterも、リベラル寄りとされる偏向について同様の苦情に直面している。）

Facebookは過去にも、ポリシーの適用が強引すぎると批判されてきた。例えば、数年前、ニック・ウットのピューリッツァー賞受賞写真「ナ​​パーム弾の少女」がヌードであるとしてモデレーターから批判を受けたことがある。その後の世界的な厳しい批判を受け、同社はプラットフォーム上に「たとえ当社の基準に違反する可能性があるとしても、人々がニュース価値、重要性、あるいは公共の利益にとって重要だと考えるより多くのコンテンツ」のためのスペースを正式に確保するに至った。

RedStateとDailyMail.comは、議員の行為を暴露することで公共の利益を追求すると主張するだろう。実際、RedStateの10月18日の記事は、まさにそのような正当化で始まっている。これには法的根拠もある。現在、46州とコロンビア特別区には非合意ポルノに関する法律があり、その多くは犯罪成立に一定の意図を必要としている。フランクス氏のような活動家たちは長年にわたり連邦法の制定を求めてロビー活動を行ってきたが、今のところ成立には至っていない。

ヒル氏は先月、下院議員辞職を発表した際、「あらゆる法的選択肢」を追求すると表明した。彼女は、合意のないポルノ被害者の弁護を専門とするCAゴールドバーグ法律事務所に依頼している。

ヒル氏の出身州であるカリフォルニア州とワシントンD.C.の法律はどちらも、公益を目的とした情報開示については例外を設けています。公人の場合、悪意を証明することがしばしば必要となります。「深刻な精神的損害を与える意図がなければなりません」とミシガン州立大学の法学教授、アダム・キャンデューブ氏は言います。「少なくとも従来、精神的損害の意図的な加害を証明するのは困難でした。実際に損害を与えたことを証明し、長期間にわたる継続的な努力を示さなければなりません。」

これらの条項は、しばしば憲法修正第一条への懸念から盛り込まれています。例えば、アリゾナ州が初めてリベンジポルノ法を制定しようとした際、連邦判事は憲法上の理由でこれを阻止しました。改正法では、意図に関する条項が追加されました。

FacebookとTwitterも言論の自由と憲法修正第1条を常に主張しているが、最終的には自分たちのルールを好きなように作ることができる。「彼らはプラットフォームの道徳的雰囲気を設定する権利を主張している」とカンデューブ氏は言う。政治家の私生活において、メディアが触れてはいけないことは多くなく、性的なことでさえそうである。しかし、米国では、露骨な写真の公開はそうした例外の一つだった。スマートフォンが普及し、多くの人にとってセクスティングが日常茶飯事となっている時代において、こうした規範が崩れる機会はかつてないほど増えている。写真の公開が公共の利益にかなうのか、それともわいせつな目的のためなのかという問題は、メディアだけでなくテクノロジー企業にも突きつけられるだろう。

「これは本当に根深い社会問題です」とカンデューブ氏は言う。「明確な法的答えはありません。政治や性的羞恥に対する社会の考え方の変化、そしてどこで線引きをしたいかという問題に関わってくると思います。裁判所には明確な答えがありません。」

ソーシャルメディアプラットフォームの運営は、ある意味、人類が生み出す最悪のものに追いつくための絶え間ない競争と言えるでしょう。Facebook、Twitter、YouTubeのユーザー数は、モデレーターの数をはるかに上回っています。合意のないポルノをすべてフラグ付けして削除できる技術はまだ存在しません。どんなに善意を持って、最高のリソースを投入しても、完璧な解決策はないでしょう。（リベンジポルノに限った話ではありません。先週、ニューヨーク・タイムズ紙は、 FacebookとYouTubeがトランプ大統領弾劾における内部告発者とされる人物に関するユーザーの投稿を阻止しようと躍起になっていると報じました。一方、Twitterは氏名を掲載することは問題ないと考えています。）

しかし、プラットフォームが女性の同意なしに投稿された写真に対して一切容認しないと宣言しているのであれば、今年おそらく最も注目を集めたであろうこの種の事例において、誰かが元の投稿者のFacebookページやTwitterアカウントをチェックし、それらの写真を何百万人ものフォロワーに共有したかどうかを確認するのは、それほど無理な要求ではないように思える。彼らは、独自のツールを使って、それらの写真を自動的に共有する記事がどのように拡散したかを確認し、もしそれが実際にルールに違反しているなら、問題のある投稿を削除するだろう。そして、自分たちの行動が本当に他の投稿者に同じことを繰り返させないかどうかを検討するかもしれない。

WIREDのその他の素晴らしい記事

• 天才プログラマーの奇妙な人生と謎の死
• Facebookは憲法修正第1条を逆説的に解釈している
• アスペルガー症候群の永続的な力は、たとえ診断されていなくても
• 個人データを販売するサイトからオプトアウトする方法
• GoogleによるFitbit買収がウェアラブルの未来に及ぼす影響
• 👁 より安全にデータを保護する方法。さらに、AIに関する最新ニュースもチェックしてください。
• 🏃🏽‍♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください。