メタはずっと中絶に関するコンテンツを制限していた

5月3日、ロー対ウェイド判決を覆す米国最高裁判所の判決草案が流出した直後、ブルー・グラノ氏は奇妙な点に気づいた。インスタグラムアカウント「Fund Abortion Not Police」を運営するグラノ氏は、郵送で中絶薬を入手する方法を含む中絶サービスに関するガイドや、Aid AccessやPlanCといった団体のウェブサイトアドレスを記載した画像を投稿していた。この投稿は、インスタグラムのコミュニティガイドライン「違法または規制対象商品の販売」に違反しているため削除された。

「アカウントが停止されるんじゃないかと、すごくストレスを感じました」とグラノさんは言う。「中絶に関するものだと思い始め、『ピル』という言葉を使うのをやめ、『郵送による中絶』とだけ言うようになりました」

ロー判決を覆す最高裁判決が下されて以来、大手テクノロジー企業は、自社従業員への支援を約束する以外、判決への対応についてほとんど口を閉ざしている。しかし6月27日、NBCはMetaが「中絶」という用語と「ミフェプリストン」という薬物（中絶を誘発するために一般的に使用される2種類の薬剤のうちの1つ）の検索結果の一部を制限していると報じた。Motherboardの調査によると、グラノ氏と同様の投稿は、Metaのプラットフォーム上で違法薬物や規制薬物の販売を制限するポリシーに違反したとして削除された。

これらの報道を受けて、Metaがロー判決の覆後にポリシーを変更し、中絶関連コンテンツを厳しく取り締まったのではないかという憶測が飛び交い、その憶測自体も一部で飛び交った。しかし、Metaは判決後のポリシー変更を否定しており、中絶賛成派の活動家たちは、検閲は何年も前から続いていたと主張している。WIREDの取材に応じた活動家たちは、同社のAIモデレーションシステムが、中絶関連コンテンツ、特に中絶薬に関するコンテンツに「センシティブ」タグを付け、表示回数を減らしたり、完全に削除したりするのを目撃したと述べている。

中絶へのアクセスを支援する非営利団体Reproactionのデジタルアウトリーチおよび反対派調査ディレクター、ジェシカ・エンスリー氏はWIREDに対し、ロー判決の覆り以降に削除されたコンテンツの例は、Metaのプラットフォーム上で中絶関連のコンテンツが検閲されるという長期的な傾向の最も新しく、そして目立つ例にすぎないと語った。

「ソーシャルメディアプラットフォーム、特にMetaが中絶に関するコンテンツを抑制しているのを、かなり前から見てきました」とエンスリー氏は語る。彼女は、2021年9月にReproactionのInstagramアカウントに投稿された、薬物を用いた自己管理中絶に関する世界保健機関（WHO）のプロトコルについて議論した投稿を思い出した。1か月後の10月、エンスリー氏はそのコンテンツが削除され、ReproactionのInstagramアカウントにフラグが立てられていることに気づいた。「収益化したい場合、これは私たちにとって不利な点になるだろうと警告されていました」と彼女は語る。

最高裁判決以降、Metaのプラットフォームから削除されている中絶関連のコンテンツは「以前と変わらない」と、中絶に関する支援と情報を求めるアメリカ人女性のための大規模な非公開Facebookグループのボランティア・コンテンツモデレーターは語る。このモデレーターは4年間グループに参加し、2年以上モデレーターを務めているが、プライバシー保護のため匿名を希望している。「今は、こうした投稿をする人が以前よりはるかに増えているだけです」

彼女は最近の削除を「全く前例のない」と呼び、Facebookは長年にわたり彼女のグループから中絶薬関連の投稿やリンクを削除してきたと述べた。グループがFacebookによって閉鎖されたり、フラグが付けられたりしないように、モデレーターはメンバーによるリンクの投稿禁止など、厳格なルールを施行し、グループがFacebookの標的にならないようにしていると述べている。

「何がおかしいって、境界線がどこにあるのか分からないんです」と彼女は言う。「投稿はすべてモデレーターに確認してもらわないといけないんです。薬を要求したり、要求したり、送ったりする投稿は絶対にしてほしくないんです。そんなことをしたらグループ全体が削除されてしまうから」

同モデレーターは、自身が中絶に関するサブレディットのモデレーターも務めるRedditでは、プラットフォーム上で薬を売買しないという同様の規則があるものの、薬を議論するコンテンツやリンクはプラットフォームによって削除されず、グループを危険にさらすことはないと述べている。

WIREDの取材に応じた活動家や団体によると、他のプラットフォームも中絶関連のコンテンツを検閲していることが知られているという。エンスリー氏によると、Twitterは今年、Reproactionの中絶薬に関するツイートを1つ削除したという。TikTokは一部ユーザーから中絶に関する動画を削除したと非難されているが、広報担当のジェイミー・ファヴァッツァ氏は、TikTokのポリシーでは中絶や中絶へのアクセスに関するコンテンツを禁止しておらず、医学的な誤情報やコミュニティガイドライン違反のみを禁止していると述べた。

Metaのプラットフォームの規模は、中絶に関するコンテンツのモデレーションを特に大きな影響力を持つものにしている。Power to Decideのデジタルプログラム・教育担当副社長、ジェニファー・ジョンセン氏はWIREDに対し、同社の中絶ツール「Abortion Finder」のInstagramページが、ほぼ2年間問題なく運用されていたにもかかわらず、6月26日に突然削除されたと語った。

「AIボットがフラグを立てたと聞きました」とジョンセン氏は語る。その後、ページは復元されたが、ジョンセン氏は、これほど広範囲にわたるコンテンツが削除されたことで、信頼できる情報を探している女性たちに悪影響が出るのではないかと懸念している。「ソーシャルメディアは、中絶ケアコミュニティが中絶希望者と話し合い、情報を発信する上で重要な手段なのです」

ジョンセン氏の経験は、中絶賛成派の活動家コミュニティではよくあることだ。WIREDの取材に応じたほとんどの人は、自分のコンテンツが他のユーザーからの報告ではなく、AIによって自動的に削除されたようだと述べている。

活動家らはまた、コンテンツが完全に削除されない場合でも、その影響範囲がプラットフォームのAIによって制限される可能性があると懸念している。

MetaのAIモデレーションが自分のコンテンツにどのように適用されているかをユーザーが見分けることはほぼ不可能ですが、同社は昨年、ユーザーのニュースフィードにおける政治コンテンツとニュースコンテンツの軽視を発表しました。Metaは、中絶関連コンテンツが政治コンテンツに分類されるかどうかについての質問には回答しませんでした。

WIREDの取材に応じた様々な中絶活動家がMetaのプラットフォーム上で様々なレベルのモデレーションを経験したように、世界各地のユーザーも同様に様々な経験をした。WIREDは、英国、米国、シンガポール、フィリピンのFacebookとInstagramのアカウントから、「中絶薬は郵送で入手可能です」という同じフレーズを、英語、スペイン語、タガログ語で投稿する実験を行った。Instagramは、先週の判決を受けて一部の州で中絶が新たに制限された米国と、中絶が違法であるフィリピンから投稿された英語の投稿を削除した。しかし、米国から投稿されたスペイン語の投稿と、フィリピンから投稿されたタガログ語の投稿は、どちらもそのまま残った。

このフレーズは、英国から英語で投稿された際、FacebookとInstagramの両方に表示されたままでした。中絶が合法で、広く認められているシンガポールから英語で投稿された際は、Instagramには表示されたままでしたが、Facebookではフラグが付けられました。

エンスリー氏はWIREDに対し、スペイン語とポーランド語での中絶アクセスに関するReproactionのインスタグラム・キャンペーンはどちらも非常に成功し、同団体の英語版コンテンツが直面したような問題は何も発生しなかったと語った。

「特にMetaは、英語では非常に敏感で、他の言語ではそれほど敏感ではない自動化システムに大きく依存しています」と、電子フロンティア財団の政策および擁護担当副ディレクター、キャサリン・トレンダコスタ氏は言う。

WIREDは、19州で娯楽目的、37州で医療目的の使用が合法となっているスケジュール1の薬物を用いてMetaのモデレーション機能をテストし、米国からFacebookで「マリファナは郵送で入手可能」というフレーズを英語で共有した。この投稿はフラグ付けされなかった。

「AIと機械学習を用いたコンテンツモデレーションは、導入に長い時間がかかり、維持にも多大な労力がかかります」と、Metaのコンテンツモデレーションの実務に詳しい元従業員は匿名を条件に語った。「状況の変化に応じてモデルを変更する必要がありますが、それには時間と労力がかかります。そのため、世界が急速に変化している時期には、これらのアルゴリズムは最適な状態で機能しないことが多く、変化の激しい時期には適用精度が低下する可能性があります。」

しかし、トレンダコスタ氏は、法執行機関がコンテンツを削除対象としてフラグを立てる可能性も懸念している。Metaの2020年の透明性レポートでは、同社は「米国において、各州の司法長官から報告された規制対象商品・サービスの宣伝・販売に関する12件のコンテンツ、および米国司法長官から価格つり上げ行為の疑いがあると報告された15件のコンテンツへのアクセスを制限した」と述べている。これらの投稿はすべて後に復活した。「各州の司法長官がFacebookに『このコンテンツを削除しろ』と指示するだけで、Facebookがそれを実行し、最終的にFacebookがそれを元に戻すというのは、非常に危険です」とトレンダコスタ氏は述べている。

Metaの広報担当者アンディ・ストーン氏はWIREDに対し、ロー対ウェイド判決の覆しを受けてモデレーションポリシーを変更しておらず、修正に取り組んでいると述べた。中絶関連コンテンツのモデレーションに関するマザーボードの記事に対し、ストーン氏はMetaは「医薬品の売買、交換、贈与、要請、寄付」を試みるコンテンツを許可していないが、処方薬の「手頃な価格と入手しやすさ」について議論する投稿は許可しているとツイートした。さらに「誤った施行例がいくつか見つかったため、修正中です」と付け加えた。6月28日、Instagramは複数の中絶関連投稿にセンシティブスクリーンが追加されたことを公式に認め、「バグ」であり、プラットフォームが修正中であると述べた。

Metaの広報担当者ダニ・リーヴァー氏は、中絶関連コンテンツに対応するモデレーターの増員や、複数の国で同じ基準を適用しているかどうかといったWIREDの質問には回答しなかった。リーヴァー氏は、Instagramの投稿がフラグ付けされ削除される問題はMetaがその後修正したことを認めた。

Metaによる中絶関連コンテンツの取り扱いをめぐる混乱を受け、一部の活動家は、社会が一企業のオンラインソーシャルプラットフォームに依存することの弊害について考えるようになった。「2007年に私が初めてFacebookを始めた頃、進歩派にとってFacebookは自分自身のコミュニティを作り、組織化するための場所でした」と、『ロー対アメリカ後の新しいハンドブック』の著者であり、ウエストアラバマ女性センターの運営ディレクターを務めるロビン・マーティ氏は語る。「そこは、私たち全員がオンラインで組織化するために集まる特別な場所でした。そして、私たちがこの活動を実現するために与えられ、10年以上も使ってきたまさにそのツールが、今、私たちから奪われようとしているのです。」