Facebookがアレックス・ジョーンズら過激派をブロック―しかし計画通りではない

木曜日の午後2時頃（東部時間）、複数の報道機関が同時に、特に有害な過激派6名と陰謀論団体1団体がFacebookとInstagramから追放されたというニュースを「速報」しました。しかし、実際には追放されていませんでした。

CNN、The Verge、The Atlantic、The Washington Postなどの報道は、ローラ・ルーマー、ミロ・ヤノプルス、そしてインフォウォーズのアレックス・ジョーンズとポール・ジョセフ・ワトソンといった扇動的な極右ネット指導者のアカウントをFacebookとInstagramの両方のプラットフォームから削除したことを称賛した。しかし、この4人は、禁止が発表されてから1時間近く経っても、Instagramアカウントを操作できていた。また、ジョーンズのFacebookページ「Infowars Is Back」は、禁止が発表されてから2時間近く経ってもオンラインでライブストリーミング配信を続けていた。

画像には人間、スクリーンディスプレイ、電子機器、モニターが含まれている可能性があります

ルーマー氏とヤノポロス氏は事前通知を利用し、InstagramにFacebookから追放されたことを伝える写真を投稿した。投稿には、ファンに他の場所でフォローするよう指示するキャプションが添えられていた。これらのページは最終的に削除されたが、時間差とメディアの奇妙な展開により、Facebookによる著名な過激派への最も包括的な取り締まりとなるはずだったこの措置は、同社のコンテンツモデレーションにおける苦戦を示す新たな例となってしまった。

木曜日にFacebookやInstagramの利用を禁止された過激派は、いずれも初めてではない。いずれもこれらのプラットフォームを広く利用して、偽情報を拡散し、緊張を煽ってきた。ジョーンズ氏とその仲間たちは、インフォウォーズのコンテンツを共有する、一見非公式なページのネットワークを通じて、以前の利用禁止措置を回避していた。Facebookは木曜日にこの抜け穴を塞ぐと発表したが、そのためには同社によるより一層の努力が必要となり、成功する可能性は低いだろう。

Facebookは、ジョーンズ氏、ヤノプルス氏、ルーマー氏、ジョセフ・ワトソン氏、そしてインフォウォーズ氏に加え、白人至上主義者のポール・ネーレン氏と過激イスラム教説教師のルイス・ファラカーン氏も、危険な個人や組織を禁止するポリシーに基づき、FacebookとInstagramの両方から追放したと発表した。同社によると、彼らの個人アカウントと職業アカウント、そして彼ら自身や彼らの組織を代表しているように見えるアカウントは、どちらのプラットフォームでも利用できなくなったという。

Facebookの広報担当者はWIREDへの声明で、「当社はイデオロギーに関わらず、暴力や憎悪を助長または実行する個人や組織を常に排除してきた」と述べた。しかし、木曜日に排除された個人や組織は、1年前も同様に過激で、同様に多くの誤情報を流布していた。では、なぜ今なのか？

Facebookは「潜在的な違反者を評価するプロセスは広範囲にわたっており、それが本日これらのアカウントを削除する決定に至った理由です」と述べている。

2018年8月、YouTubeとAppleはInfowarsを禁止した。Facebookもその後すぐに追随し、陰謀論者ジョーンズのプラットフォーム排除を求める批判の高まりを受け、ジョーンズ氏と彼の組織のアカウントを削除した。Facebookは、今回の禁止措置は他のテクノロジー企業の行動とは無関係であると主張した。ジョーンズ氏とInfowarsは、公式アカウントの削除から数日以内に出現した、Infowarsのコンテンツを再共有することに特化した一見非公式のページやプロフィールのネットワークのおかげで、事実上禁止を逃れることができた。

Facebookは木曜日にInfowarsへのアカウント停止措置を導入し、この抜け穴を塞いだ。この措置は、通常はテロ組織や自称ヘイトグループ向けに用意されているInfowars対策ツールを導入することで実現する。Facebookによると、ユーザーは、コンテンツを明確に非難しない限り、Infowarsの動画、ラジオクリップ、記事、その他のコンテンツをサイトから共有することを禁止される。また、Infowarsのコンテンツを誠実に、あるいは感謝の気持ちを込めて再共有するファンページやグループも許可されない。

Facebookは、ユーザーがInfowarsのコンテンツを批判目的で共有できるようにすることで、事実上、自動ツールによる禁止措置の適用を制限しました。なぜなら、自動ツールは文脈や論調を正確に判断できないことが多いからです。Facebookは今後、投稿が十分に批判的かどうかを判断するために、人間のコンテンツモデレーターに頼らざるを得なくなります。

Facebookの広報担当者は、「ban」されたアカウントが禁止措置の公表後1時間以上もアクティブなままだったことについて尋ねられると、計画が狂ってしまった結果だと述べた。Facebookは当初、6人のユーザーとInfowarsをプラットフォームから追放し、報道でその事実を知る前にその旨を告知する予定だった。

しかし、実際にプラットフォームからすべてのアカウントを削除する作業はFacebookが予想していたよりもはるかに時間がかかり、場合によっては1時間以上の遅延が発生したと広報担当者は述べた。

WIREDのその他の素晴らしい記事