ゲッティ
2015年のピーク時には、イスラム国はイラク西部とシリア東部の広大な地域を支配し、その人口は800万人にも達しました。しかし、その影響力は制圧した町々をはるかに超えていました。インターネット上では、ISISは罰を受けることなく布教活動を行い、驚くべき速さでソーシャルメディア上でプロパガンダを拡散していました。平均的な1週間で、そのメディア部門は動画から最近の戦闘に関する記事まで、約200ものコンテンツを次々と生み出していました。
今、ISISはオンライン上でかつての面影を失っています。これは、このテロ集団のオフラインでの衰退が一因ですが、世界有数のテクノロジー企業が自社のプラットフォームからISISを排除しようと一致団結して取り組んでいることも一因です。2016年上半期、Twitterはオンラインでテロを助長するアカウント23万5000件を停止しました。2017年11月末、Facebookは人工知能を用いてテロ関連の投稿を自動検出することに成功したと発表しました。テロ関連コンテンツがフラグ付けされると、Facebookは投稿から1時間以内に83%のコンテンツを削除しました。Facebookによると、削除するコンテンツの99%は、ユーザーからの報告ではなく、Facebook自身が最初に検出したものです。
しかし今週、Twitter、Facebook、Googleの代表者たちは、極右の憎悪や脅迫を排除する対策が不十分だと議員から非難され、内務特別委員会で窮地に陥った。「警察は、オンラインでの過激化やグルーミングを非常に懸念していると明確に述べています。皆さんのアルゴリズムと、人々を他の関連コンテンツに誘導する方法こそが、グルーミングと過激化を招いているというのが真実ではないでしょうか」と、委員会のイヴェット・クーパー委員長は述べた。
クーパー氏は、今年3月にソーシャルメディア企業が委員会に出席した際にTwitterに投稿された反ユダヤ主義的なツイートを読み上げた。当時、Twitterの英国公共政策担当ディレクター、ニック・ピクルズ氏は、このツイートはTwitterのルールに明確に違反しており、プラットフォームに掲載されるべきではないと同意した。このツイートは今もオンライン上に残っている。「削除してもらうには、私たちは何をすればいいのでしょうか？」とクーパー氏はTwitterの公共政策・コミュニケーション担当副社長、シネイド・マクスウィーニー氏に尋ねた。
マクスウィーニー氏は、Twitterのルールに違反するツイートは通常1日ほどで削除されると述べ、同社は現在、過去の10倍の数のアカウントに対して措置を講じていると付け加えた。Facebookの担当者は委員会に対し、現在7,500人の人員がコンテンツを審査していると述べた。昨日、Twitterは人種差別主義ヘイトグループ「ブリテン・ファースト」のリーダーであるジェイダ・フランセン氏とポール・ゴールディング氏のアカウント、および公式アカウントを停止した。YouTubeはブリテン・ファーストの動画に制限を設け、「YouTubeコミュニティによって一部の視聴者にとって不適切または不快であると判断されたコンテンツ」が含まれていることをユーザーに警告し、その他の動画からは広告を削除した。
こうした努力にもかかわらず、これらの企業はプラットフォームから憎悪や脅迫を排除するための十分な対策を講じていないことは明白です。暴力的・憎悪的なコンテンツを報告する責任は、あまりにも長い間、個々のユーザーに負わされてきました。そして、クーパー氏が言及したツイートからも明らかなように、こうした報告はしばしば無視されています。
これらの企業の代表者たちは、何度も、これほど大規模な憎悪を根絶するには技術的な課題がつきものだと語っています。しかし、自社のプラットフォーム上でISISと戦うことに成功したことは、彼らがその気になれば、憎悪と戦うためにもっと多くのことができるはずだということを示唆しています。一体何が問題なのでしょうか？
FacebookがTwitterに倣ってBritain Firstをサイトから排除しなかった理由を問われた同社の英国政策ディレクター、サイモン・ミルナー氏は、委員会に対し、Britain Firstは登録政党であるため「非常に慎重に」対応する必要があったと述べた。ミルナー氏の発言は誤りで、Britain Firstは今月初めに選挙管理委員会によって政党としての登録が抹消されている。しかし、ISISの動画を共有している組織であるBritain FirstをFacebookが取り締まる姿勢を見せていないことは、Facebookの責任に対する姿勢を如実に物語っている。
Facebookは、イスラム教への憎悪を煽るために意図的に偽のコンテンツを共有するページを削除しないことで、こうした不穏な過激主義を助長しているだけである。一方で、Facebookのアルゴリズムは、こうした見解に共感しそうな人々を積極的に探し出している。Facebookの広告サービスでは、極右政治に関心を示している人々に直接投稿をターゲティングすることができる。Facebookで「Britain First」に「いいね！」した200万人に広告を向けると、Facebookのアルゴリズムは、同様のトピックに関心を示している数千万人の人々を提案する。
Facebookは表面上はブリテン・ファーストが共有するようなコンテンツを嫌っているかもしれないが、クリックとシェアこそがFacebookの生命線であることをこのソーシャルメディア界の巨人はよく理解している。ブリテン・ファーストの投稿を見れば、まさに彼らが容易に配信するようなコンテンツを求めてFacebookにアクセスする人々からの何百ものコメントとシェアが見られるだろう。TwitterとYouTubeは過激派を彼らが渇望する視聴者から遮断する試みを試みているが、Facebookは今のところ同じことを拒否している。
この記事はWIRED UKで最初に公開されました。
