イスラム国のテロリストのプロパガンダがFacebookで拡散している

2019年8月10日、Facebookのある女性が、アカウントがハッキングされた姉のシャーロットからの友達リクエストを受け入れないよう連絡先に警告するステータスを投稿した。彼女はそのアカウントのスクリーンショットを共有したが、画面からは砂漠の迷彩服を着て両手でピストルを握っている金髪の少年の画像が見つめていた。画像にはアラビア語で「ルクメン・ベン・タチャフィン。彼は疲れない。彼は退屈させない」とキャプションが付けられていた。その後数か月間、アカウントは沈黙し、事件はソーシャルメディアのハッキングに関する単なる1つの話となった。しかし、2020年3月に状況が変わった。プロフィールに「ルクメン・ベン・タチャフィン。私はあなたの王座を揺るがし、あなたの夢を破壊する。審判の日まで決して疲れず、決して退屈しない」と書かれたFacebookアカウントが、プラットフォーム上でISIS関連のコンテンツをシェアし始めたのだ。87日間で90ものアカウントが登場し、すべて同じ特徴的な画像とプロフィールを持っていた。 「夢の破壊者」ルクメン。

これらのアカウントは、Facebook上のISIS支持者の小規模な部隊の一部で、14世紀イスラムで人気のあった騎馬戦闘法であるフオルシーヤにちなんで「Fuouaris Upload」ネットワークと自らを名乗っていた。私がFuouaris Uploadネットワークに初めて出会ったのは、サウジアラビアで流行しているハッシュタグに斬首の動画、襲撃の写真、何千ものテロリストのプロパガンダを含むクラウドベースのストレージドライブへのリンクを大量に投稿するISIS支持のTwitterアカウントが毎日散見されるのを追っていた時だった。ISISの指導者で最高イデオローグのアブ・バクル・アル・バグダディが殺害されてから10か月間、ボットのような動作を見せるこれらのTwitterアカウントは、ISISのコンテンツをプラットフォーム上でトレンドにしようと日々現れている。これらのTwitterアカウントは、1日以上生き残ると削除されることが多い。

4月7日の深夜過ぎ、これらのアカウントの1つが、ミロ・ウィリアムズと名乗るアカウントが主催するFacebookウォッチパーティーへのリンクをシェアしました。ウォッチパーティーは、Facebookユーザーが友人とリアルタイムで動画を視聴できる機能で、「戦争の残酷さ ― モスルの流血」と題されたISISの動画が紹介され、Facebook上に点在する複数のISISアカウントへのリンクが貼られていました。そのアカウントの1つが、ルクメン・ベン・タチャフィンでした。

このアカウントは、Facebook上でテロリスト関連のコンテンツを共有するために新たな戦術を用いるネットワークの中心人物であり、数万人が閲覧しました。Facebookは「テロ関連コンテンツの99%」は他のユーザーによってフラグ付けされる前に削除されると発表していますが、Fuouaris Uploadは、モデレーションを回避し、ソーシャルネットワークをテロリストのプロパガンダで汚染するために、単純ながらも効果的な手法を用いています。

2020年3月から5月にかけて、アカウントネットワークはFacebookのプラットフォームを使用して斬首ビデオやその他のISISビデオを拡散し、合計50のコンテンツを共有して34,000回以上の視聴回数を獲得しました。絶対値で見ると小さいように見えるかもしれませんが、ネットワークの持続性はFacebook側の失敗と言えます。特に、これらのアカウントを通じて配信されたほぼすべてのコンテンツが1か月以上も生き延びていたからです。また、記事公開時点でFuouaris Uploadの管理下にあったアカウントの70%が削除されていたものの、29のアカウントが現在もプラットフォーム上でアクティブです。中には、Facebook上の他のISIS支持アカウントによって何千回も視聴され、再投稿されているISISコンテンツを共有しているアカウントもあり、これはソーシャルネットワークの対テロ防衛における憂慮すべき欠陥を浮き彫りにしています。

4月から7月初旬にかけて、ルクメンは90ものFacebookアカウントを乗っ取り、ISIS関連のコンテンツを日々拡散させていた。ルクメンは乗っ取ったアカウントを、ジハード主義用語で「ガニマ（戦利品）」と呼び、即座にISISのプロパガンダを共有する拠点へと転換した。アカ​​ウントの背後にいる人物は、プラットフォーム上での活動がひたすら「次から次へとコンテンツを浴びせる」ことを目的としていたことを隠そうとはしなかった。そして、そのコンテンツがプラットフォーム上で生き残り、数百人の潜在的なリクルーターに届くと確信していた。アカウントの大半はアラビア語でコンテンツを拡散していたが、監視と追跡期間の過程で、アルバニア語、トルコ語、ソマリ語、エチオピア語、インドネシア語で活動するネットワークが並行して存在することが明らかになった。

ルクメンの文章スタイルは特異だった。アカウントのISIS支持の長文には、アラビア語の単語の中にランダムに句読点が挿入されていた。この奇妙な動きは、Facebook上のフウアリス・アップロード・アカウントのネットワーク全体に見られ、唯一の違いは、句読点のみを使用するアカウントと、ピリオドを使用するアカウントがあったことだった。初歩的ではあったが、この手法はFacebookのモデレーションとその欠点に対する確かな理解を示していた。ランダムな句読点は「クローキング」の試みだった。つまり、「イスラム国」や「殺害」といった疑わしいキーワードを投稿からスキャンする自動システムを混乱させ、これらの投稿を未完成の単語の羅列と解釈させようとするのだ。システムは、人間の脳がこれらの投稿を読む際に行うような飛躍的な解釈を行うことができなかった。

これは、ネットワークの背後にいる人物がISIS支持のメッセージを拡散するために用いた策略の一つに過ぎなかった。動画に関しては、Fuouaris Uploadネットワークは別のシステムを利用していた。それは、ISISコンテンツのブランドイメージを、削除を免れる程度に難読化するというものだ。4月29日に公開された、ISISのイエメン支部による52分間の動画（ライバルのテロ組織アルカイダやその他のイスラム主義組織に対する痛烈な批判文）は、Fuouaris UploadのFacebookネットワークを通じて共有されたが、自動検出と手動検出の両方を回避するためにマスクがかけられていた。

イエメンの動画は、コーランの朗読映像と2014年のイギリスのドキュメンタリー「An Insight into Isis（ISISへの洞察）」の抜粋を含む36秒間のイントロダクションで始まりました。この30秒間の空白は、検出を逃れるための策略でした。冒頭部分にISIS関連のコンテンツが含まれないため、モデレーター、あるいはモデレーションソフトウェアが動画を除外してくれることを期待したのです。36秒あたりで、ドキュメンタリー映画のイントロは、ブランディングを保ったままISISの公式動画に切り替わります。同様の手法で、Fuouaris Uploadネットワークのすべてのコンテンツがコンテンツを隠すために使用されました。

場合によっては、ネットワークアカウントが全く新しいコンテンツを作成することもありました。多くの場合、これらは音声スピーチをISISの動画モンタージュに加工したものでした。Fuouaris UploadネットワークアカウントのYoucef Ibrahimも、そのようなコンテンツを投稿したアカウントの一つです。4月28日、同アカウントは「不信心者を破門しない者のためのルール」と題された2時間半の音声メッセージをシェアしました。これは、サウジアラビアの聖職者でISIS戦闘員となったシェイク・アブ・マリク・アル・タミミ師が2015年にホムスで殺害された、2部構成のアラビア語音声シリーズです。このコンテンツは、一般的にISISに起因するとされる典型的な暴力的な動画とは異なりますが、テロリストのイデオローグの遺産を称えるという点で、プラットフォームのガイドラインに違反しています。

動画の長さにもかかわらず、この動画は比較的好評で、29回シェアされました。動画は、粗雑なグラフィックとタイトルカードの背景に「シャイフ・アル・ムハジド・アブ・マリク・アル・タミーミ、神のご加護がありますように」という文字が画面に映し出されるところから始まりました。その後、アル・タミーミのスクリーンショット画像が動画の全編を通して表示されました。

フウアリ・アップロードの別のアカウントであるフード・ヌーフも同様のISISの音声コンテンツをシェアしたが、イデオローグによる教訓ではなく、2016年に爆撃によって放送が遮断されたISISのアル・バヤン・ラジオ局の1時間番組だった。フード・ヌーフがシェアした動画は、オレンジ色の画面から始まり、レトロな風車のグラフィックにフェードアウトし、ISISアル・バヤンのロゴが静止したまま画面に表示された。手動または自動検出による削除を回避したこの動画は、明らかにISISコンテンツとしてブランディングされ、ラジオ局の有名なロゴを使用している点で注目に値する。動画には、英語とアラビア語で「イスラム国による放送」と書かれた画面上のテキストも含まれている。

Fuouaris Uploadネットワークは、Facebookのコンテンツモデレーションとの対立から得た教訓を共有していることを誇りにしています。おそらく最も重要な教訓は、補助アカウントの乗っ取りと買いだめです。アカウントのハッキングは、プラットフォームに違反するコンテンツを共有していることでこれまでフラグが立てられていないため、ISIS支持者にとって相対的に有利です。

Fuouaris Uploadは、FacebookやWhatsAppのアカウントを乗っ取るために、Textnowと2ndLineを利用しています。これらは、ユーザーが米国とカナダの仮想電話番号を取得できるモバイルアプリケーションです。米国の電話番号はリサイクルされることがあります。つまり、前のユーザーが切断したり、番号が長時間使用されていないと、すぐに別のユーザーに再割り当てされるのです。Fuouaris Uploadネットワークの手口は、Textnowと2ndLineに複数の仮想電話番号を作成し、そのいくつかが既存のFacebookアカウントのパスワード回復オプションとして関連付けられることを期待することです。なぜなら、番号の前の所有者は、電話番号を変更した後に設定を変更し忘れている可能性があるからです。Fuouaris Uploadの攻撃は、この忘れっぽさを狙っていました。

Luqmenは、Textnowと2ndLineを使ってFacebookアカウントを乗っ取る方法を説明した2本のチュートリアル動画を作成しました。Textnowと2ndLineから新たに取得した米国またはカナダの仮想電話番号を使ってFacebookにログインを試み、パスワードを忘れたことを報告します。すると、システムから仮想番号にコードが送信され、Luqmenはパスワードをリセットしてアカウントを盗みます。同様のチュートリアル動画は、Fuouaris Uploadの別のFacebookアカウント「Ömer Can」によっても作成され、Facebookで共有されました。

4月5日に開設されてから約1か月で835人のフォロワーを獲得した「デジタルカリフ制のテクニック」というFacebookページは、Facebookアカウントのハッキングや乗っ取りに関する簡単な動画チュートリアルのライブラリとして機能していた。このページにアップロードされた2本の動画は、「FacebookとTelegramの電話番号を取得するテクニック」と「WhatsApp（Numero）用のアメリカの電話番号を取得する方法」というタイトルで、Numeroという別の仮想電話アプリを使ってアカウントをハッキングする方法を解説していた。どちらの動画も6週間で1,800回以上視聴された。Textnow、2ndLine、Numeroにコメントを求めたが、記事公開時点では回答はなかった。

しかし、乗っ取られたアカウントにも寿命はある。Fuouaris Uploadネットワークと、Facebook上のその友達やフォロワーも、削除の対象から逃れられない。4月7日から7月3日の間に、Fuouaris Uploadは管理していた90アカウントのうち61アカウントを失った。しかし、29アカウントは依然としてモデレーションを逃れ、Facebook上でISIS関連のコンテンツを拡散させている。

Facebookの広報担当者は、Fuouaris Uploadネットワーク全体を含む288のテロ支援アカウントのリストを提示され、既に250のアカウントを削除したと述べた。WIREDの問い合わせを受け、残りのアカウントは6月7日に削除された。「当社はプラットフォーム上でテロリストによるプロパガンダを一切容認しません。ポリシーに違反するコンテンツやアカウントは、特定次第削除します」と広報担当者は述べている。広報担当者は、動画コンテンツのモデレーション方法や、仮想電話番号アプリを通じたアカウントのハッキング対策の有無など、直接的な質問には回答しなかった。

ルクメン・ベン・タチャフィンは、87日間にわたるテロ活動の渦中で最終的に削除されたアカウントの一つだった。7月3日、全く同じ名前とプロフィール画像を持つアカウントが再び現れ、すぐに新たなプロパガンダの投稿を始めた。

ムスタファ・アヤド氏は、分極化と過激主義を研究するシンクタンク、戦略対話研究所の国際技術・コミュニケーション・教育担当副所長である。

この記事はWIRED UKで最初に公開されました。