音声チャットアプリ「Zello」は長年ジハード主義者を無視してきた

2016年9月9日の早朝、オースティンに拠点を置くトランシーバーアプリ会社ZelloのCEO、ビル・ムーア氏が中東メディア研究所（MEMRI）に連絡を取った。彼は、ISISの構成員と支持者がZelloをどのように利用しているかを記したMEMRIが最近発表した報告書のコピーを求めていた。Zelloは、プライベートチャンネルとパブリックチャンネルの両方で音声メッセージを送信できるツールだ。ムーア氏はGoogleアラートでこの調査結果を知った。

WIREDが確認し、ムーア氏とMEMRIが確認した電子メールによると、メッセージには「ISISがZelloを使用していることを説明した報告書のコピーを共有してもらえますか？ 私はZelloのCEOです」と書かれていた。

数時間後、MEMRI副所長のエリオット・ツヴァイク氏がツヴァイク氏に報告書を送付した。MEMRIは実際のメッセージを収集していなかったものの、ISISの象徴的な黒旗の写真をアバターに使用したZelloユーザーのスクリーンショットや、「イスラム国チャンネル」といった名前の公開チャンネルが含まれていた。「ジハード」というシンプルな名前のチャンネルは、「ムジャヒディーンと共にあり、ジハードとイスラムについて語りたいと願う同胞のために」と自らを宣伝していた。チャンネルの中には、別の暗号化アプリ「テレグラム」でISIS支持者が宣伝していたものもあった。リストは網羅的ではなく、特に問題となる会話への言及もなかった。MEMRIが当時容易に発見したアカウントとチャンネルのスナップショットに過ぎなかった。

ツヴァイクは返答の中で、ムーア氏をMEMRI事務局長のスティーブン・スターリンスキー氏に紹介することを申し出た。しかし、何の返答もなかったため、ツヴァイクは再度申し出た。すると今度は、ムーア氏から「受け取りました。ありがとうございます。今のところ、こちら側で協議する必要はありません」という返事が返ってきた。

数週間後、ツヴァイク氏はもう一度試みた。「報告書で言及したISISやその他のジハード主義者のアカウントが、貴社のサービス上で依然として活動していることを確認いたしました。そこで、改めて事務局長との面談／面談の機会をご提供したいと思います」と彼は書いた。

ムーア氏はその後連絡を取らなかったが、先週、MEMRIが2016年にフラグを付けたチャンネルのほぼすべてがまだ稼働中であることを示す新たなレポートを発表した。

この18ヶ月で、Zelloのユーザーは飛躍的に増加しました。2011年にリリースされ、現在では世界中で1億2,400万人のユーザーを誇るこのアプリは、昨年秋、テキサス州とフロリダ州のハリケーン被災者が救助隊との連絡に利用した際に、一時的に米国App Storeでトップに躍り出ました。昨年9月には、わずか1週間で600万人の新規ユーザーを獲得しました。同社はまた、大手ホテルチェーンや小売店で利用されている有料のエンタープライズ製品「ZelloWork」の拡充にも取り組んでいます。

WhatsAppやTelegramなどの他のチャットアプリとは異なり、Zelloはほぼ完全に音声操作で動作します。ユーザーは特定のトピックに関する公開チャンネルに参加し、他のユーザーの発言を聞くことができます。これはいわば双方向ラジオのようなものです。また、個人またはグループと暗号化されたプライベートチャンネルを作成することもできます。Zelloは公開された音声メッセージの記録を保持しません。ただし、それらの音声メッセージは、それを聞いた他のユーザーの携帯電話に保存されます。

長年にわたり、Zelloは多くのテクノロジープラットフォームと同様に、テロ活動との関連が指摘されてきました。昨年4月、ストックホルムでトラックを群衆に突っ込ませ、5人を殺害、14人を負傷させた男は、襲撃前、襲撃中、そして襲撃後にZelloを使って計画を話し合っていたと報じられています。一方、ムーア氏によると、Zelloは法執行機関から召喚状を受け取っており、テロ容疑者のZello利用状況を監視するよう求められています。さらに、MEMRIの報告書も存在します。

こうした兆候にもかかわらず、オースティンに拠点を置くZelloは、テロリスト関連の公共チャンネルやアカウントの取り締まりに対して、概ね消極的な姿勢をとっているようだ。Facebook、YouTube、Twitterといった大手テクノロジー企業が、類似コンテンツのフィルタリング方法について長年にわたり議会の追及や世論の圧力に直面しているにもかかわらず、Zelloはこの種のモデレーションに限られたリソースしか投入していない。同社は問題の報告をユーザーに全面的に依存しており、必ずしも成果が保証されているわけではない。

暗号化メッセージアプリの中で、Telegramが特異な存在だとは言えない。Telegram上でのテロ活動の急増は、すでに十分に記録されている。しかし、MEMRIのスターリンスキー氏は、明確な証拠が提示されているにもかかわらず、Zelloが何の対策も講じていないことは懸念すべきことだと述べている。

「もし誰かがISISのアバターを投稿していたり​​、アカウント名が『イスラム国』だったりしたら、すぐに対処すべきだ」とスターリンスキー氏は言う。「言い訳の余地はない」

ムーア氏によると、Zelloの従業員25人のうち、アカウントやチャンネルのモデレーションを担当しているのは「数人」のパートタイムスタッフだけだという。これらの従業員は、他のユーザーからフラグが付けられたアカウントを閉鎖する。Zelloにはアラビア語を話せる者はいない。現在、同社は「ジハード」などの単語を、最も人気のあるチャンネルを表示する「トレンドチャンネル」セクションに表示しないようにフィルタリングしている。しかし、誰でもテロ関連の用語を検索すれば、結果に数十もの公開チャンネルが表示される。

「もっと焦点を絞る必要があることには同意します。もっとうまくやらなければなりません」とムーア氏は戦略の欠点について述べた。

ムーア氏は、2016年当時、MEMRIの見解を求めなかったのは、同組織をよく知らず、報告書がセンセーショナルに誇張されていると考えたためだと述べている。「当初の報告書を無視しました。それは間違いでした」とムーア氏は述べ、その後、MEMRIはアラビア語の問題のあるコンテンツの発見に協力を要請したと指摘した。

MEMRIは1998年に設立され、約10年にわたりサイバージハードを研究してきた。しかし、批判がないわけではない。アメリカ・イスラム関係評議会は、MEMRIをイスラム教に対して選択的に偏見を持ち、自らの見解を強化するためにアラビア語のコンテンツを誤訳していると非難している。しかし、WIREDは独自にZelloのアカウントとチャンネルを検索し、あからさまなテロリストの言語や画像を含むものを探したところ、MEMRIの報道とほぼ同様の結果が得られた。

ムーア氏によると、ゼロ社は最初の報告の後、MEMRIがフラグ付けしたチャンネルのうち2つを実際に閉鎖したという。その中には、ISISの支部名である「Vilayat Kavkaz」というチャンネルも含まれ、すでに10回フラグ付けされていた。しかし、ほぼ同じ名前でISISの画像を掲載した他のチャンネルが、その後、それらのチャンネルの代わりに出現した。ゼロ社はこれらのアカウントとチャンネルを法執行機関に報告していない。ただしムーア氏によると、同社は召喚状が出された場合、監視目的で特定の疑わしいチャンネルを開いたままにしておくよう要請するなど、法執行機関の要請には従うという。ムーア氏は、どの法執行機関がこれらの要請をしたのか、またどのチャンネルを監視しているのかについてコメントすることはできなかったが、通常は連邦捜査局（FBI）が国内テロ事件を扱っている。FBIはWIREDのコメント要請を断った。

しかしムーア氏は、Zelloに残っているテロ関連アカウントやチャンネルの全てが召喚状によって残っているわけではないことを認めている。「Jihad.」というチャンネルは木曜日の午後までアプリに残っていたが、ムーア氏によると、このチャンネルは4年前にユーザーからZelloに報告されており、MEMRIの報告書にも含まれていたという。Zelloで「jihad」や「Islamic State」を検索すると、今でも数十のチャンネルが検索結果に表示される。ムーア氏によると、これらのチャンネルの多くは「死んでおり」、つまり数ヶ月あるいは数年間メッセージが送信されていない状態だが、Zelloはチャンネルが最後に使用された日時の記録を保持していない。

「彼らは閉鎖されるべきだったが、そうしなかった。それが問題だ」とムーア氏は言う。

それでも、ムーア氏の視点から見ると、これらの休眠アカウントは国家安全保障上の脅威というよりも、広報上の問題だ。彼は、これらのアカウントは定期的に利用されておらず、チャンネルには過去に残されたボイスメッセージが保存されていないと指摘する。つまり、新規登録者はチャンネルの過去のコンテンツを聴くことができないのだ。「まるで森の中で木が倒れても、それを聞く人が誰もいないようなものです」とムーア氏は言う。

ムーア氏はまた、MEMRIの調査がチャンネル名とアカウント名に基づいており、チャンネル内で実際に行われている会話に基づいていないことにも異議を唱えている。「まるで動画リンクをクリックして『動画が削除されました』と表示されるのと同じです。そこには名前しか表示されません」とムーア氏は言う。「他にもアクティブなチャンネルがあり、明確な名前や説明がないまま犯罪行為が行われている可能性があります。これらは公開チャンネルではない可能性があり、Verizonの携帯電話の通話のように、法執行機関がZello以外の情報源を発見しない限り、誰も盗聴していないでしょう。」

しかし、ムーア氏の動画の例えは必ずしも適切ではない。削除された動画は孤立して存在する。しかし、スターリンスキー氏は、数百人の登録者を抱えるテロ関連のZelloチャンネルを存続させることで、休眠中のチャンネルでさえも再び活性化する余地を残していると主張する。MEMRIによる2016年の最初の報告書以降、テロ関連のチャンネルが新たに出現している。「私たちが指摘したものだけが唯一のチャンネルではありません」とスターリンスキー氏は言う。

ムーア氏は、例えばISIS旗のアバターが付いているアカウントや、チャンネルの説明でジハードを公然と宣伝しているアカウントをフィルタリングすることは理にかなっていると認めている。「使われているかどうかに関わらず、そうすべきです。なぜなら、かなり見栄えが悪いからです」と彼は述べた。今週、WIREDからの問い合わせを受け、ゼロはMEMRIが当初発見したチャンネルのうち8つを禁止した。

ジョージタウン大学法学部教授で、元米国司法長官補佐官のメアリー・マッコード氏にとって、ゼロ氏の言い分は不気味なほど聞き覚えがある。「2014年にTwitterなどのプラットフォームから似たようなことを聞​​きました」とマッコード氏は言う。当時、これらのプラットフォームも問題のあるコンテンツの報告をユーザーに依存していた。「『プラットフォーム上に公開されている投稿が利用規約に違反していないか監視する専任のスタッフがいない』という声が聞こえてきました」とマッコード氏は言う。

それ以来、テクノロジー大手の間で劇的な変化が起きた。匿名を条件に取材に応じた司法省の元テロ対策担当官によると、その主な理由はテロリストの戦術の変化だという。アルカイダはデジタル工作の痕跡を長く残す傾向があったのに対し、ISISはオンラインで過激化する新メンバーに攻撃を委任するのが一般的だった。そのため、情報機関とテクノロジー企業の両方がアプローチの転換を迫られた。「戦略はこうなった。『これは利用規約に違反している。やめろ』と」と、この関係者は説明する。「若者がこのグループに近づくのを可能な限り困難にするのだ」

Facebook、YouTube、Twitterなどの企業は現在、キーワードフィルタリング、画像認識、そして人間によるモデレーションを組み合わせることで、テロ関連コンテンツを撲滅しています。しかし、はるかに小規模な企業も、積極的に大規模なコンテンツモデレーションチームを導入しています。出会い系アプリのBumbleは最近、銃器などの写真をプラットフォームから削除するために、5,000人のモデレーターを配置すると発表しました。

テクノロジー大手は、「テロ対策のためのグローバル・インターネット・フォーラム」というグループも結成し、こうしたメッセージの拡散を防ぐための戦略を共有しています。このパートナーシップの一環として、既知のテロ関連コンテンツのデータベースを作成し、加盟企業は自社のプラットフォーム上でこれらのコンテンツを積極的に禁止することができます。このアプローチは完璧とは程遠いものですが、第一歩と言えるでしょう。このグループの目標の一つは、中小企業と協力し、ワークショップを開催して知見を共有することです。

ムーア氏によると、Zelloは現在このグループとの連携を検討しているという。同社はまた、パブリックチャンネルで発言する際にユーザーに電話番号の提供を求める新機能の導入も準備している。個人を特定できる情報の提供を強制することで、悪質な行為を抑止することが狙いだ。

Zelloは他のアプリよりも高いハードルに直面しています。ライブ音声ベースのアプリであるため、Facebookのように自動化によってユーザーの発言を監視することはできません。また、Zelloユーザーは、システムの不正使用を実際に報告するのではなく、プラットフォーム上の他のユーザーへの報復手段としてコンテンツを報告してしまうことがよくあります。そのため、個々の報告をどの程度真剣に受け止めるべきか判断するのが難しくなっています。ムーア氏はまた、プラットフォーム上で発生する可能性のある様々な違法行為の中から優先順位を付けなければならないと指摘しています。

一方、Zelloは暗号化されたプライベートチャンネルで何が行われているかを監視しません。スターリンスキー氏でさえ、世界中のあらゆる言語で行われている会話をすべて追跡するのはほぼ不可能だと認めています。

しかし、Zelloはこれまで、この簡単な部分さえもほとんど積極的に実行してきませんでした。テロリスト、白人至上主義者、ロシアの荒らしなど、テクノロジー企業がユーザーの不正行為に対する責任を問われ続けている今、行動を起こさない言い訳はほとんどないとマコード氏は言います。

「これが自分のやりたいビジネスだと決め、テロリストやテロリスト予備軍に悪用されていると知りながらプラットフォームを提供するなら、それは義務だ」とマッコード氏は言う。「『私たちは小さい会社だから帯域幅がない』という考え方を、会社を設立した時点で考えておくべきだった」

オンラインでテロと戦う

• Facebookのような巨大企業でさえ、自社のプラットフォーム上でテロリズムを取り締まるのに苦労している。
• しかし近年、アルゴリズム、人間によるモデレーション、キーワードフィルタリングの組み合わせが変化をもたらしている。
• しかし、それでも、悲劇が起きた後にはフェイクニュースやデマが蔓延するという問題は解決していない。