テレグラムの過激派チャンネル禁止は実際には禁止ではない

10月7日のハマスによるイスラエル攻撃を受けて、オンライン過激主義を懸念する人々は暗号化メッセージアプリTelegramに注目しました。ハマス系グループが、現在190万人のフォロワーを抱えるチャンネルに、同グループの攻撃の生々しい画像を投稿したのです。このコンテンツはその後、ソーシャルメディア上で広く共有されました。イスラエルとハマスとの戦争開始から数週間後、AppleとGoogleに対する世論の圧力を受け、Telegramはハマスが利用する主要チャンネル2つを「制限」しました。しかし、一部のユーザーにはそう思われたかもしれませんが、Telegramはこれらのチャンネルを禁止したわけではありません。

WIREDの調査によると、Telegramはハマスや右翼過激派グループのチャンネルを禁止または削除するのではなく、二大アプリストアのユーザーから隠しているものの、依然として存在していることが明らかになった。制限されたチャンネルのコンテンツの一部は、Telegramがそのようなコンテンツの共有を阻止する仕組みを備えているにもかかわらず、制限されていないチャンネルで広く共有されている。調査結果によると、Telegramは最も違反行為の多いコミュニティの一部を見つけにくくしている一方で、制限されたチャンネルのユーザーは依然としてメッセージを拡散できており、これらのチャンネルは過激化の場として機能し続けていると専門家は指摘している。

WIREDとテクノロジー政策シンクタンク、インテグリティ・インスティテュートの共同創設者ジェフ・アレンは、2ヶ月以上にわたり、100以上の制限されたチャンネルと数千件の投稿を分析しました。これらのチャンネルの大半には、右翼過激主義やその他の過激化したヘイトに関連するコンテンツが含まれています。WIREDの分析によると、これらのチャンネルのほとんどは、制限されてもアクティブなままでした。

「彼らがやっていることは、チャンネルを検索結果や発見可能性に表示させないようにすることですが、バックエンドに保持しているのです」と、テキサス州立大学デジタルメディア助教授のニコール・スチュワート氏は言う。

2013年にパベル・デュロフ氏によって設立されたTelegramは、長年過激派に人気のプラットフォームでした。チャンネルの登録者数には制限がなく（グループは20万人まで）、コンテンツモデレーションの徹底的なアプローチにより、Facebook、Instagram、X（旧Twitter）などのプラットフォームの利用規約に違反する可能性のあるグループやコンテンツにもアクセス可能です。

WIREDは、Telegramが10月下旬に制限したハマス系チャンネルを含む108の制限チャンネルと、2ヶ月以上にわたり制限されていない365のチャンネルを調査した。制限されていない公開チャンネルのうち54チャンネルには、制限チャンネルから転送されたコンテンツが含まれていた。これは、これらのチャンネルが重複してメンバー構成を共有していることを示唆している。制限されたチャンネルの中には、週に数件しかメッセージが投稿されないものもある一方、右翼チャンネル「rlwolf_9999」のように1,000件を超えるメッセージを持つものもある。

WIREDが監視していた数ヶ月間、チャンネルのほとんどは制限されていました。しかし、10月7日の攻撃後に制限されたハマスのチャンネルを調査したところ、コンテンツの視聴回数が約70%も大幅に減少したにもかかわらず、依然として活発に活動しており、ハマス軍系チャンネル「@qassambrigades」は1日に20件以上のコンテンツを共有し続けていることがわかりました。制限されたチャンネルの視聴回数はしばしば減少しましたが、WIREDは「@qassambrigades」のコンテンツが、50万人以上の登録者数を誇る人気ニュースチャンネル「@hpress」という制限のないチャンネルにコピー＆ペーストされていることを発見しました。

「制限された環境では、同じようなネットワーク共有のパターンが見られるようになるのは当然です」とスチュワートは言う。「彼らは自分のイデオロギー的信念を共有し、メッセージを広めるためにそうしているのです。」

Telegram上の過激派グループを研究している専門家はWIREDに対し、同プラットフォームは通常、政府、法執行機関、あるいはアプリの利用を制限する権限を持つGoogleやAppleなどの組織からの圧力に応じて、これらのグループのコンテンツをモデレートしていると語っている。

「経験から言えるのは、GoogleとAppleが『これを削除して』と言うと、Telegramが介入して削除を始めるということです」と、チューリッヒ大学でTelegramと欧州極右を研究している研究者、アレクサンドラ・ウルマン氏は主張する。ウルマン氏によると、これは「GoogleとAppleの力」を物語っているという。両社ともTelegramのモデレーション決定に影響力を行使できるからだ。

TelegramはGoogle PlayとApple App Storeからダウンロードできますが、GoogleとAppleはどちらもヘイトスピーチ、テロリズム、暴力的なコンテンツを助長するアプリを禁止しています。例えば、Googleの利用規約では、「民間人に対する暴力の計画、準備、または賛美に関連するコンテンツを含むアプリ」や「暴力を助長したり、個人に対する憎悪を煽ったりするアプリ」は許可されないとされています。これらの基準に違反するアプリはGoogle PlayまたはApp Storeから削除され、入手性が大幅に制限される可能性があります。両アプリストアでTelegramがダウンロード可能であることは、このアプリが両社の利用規約を遵守していることを示唆しています。

Appleはコメント要請に応じなかった。Googleの広報担当者ダニエル・コーエン氏はWIREDに対し、「ユーザー生成コンテンツ（UGC）を含む、またはUGCを特徴とするPlayアプリ（UGCプラットフォームにユーザーを誘導するための専用ブラウザやクライアントアプリを含む）は、強力かつ効果的で継続的なUGCモデレーションを実施する必要があります。これには、不快なUGCやユーザーを報告し、必要に応じてUGCやユーザーに対して措置を講じるためのアプリ内システムを提供することが含まれます」と語った。

TelegramはWIREDのコメント要請に応じなかった。

2021年、TelegramはAndroidに直接ダウンロードできるアプリのバージョンをリリースしました。同社はこのアプリを「制限が少ない」と謳っていました。アプリを直接ダウンロードすると、Google Playの利用規約の対象外となります。この「サイドロード」版のTelegramを使用しているユーザーは、通常のユーザーがアクセスできない制限付きチャンネルの閲覧や投稿を引き続き行うことができます。

Googleの広報担当者コーエン氏はWIREDに対し、「GoogleはAndroid上のアプリの配布を管理していません」と語り、Androidはオープンなオペレーティングシステムであるため、アプリは他のAndroidアプリストアからダウンロードすることも、アプリのウェブサイトを通じてユーザーに直接ダウンロードすることもできると指摘した。

Telegramの利用規約では、ユーザーは「公開されているTelegramチャンネルやボットなどで暴力を助長する行為」をしてはならないと規定されているが、これらの規則に違反したユーザーへのプラットフォームの対応については何も言及されていない。Telegramは、過去にイスラム国関連チャンネルに対して行ったように、チャンネルを制限または完全に禁止すべきかどうかをどのように判断するかについての質問には回答しなかった。

ドゥロフ氏は10月13日、自身の公開Telegramチャンネルへの投稿で、ハマスのチャンネルとコンテンツを削除するよう求める圧力について言及し、「TelegramのモデレーターとAIツールは毎日、明らかに有害なコンテンツを私たちの公開プラットフォームから何百万件も削除しています」と述べた。また、Telegramはアルゴリズムによってコンテンツを拡散するわけではないため、「Telegramチャンネルがプロパガンダを大幅に拡散するために使用される可能性は低い」とも主張した。

Telegramはアルゴリズム的にコンテンツを宣伝しているわけではないかもしれないが、憎悪的なイデオロギーを拡散するために利用されていると専門家は指摘する。「ヘイトグループや指定テロリストグループは、このプラットフォームを軍隊動員の手段として利用しており、基本的にはインフルエンサーとして機能している」と、テキサス州立大学のスチュワート氏は述べている。その活動の一環として、同調する他のグループやインフルエンサーの投稿やアイデアを共有・宣伝し、ユーザーを過激派エコシステムの深淵へと引きずり込んでいる。

Telegramのユーザーが制限チャンネルから非制限チャンネルにコンテンツを転送した場合、そのコンテンツは、AppleのApp StoreまたはGoogle Playからアプリをダウンロードしたチャンネル内のユーザーには表示されません。しかし、テキストベースのメッセージであれば、単純なコピー＆ペーストでこの機能を簡単に回避できます。WIREDとアレンは、制限チャンネルと非制限チャンネルの両方にテキストベースのコンテンツが一字一句コピーされた事例を400件以上発見しました。ユーザーは非制限チャンネルで制限チャンネルをタグ付けするケースが多かったのです。この分析には、コンテンツのかなりの部分を占める画像や動画は含まれていません。

たとえば、4,000人以上のメンバーがいるOfficialTheCollectiveという制限のないチャンネルに送信されたメッセージには、QAnon陰謀チャンネルであるSpecialQForcesなどの制限付きチャンネルへのタグが含まれており、ユーザーに参加を促すことが多かった。

OfficialTheCollectiveに投稿されたあるメッセージでは、GoogleとAppleの制限を回避する方法をユーザーに指示し、「GoogleとAppleは、Google PlayとApple App StoreからダウンロードされたTelegramアプリを検閲しています。ウェブブラウザを使用してください」と述べている。メッセージには、Telegramをサイドロードする方法の説明が含まれており、右翼インフルエンサーに人気の動画プラットフォームRumbleの説明動画へのリンクも含まれている。

WIREDは、制限のないExpatsPortugalEngチャンネルで、ドイツにおけるエリトリア人移民の暴動に言及したメッセージを発見した。「両手を広げて侵略者を自国に迎え入れようとしたリベラル派はどこにいるんだ？」という投稿には、「ナチスが政権を握る前に、まず彼らと丁寧に話し合ってほしい。今、あなたたちは彼らを必要とするだろうから」と書かれている。この文章は、制限付きチャンネル@InTheEndGodAlwaysWinsで共有された投稿と全く同じだ。

場合によっては、 Telegramは現地の法律に基づいてチャンネルを制限することがあります。これには、ヘイトスピーチやネオナチに対する厳しい規制を持つドイツも含まれます。ルートヴィヒ・マクシミリアン大学ミュンヘンの研究者であるハイディ・シュルツェ氏は、VPNとオランダのSIMカードを使用することで、ドイツで制限されているチャンネルにアクセスできたと述べています。これにより、Telegramは彼女をまるでドイツにいないかのように扱うことができました。「Telegramの観点からすれば、チャンネル制限は賢明な措置かもしれません。なぜなら、彼らは現地の法律を遵守している一方で、チャンネルを削除しているわけではないからです」と彼女は主張し、これによりプラットフォームは言論の自由を守るという主張を維持できると主張しています。

しかし、チューリッヒ大学のウルマン氏は、チャンネルの規制は過激化を助長する余地も生み出す可能性があると指摘する。「規制後もこれらのグループをフォローする可能性があり、そのコンテンツを本当に見たいと思っており、そのための技術的な可能性を探ろうとする人は、より過激化しやすいのです」と彼女は言う。

アーマン氏によると、既に何らかの形で「プラットフォームから排除」されているということは、チャンネル運営者がコンテンツモデレーションへの懸念をもはや考慮していないため、コンテンツがより過激になる可能性が高いことを意味する。「これらのグループは、たとえ規制されていても、過激化を助長する可能性が高い」と彼女は言う。「ほとんどの場合、公然と攻撃を計画することはないだろう。しかし、今は公然としていない。あなたは仲間の中にいるのだ。」

オンライン上のテロリスト集団を監視するコンサルティング会社、SITE Intelligence Groupのエグゼクティブディレクター兼創設者であるリタ・カッツ氏は、チャンネルを禁止するかどうかの同社の決定は、おそらく法律と執行機関の判断に左右されると考えている。「欧州連合は2015年以降、Telegramに対し、ISISとアルカイダに対する措置を取るよう強硬に求めており、同社は2019年にこれらのグループのネットワークに対してさらに厳正な措置を講じました」とカッツ氏は主張する。「Telegramは、管理者やISISやアルカイダと関係のあるアカウントだけでなく、それらのチャットグループやチャンネルに参加している全員のチャンネルとアカウントを丸ごと削除し始めました。」

ユーザーが制限されたチャンネルから制限されていないチャンネルにメッセージを転送すると、「サイドロード」版のアプリをインストールしていないユーザーには、そのユーザーのデバイスではメッセージを表示できないという通知が表示されます。WIREDが数千件の制限対象コンテンツを分析したところ、Telegramの利用規約違反による制限の通知が表示されたのはわずか36件でした。つまり、制限されたチャンネルやコンテンツの大部分は、GoogleとAppleのポリシーに準拠するためのものであり、これらの企業はアプリをストアから削除する可能性があります。

「テレグラムの運営が何らかの脅威にさらされない限り、おそらく彼らにとって優先事項ではないだろう」とスチュワート氏は主張する。