TikTokがインドの致命的なヘイトスピーチの流行を助長している

2019年2月22日午後8時、28歳のベンカタラマンは南インドの警察署に出頭し、友人のビジェイをスカーフで絞殺したことを自白した。しかし、タミル・ナードゥ州の警察は既に8時間もベンカタラマンを捜索していた。容疑は殺人ではなく、TikTokに56秒の動画を投稿したことだ。

「真の男なら戦え、ダリットの犬どもめ。お前らは我々の前では無価値だ。お前ら最低の奴らをぶち殺してやる」と、酔っ払ったヴェンカタラマンは、殺人事件の前日に撮影された自撮り風の動画の中で叫んでいる。WIREDは動画のコピーを閲覧した。彼は18歳のヴィジャイに励まされてこの動画を制作した。

この動画の目的は、インドのヒンドゥー教におけるカースト制度の最下層に位置するダリット（ヒンドゥー教徒の身分）に属する人々を侮辱することだった。ダリットはインドの人口の17%を占め、15分ごとに彼らに対する犯罪が発生している。

ベンカタラマン氏の動画が拡散するにつれ、彼が虐待したコミュニティの何百人もの怒った人々が道路を封鎖し、行動を要求した。職業はレンガ職人であるベンカタラマン氏は、タラベドゥで社会的に支配的な集団であるヴァニヤール族に属している。

急速に増加する群衆を鎮圧するため、警察はベンカタラマン氏を脅迫、意図的な侮辱、暴力扇動の罪で起訴した。「これで群衆は少し落ち着きました」と、事件を担当したティルッタニ警察署の副警部、P・サラヴァナン氏は語る。

動画への大きな反発を予想していなかったベンカタラマンとヴィジェイは逃走した。2月22日午前10時、地元の安酒でまだ酔っていた二人は口論になった。二人は互いに相手のせいにして非難し合い、すぐに喧嘩へと発展した。

「首に巻いていた赤いスカーフで彼を絞め殺した。顔を下にして頭を埋めた」とサラヴァナンはヴェンカタラマンが言ったことを覚えている。サラヴァナンは、ヴェンカタラマンが逮捕された夜に彼の供述を聴取した警察官だった。警察の報告書は、この扇動的な動画の作成はヴィジャイの責任だとしている。「彼がアイデアを思いついた。この混乱の原因は彼だ」とヴェンカタラマンはサラヴァナンに語った。

ヴィジェイの死は、ほとんど注目されなかった。インドの13億人の人口のほとんどが知ることのない、辺鄙な場所で起きた出来事だった。しかし、この出来事は、TikTok上で拡散するヘイトスピーチに満ちた動画の増加と、同社がインドで直面している深刻な問題を浮き彫りにしている。

WIREDは6月から7月にかけて、TikiTok上でタミル語圏の様々なコミュニティを襲ったカーストに基づく憎悪、脅迫、暴力、嘲笑の事例を500件以上特定しました。ユーザーは特定のカーストの美徳を称賛し、地元のカースト指導者を言葉で攻撃しており、これがヘイトクライムの引き金となる可能性があります。

インドのカースト制度は、人々を背景と職業に基づいて階層的な集団に区分する封建的な社会区分制度です。これには、僧侶、戦士、農民／商人、労働者、そして追放者が含まれます。かつて「不可触民」と呼ばれたダリットは、この制度の外側に位置づけられ、広く迫害されています。

TikTokで見つかった動画の中には、自らを高カースト出身者と名乗り、自らのコミュニティを称賛し、その素晴らしさを歌いながら投稿された、カースト差別的なヘイトスピーチが含まれている。こうした動画はすぐに、一部のコミュニティのメンバーが他のカーストに対する優位性を主張し、身体的暴力の脅迫へと発展する。

「私たち（私たちのコミュニティ）に手を出す者たちの指ではなく、頭を切り落とさなければならない」と、ナダール・コミュニティの一員であると名乗るあるユーザーが動画の中で訴えている。ナダールは伝統的にカースト階層では低い地位を占めていたが、起業家精神によって地位を高めてきた。この動画は数千人のユーザーから「いいね！」され、この演説に合わせてリップシンクした動画が89本以上も投稿されている。

別のユーザーは、自身のカーストを批判する投稿に反応する15秒の動画を投稿した。「お前らパライヤールどもは裏切り者だ。勇敢な俺たちは、人々と直接対峙する。お前らパライヤールどもを一人残らず追い詰めて、ぶっ殺してやる」と彼は述べ、自身をヴァニヤール・コミュニティの一員だと名乗った。パライヤールは、ダリットを指す蔑称としてしばしば使われる。このユーザーは、ダリットを脅迫する複数の投稿をTikTokに投稿し、コミュニティの人々に結束を呼びかけている。

WIREDがカーストに基づく動画をサンプリングしたところ、TikTokのアルゴリズムはすぐに反応し、カースト至上主義やカースト差別的な発言を主張するアカウントが無数に表示された。多くの動画は「#nadar #vanniyar #thevar #paraiyar」といったカースト関連のハッシュタグで検索可能で、中には数百万回も再生されているものもあった。

憎悪を煽る動画と並んで、カースト関連のハッシュタグの下には、自分のカーストへの誇りを歌った人気映画や歌をリップシンクする動画が投稿されている。これらのハッシュタグは、TikTokでカーストに基づく会話を批判する人々も利用している。「カーストのない」社会を宣伝する動画は、憎悪とカーストへの誇りを広める動画と並んで投稿されている。

WIREDは、TikTokのコミュニティガイドラインに違反する可能性のあるコンテンツを含む動画のサンプルを同社に提供した。広報担当者は「TikTokは創造性を促進するプラットフォームです。憎悪や暴力的なコンテンツはプラットフォーム上にあってはならない」と述べた。「当社のモデレーションチームは、問題のある動画を24時間365日体制で報告し、削除しています。」広報担当者は、現在15のインド言語で動画のモデレーションを行っていると付け加えた。

広報担当者は、他のソーシャルプラットフォームと同様に、ヘイトスピーチのモデレーションにおいて同社が課題に直面していることを否定しなかったものの、提示された動画のいくつかは既に確認済みだと述べた。「WIREDからの連絡を受ける前に、チームは指摘された動画を特定し、削除手続きを進めていましたが、当社は今後もモデレーション能力の向上に努め、より良い対応に努めていきます」と広報担当者は述べた。

しかし、WIREDが入手した、これまで公表されていなかった裁判所文書は、インドにおけるTikTokのヘイトスピーチ問題の深刻さを示している。2018年11月31日から2019年4月19日までの5ヶ月間で、同社はヘイトスピーチと宗教に関する規則に違反した動画3万6,365本と、危険行為や暴力行為を含むと判断された動画1万2,309本を削除した。TikTokから削除されたヘイトスピーチと暴力行為の量は、ポルノコンテンツの20倍に上る。

文書によると、5ヶ月間で677,544本の動画がモデレーターに報告され、そのうちTikTokのガイドライン違反を理由に削除されたのはわずか10本中1本（67,431本）だった。報告された動画の数は、アップロードされた動画全体のわずか0.00006%に過ぎず、報告されたアカウントのうち禁止されたのはわずか1.01%だった。

TikTokの急成長は、問題を引き起こしている。中国で急成長を遂げ、2018年9月にインドに進出したこのアプリは、ユーザーがキャッチーな音楽、映画のセリフ、ナレーションに合わせて15秒間の動画を投稿できる。当初はMusical.lyという名前だったが、2017年11月に世界で最も評価の高いスタートアップ企業の一つであるByteDanceが約10億ドル（8億2000万ポンド）で買収し、TikTokにリブランドした。

インドでは、巨大な映画産業に関連する動画や映像がTikTokで目立っており、ティーンエイジャーが自作のダンス動画やコメディ寸劇を投稿したり、#bottlecapchallengeなどのハッシュタグチャレンジに参加したりする様子も見られます。彼らは数十万人のフォロワーを抱えるインフルエンサーと肩を並べ、インド国内で推定2億人のユーザー数を誇るTikTokの成功に貢献し、インドをTikTok最大の市場の一つにしています。

ユーザー数の急増により、インドはTikTokにとって最も問題の多い市場の一つとなった。過去6ヶ月間で、アプリの使用に直接的または間接的に関連する事件が18件発生し、うち10人が死亡、8人が逮捕された。

これらの多くは事故によるものです。22歳の男性が動画撮影中にバックフリップを試みた際に脊髄を損傷し、銃撃事件で2人が死亡、20歳の男性が動画撮影中に溺死しました。他にも、より深刻な事件が発生し、より深刻な事態を招いています。2児の母親が毒物を飲む動画を撮影し、夫からTikTok依存症だと訴えられた後、自殺しました。また、別居中の男性が、妻がTikTokに動画を投稿していたことを理由に職場で妻を刺殺したとされる事件もありました。

しかし、これらはTikTokの氷山の一角に過ぎず、毎日投稿される何百万本ものショート動画の中ではごく少数に過ぎない。このアプリが最も深刻な問題に直面しているのは、それが地域社会における既存の緊張を悪化させるために利用されている点だ。

インドでは、何世紀にもわたって社会的な分断が根強く残ってきました。しかし、使いやすい動画プラットフォーム、メッセージングアプリ、そしてモバイルデータ通信量の低さの出現により、社会的に疎外されたコミュニティを標的としたヘイトスピーチが蔓延しています。4月には、TikTokにカーストに基づく動画をアップロードし、コミュニティ間の不和を招きかねないとして、警察が21歳の男性を逮捕しました。また別の事件では、カースト間の暴力と潜在的な公共秩序の混乱を扇動する動画をアップロードしたとして、9人が逮捕されました。

TikTokが引き起こした問題は、立法府も見逃していない。4月、ビジェイ氏が亡くなったタミル・ナードゥ州の裁判所は、同アプリが「ポルノ」などの「不適切な」コンテンツを拡散しているとの判決を下した。これを受け、GoogleとAppleはインドの裁判所の要請を受け、ほぼ前例のない措置としてTikTokをアプリストアから削除した。TikTokは、600万本以上の動画がアプリから削除された後にようやく復活した。

「TikTokはタミル・ナードゥ州の社会や村々に壊滅的な被害をもたらしています」と、4月にTikTok禁止に賛成した弁護士K・ニーラメガム氏は述べている。「極めて危険であり、私たちの生活の平和的な機能を阻害する上で積極的な役割を果たしています。」インドの州情報技術大臣も、TikTokは「文化を貶める」ものであり、「法と秩序に反する」ものだと述べている。さらに、インドのIT省は、データの取り扱い方と「反インド的」活動を理由に、TikTokのさらなる禁止をちらつかせている。同省はバイトダンスに対し、TikTokの仕組みに関する24の質問への回答を求めている。

TikTokのインドにおける現在の地位は避けられないものです。ユーザー基盤が急速に拡大するにつれ、プラットフォームに投稿される問題のある動画への対応を迫られるようになりました。コミュニティ意識は、人々がオンラインで見たものに基づいて行動を起こすきっかけとなるのです。

「歌に合わせてリップシンクしたり、政治家の面白い演説を真似したりします」と、18歳のヴィジェイが殺害されたタラベドゥ村に住み、その後の抗議活動に参加した19歳のアルン・クマールは言う。「でも、自分たちのコミュニティを侮辱する動画を見たら、デュエットで悪口を言って反撃します。いつまでも受け身でいるわけにはいかないんです」

よくある動画のジャンルの一つは、ユーザーがトイレに放尿する15秒の動画と、人気政治家の動画を並べて「デュエット」をするというものです。別の分割画面でのデュエットでは、インドの公民権運動の象徴であるビムラオ・ラムジー・アンベードカルの横に、すり減った靴が山積みになったラックを指差す動画が映し出され、ユーザーは侮辱としてスリッパをくねらせています。この動画への返答として、靴を映した動画は、国民的著名人を称賛するTikTokのダリットユーザーを侮辱するものでした。

デュエットはカースト間の対立を煽り、カースト集団間の激しい怒りを煽る効果的な手段となっている。「コミュニティの一員であることを主張し、優位性を誇示することだけが、彼らに力と人気を与えてくれるのです」と、インドでカースト差別と社会正義の促進に取り組む団体Evidenceのカシール・ヴィンセントは語る。「田舎町のTikTokユーザーの多くは単純労働で、退屈しています。こうした動画は、自分たちが何か英雄的なことを成し遂げたと、世界（そして他のカーストの人々）に示すのに役立ちます。」

「TikTokでカーストに基づく動画が騒乱を引き起こしているという報告を受けています」と、タミル・ナードゥ州の都市マドゥライに拠点を置くサイバー犯罪課の検査官、センティル・エランティラヤン氏は述べた。エランティラヤン氏は、現在捜査中であるため、事件数、関係カースト、報告場所を明らかにすることを拒否した。

TikTokはヘイトスピーチを深刻に受け止めており、ユーザーへの啓蒙活動を支援するためにセーフティセンターを導入したと述べている。これらのセンターは10のインド言語で利用可能なウェブサイトで、アプリのポリシーに関するアドバイス、困難な問題に対処するための外部リソースの提供、アカウントのプライバシー設定に関するガイダンスなどを提供している。しかし、批判的な人々は、同社が直面している問題の一部への対策がまだ不十分だと指摘している。

「TikTokの問題は、彼らがアドボカシー活動や市民社会との関わりにあまり積極的ではないことです。アメリカの同業他社の基準にも及ばないのです」と、南アジアの人権団体Equality Labsのエグゼクティブディレクター、テンモジ・サウンダララジャン氏は言う。「彼らは罰金を払って構わないと思っているのではないでしょうか」

多くの場合、そのようなコンテンツが蔓延するのは、その地域の繊細な問題を十分に理解しているモデレーターの不足によるものだと彼女は付け加えた。TikTokはインドで何人のモデレーターを雇用しているかという質問には回答しなかったが、15の言語でコンテンツをモデレートするスタッフを擁していると述べた。以前の報道によると、親会社であるByteDanceはインドで250人以上を雇用しているという。

しかし、同社は市民社会団体との協力には積極的だと強調している。2月の「セイファーインターネットデー」には、インドのNGO「サイバーピース財団」と協力し、ユーザーの安全に関するパネルディスカッションや講演会を開催したほか、全国の学校にオンライン安全に関するアドバイスのポスターを配布した。また、インドのユーザー向けに2つのアプリ内安全クイズを導入しており、最初のクイズは500万人以上が視聴したとしている。

しかし現時点では、TikTokのヘイトスピーチ問題がインドでどれほど深刻なのかは不明だ。WIREDはタミル語におけるヘイトスピーチの事例を調査したが、ソウダララジャン氏によると、この問題はより深刻だ。「実際、北インドの様々な言語におけるTikTok上のカースト差別的発言も調査しました」とソウダララジャン氏は述べている。彼女は、北インドに住むダリット・カーストであるチャマール・コミュニティに関する動画は「非常に不快」だと述べている。彼女とチームは現在、ヒンディー語、タミル語、テルグ語におけるTikTok上のカースト差別的発言の調査と記録を行っており、年末に結果を発表する予定だ。

ソーシャルメディアにおけるカースト差別的なヘイト発言や少数派への暴力行為の呼びかけといった問題は、TikTokに限ったことではありません。インドやインターネット普及率が急上昇した他の国々では、ソーシャルネットワークが急速に成長しており、どの国もモデレーションの問題やユーザー行動に関する同様の問題に直面しています。

Equality Labsが1年間にわたって実施した調査プロジェクトによると、インドにおけるFacebookは、自社のルールに違反するヘイトスピーチを含む投稿の93%を削除できていないことが明らかになった。別の調査では、インドのFacebookがイスラム恐怖症的なコンテンツで溢れていると指摘されている。

しかし、インドでこれまで最も物議を醸してきたテクノロジーの成長は、おそらくWhatsAppだろう。Facebook傘下のこのメッセージングアプリは、インド国内で4億人のユーザーを抱えており、そのネットワークを通じてフェイクニュース、誤情報、暴力が拡散するのと密接に結びついている。

WhatsAppを通じて児童誘拐犯の噂が広まり、村々がリンチ集団と化した。BBCが確認したある事例では、パキスタンの児童福祉団体が作成した動画が、インドでの誘拐事件を映していると誤解された。動画は、児童の安全を守るという福祉団体のメッセージを削除するように編集されていた。動画がWhatsAppで転送された後、自警団が結成され、推定10人が殺害された。

WhatsAppはこうした問題への対応として、メッセージの転送方法を制限し、インド国内で教育プログラムを実施し、苦情処理担当者を任命した。2月にはTikTokもこれに追随し、インドで働く「中核担当者」を雇用すると発表した。この担当者は規制当局と連携し、インド国内で発生する紛争を処理することになり、今年初めに任命された。

批評家たちは、インドに進出するテクノロジー企業は、この国の複雑さを理解する必要があると指摘する。「TikTokを含むすべてのプラットフォームは、この国の内的ダイナミクスの不安定な性質を明確に理解した上で市場に参入するための文化的コンピテンシーを欠いている」とサウンダララジャン氏は指摘する。「カーストや宗教的過激主義に関する文化的コンピテンシーを備えたプラットフォームは一つもない」

怒りと憎悪に満ちた動画は、現実世界に波及し、波紋を広げる可能性がある。タミル・ナードゥ州ダルマプリ出身の10代の若者は、TikTokで自分のコミュニティを中傷するネット荒らしと対峙するため、200キロ以上も旅をした。

「これは偽のIDを使って（私を攻撃するために）卑怯者のパラヤンに送る」と、あるユーザーは6月27日に投稿した。「私は勇敢なヴァニヤールであることを証明した。もし君に十分な勇気があるなら、会いに来てくれ。私も同じ場所にいる」と彼は言った。このユーザーはTikTokで自身のコミュニティの優位性を訴える動画を投稿し、1万2000人以上のフォロワーを獲得している。

4時間後、彼は自身の「勝利」を祝う別の動画を投稿し、自分のカーストを尊重し、対戦相手の欠席により退席すると宣言した。この動画は数分のうちに1,000件以上の「いいね！」と6回のダウンロード数を記録した。

こうした動画に対する鬱積した怒りはコメント欄で爆発し、ユーザーは携帯電話の番号や住所を共有してオフラインで口論したり、直接会って決着をつけたりします。ユーザーがオフラインで何回対立しているかは不明です。TikTokは、ユーザーはアプリ内の設定からコミュニティガイドラインに違反する動画を報告できるとしており、裁判所の文書によると、TikTokは平均15分以内にリクエストに対応しています。また、政府や法執行機関が不適切なコンテンツの削除要請を送信できるプライベートメールアドレスも提供しています。

「カースト差別的な中傷がこれほど多く見られると、まるで容認されているかのように感じてしまうのです」とサウンダララジャン氏は言う。「普段は密室でささやかれたり、残虐行為が横行する地域では直接的な脅迫として語られるような発言が、中心へと押し上げられ、より容認されるようになるのです。」

TikTokは、プラットフォーム上でヘイトスピーチがどのように広がっているかを理解するために、公民権監査を実施する必要があると彼女は主張する。厳しい調査を受けたFacebookは、検閲とそれが少数派グループをどのように差別しているかを理解するため、2018年9月に監査を実施することを約束した。「これは、切れた電線がぶら下がったまま、もっと深刻な事態が起こるのを待っているのと同じくらい危険です」とヴィンセント氏は言う。

TikTokのアプリストアからの排除をめぐる法廷審問において、同社は言論の自由と人々の創造性にとって極めて重要であると主張して自らを弁明した。アプリの成長が続くにつれ、その決定に対する厳しい監視に直面する可能性が高い。

警察官のサラヴァナン氏は、TikTok上のあらゆるものに広範な解釈を適用すると、表面的な言い訳になり、潜在的に有害な副作用を見逃してしまう可能性があると懸念している。「テーブルの上に銃を置いたままにするのは、（TikTok側の）責任の一部です」と彼は言う。「今、私たちが直面しているのは、銃の収納箱を開けたままにしているようなものです」

しかし、インド犯罪学会会長のP・マダヴァ・ソーマ・スンダラム氏は異論を唱える。「TikTokを責めるつもりはありません。これは私たちの社会を反映したものであり、インターネットの新規ユーザーに最も響くものです。このようなコンテンツを裁定するのは非常に困難です」と彼は言う。

「カースト主義や優越主義に中途半端な対応をしても、打破することはできません。明確な視点を持つ必要があります。政治的な利益のためにカースト間の対立を煽ろうとする人々や政治家がいます。この分断を克服できるのは教育を通してのみです。それまでは、ソーシャルメディアにおける節度ある対応は、問題の解決に道半ばでしかありません」と彼は言う。

2019年8月13日14:06BST更新：TikTokはインドに苦情処理窓口を設置した

この記事はWIRED UKで最初に公開されました。