TikTokはMAGA過激化に重要な役割を果たした

2021年3月3日午前9時

このプラットフォームの魅力的なエンドレススクロールとカラオケ機能は、見過ごされてきた偽情報マシンを構築しました。

怒り狂った抗議者の暴徒がなぜ米国議会議事堂を暴力的に襲撃したのかを理解しようと試み始めて2か月が経ったが、依然として大きな影響力を持つものが見落とされている。TikTokだ。

説明責任を問う中で、Facebook、Twitter、YouTubeといった、偽情報と過激化の温床となってきた常套手段に加え、比較的新しい非主流プラットフォームであるParlerが表舞台に登場した。一時サービスを停止したParlerは、最盛期にはアカウント数が2,000万未満、1日あたりのアクティブユーザー数は300万人弱だった。TikTokは世界中で8億人以上、米国では毎日ログインするアクティブユーザー数が5,000万人を擁している。

国民市民会議の私たちのチームは、ここ数ヶ月、Parler上のコンテンツを継続的に監視してきました。そして、私たちが目にした状況は、他の報告と概ね一致しています。このプラットフォームは、偽情報、陰謀論、ヘイト、暴力扇動の温床となっていました。スパムやジャンクメールも大量にありました。Parlerは当時も今も汚くて不快な場所ですが、その量とリーチという点では、大海の一滴に過ぎませんでした。

私たちは過去2年間、TikTokを監視してきました。TikTokは、娯楽的な目新しい存在から、オンラインの注目を集める重要なプレイヤーへと成長しました。悪ふざけやダンスミームがコンテンツの中心となっているかもしれませんが、その表面下には、暴力と憎悪に満ちた暗い流れが潜んでいます。これはParlerで見られるものと似ていますが、Parlerではより幅広い熱心なファンがいます。Parlerはモデレーションがほとんどないことを誇りにしていましたが、TikTokはコミュニティガイドラインの施行とコンテンツの削除に積極的に取り組んでいます。それでもなお、プラットフォーム上では、ユーザーを過激化させるリスクのある問題のあるメッセージを作成・共有する大規模なセグメントが拡大しており、これらの動画の多くはモデレーションによる対応が困難なグレーゾーンに該当します。

この課題を理解するために、TikTok 上の保守的なミームを簡単に紹介したいと思います。

この数ヶ月、プラットフォーム上で聞いていた曲は、バンド「ナッシン・モア」の「Go to War」の抜粋だ。

何を考えていたのかは分かりませんが、我々はここで対立しています。
さあ、戦争を始めよう！
戦争を始めよう！

2017年にリリースされて以来、この曲はTikTokで1万6000本以上の動画のBGMとして使われてきた。その多くは、議事堂襲撃事件の映像やトランプの旗を振る支持者、あるいは不正投票に関する虚偽の主張を含むトランプのツイートのスクリーンショットなどを添えている。最も人気のある動画は、それだけで200万回近く再生されている。動画には、赤い海に囲まれた小さな青い点が点在するアメリカの地図が描かれ、「『青い州』は一つもない！」というキャプションが添えられている。この画像は事実に基づいており、2020年の選挙結果を郡ごとに地図にしたものだが、重要な文脈が欠けている。青い点は人口の大半が住む都市だ。動画作成者は、リベラル派を煽るために動画を作ったのであって、誤解を招くためではないと主張している。それにもかかわらず、この画像はインターネット上で広く出回っており、「#stopthesteal」の旗印のもと組織された不正投票陰謀を煽る証拠として提示されている。

制作者の意図は関係なく、結果は同じです。視聴者は誤解を招きます。さらに悪いことに、「戦争へ行こう！」という歌詞と組み合わせると、このビデオは暴力を誘発する扇動的な力として作用します。

「戦争へ行こう」に合わせて作られた別の人気動画には、トランプ氏のツイートが使われている。「1月6日にワシントンで大規模抗議デモ。参加しよう、ワイルドになるぞ！」とあるTikTokユーザーがツイートの下に「誰が行くんだ？！」と付け加えている。下院弾劾調査委員会の担当者を含む多くの人が、このツイートをトランプ氏が暴力を扇動している証拠だと指摘している。「戦争へ行こう」という歌詞を付けたことは、確かに事態の改善にはつながらなかっただろう。

画像には人間、スーツ、コート、衣類、オーバーコート、アパレル、ネクタイ、アクセサリー、広告が含まれている場合があります

「Go to War」は、TikTokのユニークな「このサウンドを使用する」ボタンのおかげもあって、StopTheStealやMAGA運動の非公式アンセムの1つとなり、広く普及した。

他人の音声から新しい動画を作ることは、TikTokの成功の鍵でした。「Old Town Road」がナンバーワンヒットになったのも、この機能のおかげです。多くの人がこの歌の突然の復活に歓喜したのも、この機能のおかげです。しかし、この機能は同時に、暴力的な思想や画像を正常化するメッセージの拡散をも支えています。

歌である必要はない。保守派のTikTokクリエイター、オースティン・マーシャルによるこのパロディ動画（現在は削除済み）は、「第二次内戦勃発の実況映像」と題され、2020年10月12日の公開以来、TikTokで170万回再生されている。動画の中でマーシャルは、「リベラル派」と「保守派」の会話の双方の立場を演じている。「もし君たちがオレンジマンを再選したら、内戦を始めざるを得なくなるぞ！」とリベラル派は説教する。保守派は無表情で「わかった、受け入れる」と冷静に答える。やり取りの後、最終的に保守派は「銃のほとんどは我々が持っている。君たちが望むなら、今すぐ始められる」と宣言する。

画像にはサングラス、アクセサリー、アクセサリー、人物、顔が含まれている可能性があります

この動画は単体ではユーモラスで無害に見えるかもしれない。しかし、世界最大のカラオケマシンでは、もっと不吉なことが起こった。マーシャルのパロディ音声は、最終集計で871回もリップシンクされ、合計700万回近く再生された。警察官、民兵、老若男女、黒人、白人など、トランプ支持者によって、愛国心、軍国主義、そして時には暴力的な象徴として、多くの人が視聴した。オリジナルは削除されたにもかかわらず、このアイデアは今日も何百ものクリップに生き続けている。

MAGA-Tokコミュニティは最初から暴力的だったわけではない。同プラットフォームで初期に花開いた保守派ミームの一つは、アプリのもう一つの独自機能が、いくつかの厄介な性質を伴った共通アイデンティティの構築にどのように役立っているかを示している。Volbeatの曲「Still Counting」は、TikTokの「デュエット」機能を使った無数の動画で使用されている。デュエット機能では、ユーザーはプラットフォーム上にある既存の動画を自由に選んで独自のアレンジを作成し、それを2人の見知らぬ人がデュエットしているかのように並べて表示することができる。「Still Counting」のミームでは、歌手が「部屋にいるろくでなし全員を数える」と歌っている間、何千人ものトランプ支持者がMAGAハットをかぶり、頭を下げて顔を隠しているのが見える。この時点で、各人が頭を上げ、「私は間違いなく一人じゃない」という歌詞に合わせてニヤリと笑っている。この効果は、デュエット機能によって可能になる無限ループによって増幅されます。各人が他の誰かのデュエットとデュエットし、MAGA 信者のニヤニヤした不気味な鏡の回廊を作り出します。

画像には衣服、アパレル、人物、帽子、キャップ、野球帽、顔が含まれている可能性があります

このプラットフォームを理解し、MAGA-Tokコミュニティを観察するために、私たちは過去2年間、「レッドピル」フィードの開発に取り組んできました。問題のあるコンテンツをブックマークし、注目アカウントをフォローし、プラットフォームを継続的にスクロールすることで、推奨アルゴリズムを訓練し、このコミュニティが政治的から暴力的へと進化してきた過程を私たちと共有できるようにしました。

TikTokは、他のほとんどのソーシャルプラットフォームとは一線を画す重要な機能をいくつか備えています。Twitter、Instagram、Facebook、WhatsAppでは、ユーザーが誰を友達に追加し、誰をフォローし、どのグループに参加するかを自ら決定し、それによってコンテンツのリーチが限定されます。

TikTokは違います。「おすすめページ」は、あなたがフォローしているユーザーの動画をパーソナライズしたフィードですが、聞いたこともないアカウントの動画も、アルゴリズムがあなたの好みに合うと判断した特徴を持つものが表示されます。これは、ユーザーをどんどん過激なコンテンツに誘導することで悪名高いYouTubeのレコメンデーションアルゴリズムと似ています。もちろん、YouTubeでは自動再生をオフにしたり、おすすめを無視したり、Netflixのように特定の動画を視聴するためにこのサービスを利用することもできます。

TikTokでは、レコメンデーションシステムがインターフェースそのものだ。プラットフォームに入った瞬間から、ワームホールを駆け抜けているような気分になる。まるでドゥームスクロールではなく、まるでジェットコースターのように、ユーザーの選択に応じて方向転換し、より魅力的なコンテンツへと導いてくれる。次の動画のセレンディピティこそがTikTokの特別な点だが、もし制御不能なままだと、YouTubeよりも効果的に視聴者を過激化させる可能性もある。

TikTokのカラオケ機能は、他人の音を使って新しい動画を作ることができ、ユーザーの参加を促す強力な仕組みの一つです。この機能によりコンテンツ作成のハードルが下がり、動画制作時に何をするか、何を言うかを考える必要がなくなります。他人が既に作ったものを真似するだけで、その人の人気に乗れるのです。レコメンデーションエンジンと組み合わせることで、TikTokはポップカルチャーのミームを拡散し、過激なメッセージを発信する強力なエンジンとなります。「クソ野郎ミーム」や「南北戦争パロディ」のあるバージョンを気に入ったら、時間の経過とともにこれらの動画のより多くのバージョンを目にすることになるでしょう。ミームが新しくなるたびに、そのミームは頭の中で大きく成長していきます。やがて、セリフを暗唱したり、振り付けを暗唱したりできるようになります。メッセージが十分に強化されれば、バーチャルカラオケバーに立って観客の前でパフォーマンスする自信が身につきます。これほど一貫性と持続性のある反復のために設計されたソーシャルメディアは他にありません。

Facebookで共有される極端に党派的なミームやリツイートされた#MAGAスローガンよりも、TikTok動画のほうが強力な理由は何でしょうか？それは親密さです。このプラットフォームで動画を撮影すると、鏡に映った自分の姿を見ていることになります。まるで友達とFaceTimeで話すように、個人的な会話をしているのです。その結果、世界中に発信される動画日記が完成します。視聴者も同様の体験をします。この個人的なつながりが、本来ならはるかに抽象的なものを現実のものにしてくれます。FacebookやTwitterでバーチャルアバターから飛び出す吹き出しを読む代わりに、TikTokでは生身の人間と直接、顔を合わせてつながることができます。ガラスの向こう側にいる人間を見つめ、彼らが不安や怒り、愛国心や希望を語るのを聞くと、共通の現実を確立するのに役立ちます。極端な行動を正当化する誤情報や半端な真実も、あなたと同じ普通の人から発せられたものであれば、はるかに信じやすくなります。

卑劣なプライドや内戦のジョークが、どうして暴力的な反乱の種に発展するのだろうか？ MAGA-Tok For You のフィードでは、その日のニュースや出来事に対応した新しいコンテンツが、おすすめ動画のストリームに絶えず溢れかえっていた。ジョージ・フロイドの殺害後、TikTok の探偵たちは、彼の死の動画が演出されたという「証拠」を共有し、「偽旗作戦」だと主張した。その後の抗議活動や市民の不安に関する動画を受けて、「愛国者」たちは、武器を掃除したり弾を込めたりする自分たちの姿を TikTok に投稿し、BLM やアンティファから自分たちのコミュニティを守ると誓った。カイル・リッテンハウスがケノーシャで抗議活動参加者を殺害したとき、フィードには現場を分析し、自分の行動を正当化する方法を探す動画が溢れかえった。暴力的なイメージやレトリックがエスカレートするにつれ、フィードには絶えずパラノイアと陰謀論が織り交ぜられていた。次々と、ホラー映画『パージ』のサウンドクリップが再利用されたバージョンが続々と登場した。映画では年に一度殺人が合法化され、人々は暴力的な衝動のはけ口を見つけられる。不穏なサイレンが鳴り響き、デジタル音声が「新たな建国の父たちに祝福あれ」と詠唱し、銃声が鳴り響く。同じ音、同じ不穏な声が何度も繰り返され、トランプの旗、Qアノンの象徴、リベラル派政治家の画像など、このコミュニティへの怒りをかき立てるもの、あるいは憤りをかき立てるものがあらゆるものに合わせられている。

そしてついに選挙本番がやってきた。流れ込むコンテンツは、不正投票の証拠を探す無駄な捜索を詳述するクリップの洪水のように急増した。ネットワークニュースの録画は、投票集計の不審な変化がないか精査され、シャープペンシルでは投票が記録されないと主張するクリップが次々と流れ、そして、見つかったところすべてで、投票所職員の映像が、選挙を不法に操作しようとする組織的な陰謀の証拠となった。この洪水は、バイデンの勝利が宣言された後も増加し続けた。60秒の新しいビデオごとに、ドミニオンの投票機、CIAの透かしが入った投票用紙、死亡した有権者、机上の統計学者などを結びつける巨大な陰謀のタペストリーの新たなピースが形成され、テック9の「Red Kingdom」（もともとカンザスシティ・チーフスのフットボールチームに関連付けられた曲）や、ますます増えているブライソン・グレイのヒップホップによる「ドナルド・トランプはあなたの大統領」運動への賛歌が結び付けられていった。

年末が近づくにつれ、陰謀論のテーマは薄れ、否定は怒りに取って代わられた。12月21日、保守派のTikTokスター、トファーとザ・マリーン・ラッパーによる新曲が、ヒップホップの歌詞にそのムードを凝縮した。

私の右側には何万人、私の側には何千人もいる / 善と悪の戦い、拳がぶつかり合うのを見守る / 自由のために戦う、今、通りを駆け抜ける / 旗が四方八方翻り、愛国者たちは誇りに満ちている / ここが私たちの決着の場、譲り合うことも、譲ることもない / 国会議事堂を行進し、城門を襲撃する / 真実が明らかになるまで、彼らの首に圧力をかける / 腐敗の壁すべて、蛇をすべて取り除く

「ザ・パトリオット」はiTunesヒップホップチャートで1位に躍り出た。この曲を題材にした新しいビデオがMAGA-Tokで流れるにつれ、1月6日の抗議活動への期待が高まっていった。トファーとザ・マリーン・ラッパーは実際にこの集会のためにワシントンD.C.に滞在しており、同日別のイベントでこの曲を披露した。この暴動を受けて、Spotifyはプラットフォームからこの曲を削除し、オンライン配信業者も削除活動を開始した。「ザ・パトリオット」は議事堂での暴動を扇動したわけではないが、そのメタファーは不気味なほどの先見性をもって、高まる不満と憤りを鮮やかに捉えていた。

MAGA-Tokは常に少し意地悪で、少し憎しみに満ち、陰謀論や嘘に満ちていたが、選挙後、その有害性がフィードを覆い尽くした。ソーシャルメディアのマーケターは、オーディエンスエンゲージメントをファネルに例えることが多い。ファネルの上部には、可能な限り最大のオーディエンスを獲得できる大きな開口部がある。ユーザーが認知から支持へと進むにつれて、ファネルは狭まっていく。誰もがファネルの底まで到達するわけではないが、最も熱烈な支持者はファネルの反対側まで行き着き、筋金入りの伝道者へと変身する。TikTokのミーム戦士たちが議事堂襲撃のきっかけを作ったとは断言できないが、TikTokの巨大なリーチがオーディエンスを過激化させる可能性があることは、痛いほど明らかになっている。

WIRED Opinionは、幅広い視点を代表する外部寄稿者による記事を掲載しています。その他のオピニオン記事は こちら、投稿ガイドラインは こちらでご覧いただけます。オピニオン記事は [email protected]までお送りください。

WIREDのその他の素晴らしい記事