オンライン過激主義研究者を悩ませる実存的危機

クライストチャーチ銃乱射事件から数時間後、私はシラキュース大学のホイットニー・フィリップス教授と電話で話していました。彼女はオンライン過激派とメディア操作を専門に研究しています。通話の終わり頃、私たちの会話は予想外の方向へと進みました。

フィリップス氏は、疲れ果て、苦悩し、仕事の性質に圧倒されていると述べた。彼女は、オンライン上の過激主義と増幅の弊害を研究することに伴う倫理的な難問から生じる「魂を吸い取られるような」感覚について語った。

繋がり、検索可能な世界では、過激派とその戦術に関する情報を共有すると同時に、彼らの有害な見解も共有することは困難です。誤った危険なイデオロギーの拡散を阻止しようとする行動が、事態を悪化させるだけの場合が多すぎます。

この分野の他の研究者も同様の経験を報告している。警告が無視され、建設的な変化への希望が何度も打ち砕かれる中で、無力感や心的外傷後ストレス障害（PTSD）に関連する症状（不安、罪悪感、無快感症など）が増加していると彼らは述べている。

「多くのことが無駄に感じられる時代に生きています」と、ノースカロライナ大学チャペルヒル校のメディア・テクノロジー研究者で教授のアリス・マーウィック氏は語る。「私たちは、悪化の一途を辿る一連の悪事に直面しているのです。」マーウィック氏は、データ・アンド・ソサエティ誌の2017年版フラッグシップレポート『メディア操作とオンライン偽情報』を、研究者レベッカ・ルイス氏と共著した。

ある意味、彼らの不安はテクノロジー業界全体の不安を反映していると言えるでしょう。この分野の研究者の多くは、テクノロジー楽観主義者としてキャリアをスタートさせ、インターネットの良い面、例えば人々を結びつけることで創造性を高めたり、アラブの春のように民主的な抗議活動を促進したりといったことを研究してきたとマーウィック氏は言います。しかし、その姿勢は長くは続きませんでした。

過去10年間は​​、90年代と2000年代のユートピア的言説に対するディストピア的な報復の連続でした。ゲーマーゲート、インターネット・リサーチ・エージェンシー（IRA）、フェイクニュース、インターネットを背景としたいわゆるオルタナ右翼の台頭、ピザゲート、Qアノン、エルサゲート、そして今もなお続く子供向けYouTubeの恐怖、ジェノサイドの火に油を注いだFacebookの役割、ケンブリッジ・アナリティカなど、数え切れないほどの出来事が挙げられます。

「多くの点で、この不調は、私たちの多くが心から信じていたものに裏切られたことに起因していると思います」とマーウィック氏は言う。テクノロジーについてより現実的に考え、その悪用を予見していた人々でさえ、問題の深刻さに驚愕していると彼女は言う。「自分たちが間違っていただけでなく、私たちの多くが予見していた悪い結果でさえ、実際に起こった、あるいはこれから起こるであろう結果ほどひどいものではなかったという事実を受け入れなければなりません。」

最悪なのは、解決策が見当たらないことだ。偽情報の拡散とオンライン過激主義の台頭は、多くの要因が複雑に絡み合った結果だ。そして、最も一般的な提案は、問題の規模を過小評価しているようだと研究者らは指摘している。

Facebookなどのプラットフォームにコンテンツ・モデレーターを追加すること、問題のある投稿を削除するためのより高度な自動フィルタリング・システムを開発すること、あるいは偽情報をフラグ付けしてランク付けを解除するためのファクトチェック・プログラムを導入することといった対策は、プラットフォームの自己監視能力に過度に依存していると、一部の研究者は指摘する。「こうした問題の技術的な側面を崇拝し始めるのは非常に簡単ですが、これらは何よりもまず社会問題であり」、アルゴリズムの微調整では解決できないほど複雑だとルイス氏は言う。

メディアリテラシープログラムのような他のアプローチは効果がなく、ユーザーに過度の責任を負わせる可能性がある。どちらの戦術も、問題のより複雑で定量化が難しい側面を無視している。例えば、成功の鍵が視聴者の注目を集めることにある二極化したデジタル経済、「主流」の真実を拒否することが社会的なアイデンティティの一形態となっていること、あるいは偽情報の影響を判断することの難しさなどだ。

「私たちのシステムの1つが壊れているわけではありません。ましてや、すべてのシステムが壊れているわけでもありません」とフィリップスは言う。「すべてのシステムが、汚染された情報の拡散と民主的な参加の阻害に繋がっているのです。」

インターネットは信頼できない語り手であり、現実世界における人々の発言と同じ誠実さでオンライン上の行動を解釈しようとする試みは、困難を伴います。Twitterで12万5000人以上のフォロワーを抱え、ワシントン・ポストやSalonといったメディアから極右思想の例として挙げられている@thebradfordfileのような、一見影響力があるように見えるアカウントも偽物であり、有料エンゲージメント・スキームやツイートをブーストするDMルーム、その他の人工的な増幅手段によってのみ影響力を発揮しているように見えます。オンラインでアイデアや個人の価値を測る指標は、簡単に操作可能です。いいね、リツイート、閲覧数、フォロワー、コメントなどはすべて購入可能です。

この脆弱性は、オンライン生活に関する私たちの多くの前提を疑問視させます。ある考えや意見を実際よりも人気があるように見せるために作られた偽アカウント、いわゆる「ソックパペット」ネットワークが、RedditやFacebookなどのプラットフォームに出現しています。2016年にワシントンD.C.のレストランをめぐる、特に悪質な陰謀論「ピザゲート」のケースでは、銃を持った信奉者が店内に銃を乱射する事件にまで発展しました。多数の自動化されたTwitterアカウントが、現実世界での支持者を実際よりも多く見せかけることで、陰​​謀論の支持拡大を助長しました。

2017年、クレムリンのインターネット・リサーチ・エージェンシー（IRA）は133の偽インスタグラムアカウントを使って偽情報を拡散し、1億8300万件以上の「いいね！」と400万件以上のコメントを獲得しました。これらのハートボタンのうち、実際に何の変哲もないフォロワーがタップしたものはいくつあったでしょうか。それとも、金で買った偽の人間フォロワーや、自動エンゲージメント・ファームによるものだったのでしょうか。同様に、r/The_Donald、r/Conspiracy、4chanの/pol/といったスペースに蔓延する陰謀論や非人間的な信念は、生身の人間によって表明された真の意見なのでしょうか。IRAなどが人間になりすまして緊張を煽ってきたという事実が、この疑問を生んでいるのでしょうか。それとも、これらの偽投稿が実際に何らかの影響を与えたのかどうかが未だに分からないという事実が、この疑問自体を生んでいるのでしょうか。

頭がくらくらするほどだ。ほとんどの場合、見分ける術はない。メディア操作者たちは、公共の場で投稿することのパフォーマティズム的な性質を痛感しており、それを都合よく利用している。過激派がより多くの聴衆に届くよう、自分自身や自分の意見を偽って伝えることは、決して新しいことではないが、インターネットの力とソーシャルメディアの台頭によって、この問題は深刻化している。

「何かが真剣なものなのか風刺的なものなのか分からないことの問題は、介入の試みが最初から無駄になってしまうことです」とフィリップスは言う。「だからこそ、仕事が時にとても無駄に感じられるのです。何に直面しているのかさえ正確には分からず、それを解決するために何をすればいいのかさえ分からないのですから。」

話題の感染力は事態をさらに複雑にしている。不条理で分断を煽る陰謀論、特に悪質な新たな過激派の一派、あるいは偽情報の蔓延について警告する――ただ単にそうした見解の誤りを暴き、あるいは注意を喚起するためだけに――というのは、矛盾を孕んでいる。昨年夏、有害なオンライン極右陰謀論「Qアノン」の信奉者がトランプ陣営の集会で写真に撮られた後、多くのメディアが解説記事、偽情報まみれの陰謀論に関する論説、リスト記事、論説記事を掲載し、陰謀論を主流の意識へと押し上げた。この陰謀論に関連する用語のGoogle検索は急増し、そうした考えを信奉する人々のオンラインコミュニティは規模を拡大した。

意図はさておき、偽情報に酸素を与えれば結果は同じです。有害な核となる考えはより多くの人々に届き、その情報の影響は制御不能になります。過激なコンテンツや偽情報を「フェイクニュース」とレッテルを貼っても、過激化の力は中和されません。こうした思考やアイデアは根深いものです。まるで、ドストエフスキーが1863年に提起した（よく模倣される）思考実験のようです。「ホッキョクグマのことを考えないように自分に言い聞かせても、毎分必ず頭に浮かんでくる」

「物語の枠組みが確立されつつあるという事実に注目を集めるだけで、その枠組みはより定着するのです」とフィリップスは言う。「そして、デジタルメディア環境では、より検索されやすくなります。文字通り、Google検索で、それについて書かれたどんな物語とも並べてインデックスされるようになるのです。」

MITの研究者がブラックホールの初撮影に貢献したことで称賛された後、陰謀論者や過激派がYouTube動画を通じて彼女に関する偽情報を拡散し始めた。YouTubeでこの研究者の名前を検索すると、主に陰謀論が表示されるという事実を非難する記事やソーシャルメディアの投稿が相次ぎ、その後、これらの投稿の一部が拡散し、検索エンジンやオンラインインデックスにおいて、彼女の名前と虚偽の主張がさらに結び付けられることになった。

同様に、クライストチャーチ銃乱射事件の容疑者が発表した声明文には、過激派の犬笛が散りばめられていた。こうした言葉や思想をGoogleやYouTubeで検索すると、過激派を扇動する偽情報の迷宮へと誘い込まれる。CJRの分析によると、銃乱射事件に関する最もシェアされた記事の4分の1がこうした思想に言及しており、「読者を銃乱射犯のイデオロギーに関するオンライン上の議論へと導く可能性のある情報」を提供していることが明らかになった。

「全く同じシステムの影響を受けずにこれらの問題への関心を高めることは不可能であり、それが根本的に私たちの取り組みを妨げているのです」とルイスは言う。「なぜなら、これらの問題について語ることで最終的に最も注目を集める人々は、ある程度、アテンション・エコノミーを搾取している人々でもあるからです。」

増幅のサイクルは避けられないように思われ、研究者にとって難問となっている。「自分が何をするか、あるいは何をしないかというたった一つの行動が、物語の展開に影響を与えると気づいたら、その知識をどう活用すればいいのでしょうか？それは大きな認知的負担です」とフィリップスは言う。

仕事の本質自体が認知的負担となる。オンライン過激主義やメディア操作の研究者たちは、ヘイトスピーチまみれのRedditのスレッド、非人間的なYouTube動画、殺害予告や嫌がらせキャンペーンが当たり前のように行われている有害なチャットルームを精査することに日々を費やしている。ヘイトスピーチや過激主義コンテンツの氾濫は彼らの精神衛生に大きな負担をかけ、Facebookのコンテンツモデレーターが経験するようなPTSDのような症状を呈する人もいると彼らは言う。

「本当に感情的な影響を与えるようなことを調査している時は…その感情を感じ取らなければなりません。人種差別や女性蔑視、憎悪に対して無関心になっては、もはや仕事とは言えませんから」とマーウィック氏は言う。「一日中、この根深い人種差別のゴミを目にしているのです。それが起こっていないふりをすることはできません。そして、それが自分に影響を与えているのだと思います。」

ソーシャルメディア大手のコンテンツ審査担当者とは異なり、オンライン過激主義やメディア操作の研究者は匿名性のベールに守られていない。彼らの研究は公開されており、多くの場合、大学のウェブサイトや学術プロフィールに連絡先が大きく掲載されるため、嫌がらせを受ける可能性がある。「私も何度か個人情報を晒されたことがあるし、ひどいコメントももらったことはあるが、大規模な批判の的になったことは一度もない。いずれそうなるだろうと感じている」とマーウィック氏は語る。

フィリップス氏によると、問題の一部は、ほとんどのユーザーがリツイートやFacebookの投稿、あるいは「いいね」がもたらす影響について考えていないことだ。コミュニティへの影響や個人の責任感がなければ、有害性の低い行動や拡散への変化を期待することはますます難しくなる。

「人々に、自分が他の人々の中でどう位置づけられるかを考えさせる方法について、より包括的かつ人間的な視点で考える必要があります」とフィリップスは言います。「これは一種のコペルニクス的転回です。Facebookの中心は私ではなく、他にも人がいる。小さなことのように思えますが、適切な方法で伝えれば、ほとんどの人は理解できます。そして、それはあなたの周りの人々との関わり方を、より広い意味で変える可能性があるのです。」

WIREDのその他の素晴らしい記事

• Facebook内部の15ヶ月にわたる新たな地獄
• 人間は宇宙に適しているのか？研究によると、適さない可能性も
• ロシア極北でのロケットブースター探査
• Spotifyを最大限に活用するためのヒント
• 未来主義はファシズムにつながった。また同じことが起こるかもしれない
• 🎧 音に違和感を感じたら、ワイヤレスヘッドホン、サウンドバー、Bluetoothスピーカーのおすすめをチェック！
• 📩 もっと知りたいですか？毎日のニュースレターに登録して、最新の素晴らしいストーリーを見逃さないでください