リベラル派がパークランド銃乱射事件の陰謀論を煽った経緯

バレンタインデーにフロリダ州マージョリー・ストーンマン・ダグラス高校で発生した銃乱射事件は、銃、安全、そして個人の自由に関する全国的な議論に加わる、精力的な若い活動家たちのグループを鼓舞した。しかし、彼らが声を上げるにつれ、彼らを「クライシス・アクター」（学生を装った詐欺師）とする陰謀論がソーシャルメディアを駆け巡り、主流へと浸透していった。

他の文書にも記載されているように、「偽旗作戦」や、リベラル派が政治的目的でメディア報道を行うために利用しているという設定は、InfoWarsのような極右メディアで長年語られてきた物語です（そして、おそらく注目すべきは、ロシアのプロパガンダネットワークがウクライナで実際に何度もこれを行っていることが発覚したことです）。今回のケースでは、被害者の声を信用しなくなり、そのメッセージの背後にある道徳的重みを弱めるための、たとえ皮肉な戦術であっても、容易なものです。

銃撃事件発生後数日間、ソーシャルメディア企業は、自社のプラットフォーム上でクライシスアクターの陰謀論が蔓延していることへの苦情への対応に奔走した。自社のアルゴリズムが、同じコンテンツを拡散させていたにもかかわらずである。Facebook、YouTube、Googleは、問題のあるコンテンツへの対応について新たな声明を発表し、この問題への取り組みにAIと人間の監視員をさらに投入する必要があると確約した。

しかし、このコンテンツがどのように拡散され、アルゴリズムによるスターチェンバーの統制をいかに突破したかについては、様々な憶測が飛び交っています。ロシアのボット、NRAのエコーチェンバー、そしていわゆるオルタナ右翼のメディア関係者らが、犯人として挙げられています。

また、様々なカスタムおよび商用分析ツールを用いてソーシャルメディア情報を収集・分析する当社の研究グループ、New Media Frontierが最近#releasethememoキャンペーンの分析で明らかにしたように、アメリカの極右コンテンツの拡散には、国内外のボット、意図的な拡散ネットワークなど、多くの要因が関与しています。完全自動化されたボットであれ、半自動化されたサイボーグアカウントであれ、自動化はソーシャルメディアにおけるコンテンツ配信を加速させる上で不可欠な要素です。

しかし、フロリダ州パークランドの銃乱射事件と、それが生み出したクライシス・アクターの物語を振り返ると、この事件が主流の意識に飛び込むことを可能にしたもう一つの重要な要因があった。陰謀論に憤慨した人々が、場合によっては陰謀論の支持者よりもはるかに多く、陰謀論の拡散を助長したのだ。そして、アルゴリズムは、コンテンツの文脈を理解し、それが肯定的に共有されているのか否定的に共有されているのかを判断するために必要な「感情への感受性」を欠いているようで、こうしたノイズを全て同じように捉えてしまうのだ。

怒りの共有によって生じた意図せぬ拡散は、陰謀論を疑うことを知らない人々の目に留まるきっかけとなった可能性がある。本分析では、クライシス・アクター陰謀論の一つ、マージョリー・ストーンマン・ダグラス高校の3年生、デイビッド・ホッグが父親に指導されていたため詐欺師だったという主張が、支持者と反対者の両方からどのように拡散したかを検証する。

物語は予想通りの始まりを見せた。銃撃事件から5日後の2月19日午後5時30分（東部標準時）、オルタナ右翼系ウェブサイト「ゲートウェイ・パンディット」は、学生のデビッド・ホッグがFBIの陰謀によってトランプ大統領に対する虚偽の行動を煽り立てられ、その台詞を指導されたと主張する記事を投稿した。Twitterでは、この話は当初、自動投稿を含む右派系アカウントによって拡散された。

ゲートウェイ・パンディットの「危機俳優」陰謀論に関する記事が投稿されてから1時間の間に、660件のツイートとリツイートがありましたが、そのうち200件（30%）は4万5000回以上ツイートしているアカウントからのものでした。人間であれ、サイボーグであれ、ボットであれ、これらのアカウントはコンテンツを拡散するという目的を持って行動しています（これについては後ほど詳しく説明します）。そして、このキュレーション、複製、そして拡散という仕組みは、人間のユーザーを惹きつけるエコーチェンバーを形成すると同時に、ソーシャルメディア企業のアルゴリズムが何を重要で、トレンドで、他のユーザーに何を宣伝するかを決定する方法にも影響を与えています。これは、「アルゴリズムによる人気投票」で勝利するためのフィードバックループを引き起こす一因となっています。

より確立されたネットワークの中には、ソーシャル ネットワークの情報アーキテクチャにおける地位、つまり特定のコンテンツを選択し、そのコンテンツを確実に拡散させるという立場から、何がトレンドになるかをほぼ予測しているところもあるようです。

クライシス・アクターに関する物語は、他のプラットフォームでも同様に拡散されていました。極右陰謀論サイトによる積極的なプロモーション活動は、警戒感を招きました。YouTubeは、トレンドアルゴリズムで上位にランクインしたクライシス・アクターの陰謀を宣伝する動画を削除するために介入せざるを得ませんでした。一方、GoogleとTwitterの検索では、「クライシス・アクター」が検索語として自動入力されていました。FacebookとRedditも、この物語の様々なバージョンを宣伝するために利用されていました。

しかし、このトレンドコンテンツは右派からのみ押し出されたものではありませんでした。午後6時21分、フランク・ランツ氏（@frankluntz、約25万人のフォロワーを持つ著名な世論調査員兼PR幹部）が、ゲートウェイ・パンディットの記事に抗議するツイートを投稿し、認証済みアカウントを持つ非右派系の拡散者4人のうちの1人となりました。（多くの場合、認証済みアカウントにコンテンツを閲覧または宣伝してもらうことで、拡散が大幅に加速します。）他の3人は、ニューヨーク・タイムズのニック・コンフェッソール氏、MSNBCのプロデューサー、カイル・グリフィン氏、そして元ファーストレディのチェルシー・クリントン氏です。彼らはいずれもゲートウェイ・パンディットの記事を引用ツイートして非難しましたが、それによって拡散をさらに助長する結果となりました。

翌朝までに、Gateway Punditの記事はTwitterで約3万回宣伝されました。この4人の進歩的なインフルエンサーは、記事の総言及数の60%以上を占めていました。

これは限定的な例ですが、この 1 つのプラットフォーム上の 1 つの陰謀が、その支持者によってではなく、意図せずして反対者によって増幅されたことを非常に明確に示しています。

右派と左派の両方で、自動アカウントと半自動アカウントがこのニュースの宣伝に貢献していました。これらのアカウントはそれぞれ異なる機能を果たしています。

中には、厳選された低品質のニュースワイヤーのように振る舞うものもあり、正当性は幅広いもののイデオロギー的見解が狭い情報源から大量のコンテンツを投稿しています。例えば、Gateway Punditの記事を最初にTwitterに投稿したアカウントは@Tokaiseで、実際には出版社よりも先に投稿していました。

これは、このアカウントが、事前に設定されたメディア、ソーシャルメディアアカウント、キーワードに基づいてコンテンツを識別、共有、再投稿する自動化ソフトウェアに依存している可能性が高いためです。1日に約190回ツイートしており、4,100人のフォロワーにはオルタナ右翼のインフルエンサー（チャーリー・カーク、ジェイコブ・ウォールなど）が含まれています。

これらのキュレーションされたニュースワイヤーは、合成情報ネットワーク（人間のユーザーが関与していないときでもコンテンツが溢れるソーシャルメディアの一部）において重要な役割を果たしています。再投稿されたコンテンツは、記事のトレンド形成に貢献するだけでなく、人間のユーザーがTwitterフィードにアクセスした際に目にするコンテンツの基礎を築きます。Twitterのアルゴリズムは、ユーザーがTwitterを離れている間に見逃した可能性のあるコンテンツも提供してくれます。

右と左の両方のサイロにおける自動化の一部を把握するために、Gateway Pundit の創設者 John Hoft 氏によるこの記事のオリジナルツイートをリツイートした最初の 10 件のアカウント (@rlyor、@ahernandez85b、@mandersonhare1、@dalerogersL2528、@topdeserttrader、@jodie4045、@Markknight45、@James87060132、@AIIAmericanGirI、@deplorableGOP13) と、Chelsea Clinton 氏によるこの記事に対する非難をリツイートした最初の 10 件のアカウント (@DOFReport、@AndrewOnSeeAIR、@TheSharktonaut、@CarolynCpcraig、@guavate86、@NinjaPosition_、@Jjwcampbell、@mikemnyc、@intern07、@maximepo1) を調べました。

2018年1月、右派アカウントは合計42,654回ツイートしました（1アカウントあたり1日平均約140件）。これは、少なくとも一部のアカウントが自動増幅装置であることを示す明確な指標です。これらのアカウントの中で最大のアカウントである@AIIAmericanGirIは、2013年以降542,000回ツイートしています（月間10,000件、1日300件以上）。彼女の115,000人のフォロワーには、ハーラン・ヒル、チャーリー・カーク、ティー・ペイン、ビル・クリストル、マイク・アレン、サラ・カーターなど、ソーシャルメディア上で政治的スペクトラム全体の意見形成に貢献する、広くフォローされている人物が含まれています。

これらの著名なインフルエンサーがGirlをフォローしているのは、彼女が自称「妻、母、愛国者、友人」だからでも、彼女のアバターが下着とも言えるものにピストルを大胆に配しているからでもないだろう。彼らがこのアカウントをフォローするのは、意識的であろうとなかろうと、フォロワーのソーシャルメディア統計を向上させるためだ。理由は、Girlがコンテンツを配信し、フォロワーを増やし、いいねやリツイートを獲得するネットワークに組み込まれているからだ（これらのテクニックのいくつかについては、こちらで解説している）。

こうしたアカウントの1つ、「Roy」（@dalerogersL2528）は、Gateway Punditのツイートをリツイートする程度しかしていませんが、フォロワー数を増やしたり、特定のタイプのフォロワーを獲得したり、投稿スケジュールを自動化したりできるアプリ「Crowdfire」を宣伝・利用しています。Royのフォロワーには、共和党の公職者や候補者が含まれています。GirlとRoyは、特定の種類のコンテンツを特定のタイプのユーザーに拡散させ、フォロワーの統計情報を向上させるために設計されていますが、その方法は往々にして非常に不透明です。

左派では、自動化アカウントのプロフィールは似通っている。2018年1月、チェルシー・クリントン氏の非難をリツイートした10アカウントは、合計36,063回ツイートした（アカウント1つあたり1日約116ツイート）。最初のリツイートは、自称ニュースアグリゲータ（自動タスクの一環として元ファーストドーターのツイートをリツイートするニュース配信型アカウント）によるものだった。左派寄りのコンテンツを大量にリツイートする@TheSharktonautという別のアカウントには、民主党議員や候補者がフォローしている。これはロイ氏の左派版と言えるだろう。

@AndrewOnSeeAIRのTwitterプロフィールには、彼がイギリス人で反ブレグジット派であると記載されていますが、このアカウントは反ブレグジット派の間で「フォローバック」ネットワークを構築するためのハッシュタグを使用しています。つまり、双方向のフォロワー数を増やすことを目的としています。彼がイギリス人であると主張しているにもかかわらず、1日に200件以上もツイートする内容は、ほぼ全てが左派寄りのアメリカ的な内容です。

右派と左派には、完全な自動化と部分的な自動化、そして増幅のパターンが見られます。しかし、今回のケースでは、左派のアカウントはフォロワー数が比較的少なく、Twitterの広範な情報アーキテクチャの中で確固たる地位を築いていません。左派は認証済みフォロワーがはるかに多く（500人以上）、右派は200人強です。ある意味では、これらの情報戦術には政党のエンゲージメント戦略が反映されていると見なしたくなります。一方はより広範な支持を得ることに重点を置いているのに対し、他方は同様の効果を達成するために、より緊密なエリート集団に依存しているのです。

時が経つにつれ、クライシスアクターに関する右派と左派の見解は分かれていった。右派の見解は「これはすべて陰謀であり、FBIとディープステートがトランプ大統領を弱体化させるための陰謀だ」というもの。左派の見解は「クライシスアクターの発言は被害者への攻撃であり、ゲートウェイ・パンディットはロシアのプロパガンダであり、その発言はロシアのボットによって拡散されている」というもの。どちらの側も、巧妙な悪役（リベラルメディアの嘘 vs 敵対的な外国のプロパガンダ）が関与していると考えている。そして、どちらの側にとっても、これらの見解は政治的信念を硬化させる認知的影響を及ぼしている。

より積極的かつ正確な感情スコアリングがなければ、支持も怒りも同じコンテンツを増幅させてしまう可能性があります。より大きな問題は、自動化とコンピュータによるプロパガンダ、つまり情報通信技術を用いて人々の認識を操作し、認知に影響を与え、行動に影響を及ぼすという、より広範な問題にどう対処するかということです。自動化は国境のない世界を加速させ、国家と非国家主体を巻き込み、私たちの言説を歪め、民主主義を蝕みます。これは複雑な問題であり、情報消費者である私たちに複雑な形で影響を与えています。

クライシスアクター事件の真実は、どちらの側も認めたがるほど明確でも華やかでもなかった。おそらくロシアのボットを含むボットが、両方の物語を広めており、ソーシャルメディアでますます頻繁に使用されるようになったコンピュータープロパガンダの重要な要素であり続けている。

自動化は、様々な形でソーシャルメディアの情報環境に深く根付いています。自動化されたアカウントは情報を流通させ、直接的に、あるいはアルゴリズムへの影響を通じて、私たちがオンラインで目にする情報に影響を与えます。アルゴリズムは、曖昧で、時には役に立たない方法で情報を整理し、宣伝します。アルゴリズムの「判断」を修正するために、何度も人間の介入が必要になります。そして、一部の人々にとって、これは新たな形の検閲のように感じられるのです。

ソーシャルメディア企業は、自動化の行き過ぎや意図せぬ結果を是正するために介入し始めていますが、特に注目を集めた偽情報や名誉毀損のケースにおいては、ケースバイケースで対応しています。このような対応は、どの自動化が悪質な自動化であり、どの自動化が放置されているのかを誰が判断しているのかという疑問をますます深めるでしょう。また、一般の日常的なユーザーも同様の誹謗中傷キャンペーンにさらされているにもかかわらず、保護や救済手段がはるかに限られているという現状を招いています。

時には、これは単に情報消費の新しい方法であり、私たち全員がどう乗り越えていくかを見つけ出す必要があるという感覚があります。最も騒がしいものがどういうわけか最も重要であり、その後は自分で解決する、という感覚です。先週末、 Reliable Sourcesに出演したデビッド・ホッグ氏自身も、陰謀論はすべて素晴らしい「マーケティング」なので動揺していないと述べ、彼のTwitterフォロワー数は25万人を超えました。若い世代やソーシャルメディアに精通した世代は、このより金銭的なアプローチを本能的に理解しているようです。ソーシャルメディアプラットフォームは、いわゆる「アテンション・エコノミー」において怒りが有効な通貨であることを認識し、この無法地帯を助長してきました。

この用語は、ソーシャルメディアプラットフォーム上で繰り広げられている知性獲得のための争い、それが私たちの認知能力に長期にわたって及ぼす影響、そして優位性を得るために自動化がどの程度利用されているかを隠蔽しています。例えば、ソーシャルメディアの情報戦争に参加しようとする他の人々が、同じ戦術を用いることで同じ能力や優位性を獲得できるという想定は、必ずしも真実ではありません。これは、公平に扱うことが難しい競争の場です。増幅ネットワークは、データ駆動型の機械学習コンポーネントを備えており、時間をかけて改良を重ねることでより効果的に機能します。ただ1つを起動しただけで完璧に機能すると期待することはできません。

毎分アップロードされる膨大な量のコンテンツを人間が精査することは到底不可能です。アルゴリズム、そしてそれを形作る詩人たちは、私たちの情報環境の形成において、ますます大きな役割を担うようになっています。人間の心は、AI同士が争う戦場にいるようなものです。目に見えない力の交戦に巻き込まれ、時には巻き添え被害に遭い、時には無意識のうちに加担することになります。このブラックボックス化したアルゴリズムのワンダーランドでは、私たちは自分が銃を手にしているのか盾を手にしているのかさえ分かりません。

ソーシャルメディアの力

• パークランド銃乱射事件のニュースが報じられるとすぐに、ロシアのボットが銃支持のツイートをインターネット上に溢れさせた。

• しかし、バージニア・ヘファーナンは、数日のうちにパークランドの学生たちは悲しみを効果的な活動に変えていたと書いている。

• この記事の著者、モリー・マキューは、ロシアの情報戦士が2016年の大統領選挙の結果に影響を与えたことは今や否定できないと主張する別のWIRED記事を執筆した。

モリー・K・マキュー（@MollyMcKew）は情報戦の専門家であり、ニューメディア・フロンティアのナラティブ・アーキテクトです。彼女は2009年から2013年にかけてジョージアのミヘイル・サアカシュヴィリ大統領政権に、2014年から2015年にかけてモルドバのヴラド・フィラト元首相に助言を行いました。ニューメディア・フロンティアの共同創設者であるマックス・マーシャル（@maxgmarshall）は、本分析のための調査に協力しました。