怒りでFacebookを操作するのは今でも驚くほど簡単だ

Facebookは3月7日、 FacebookとInstagramの137のアカウント、ページ、グループにおいて、「組織的な不正行為」が行われていることが判明したと発表した。

言い換えれば、彼らは詐欺師であり、自分たちの正体と目的について人々を欺いていたのです。欺瞞が暴かれ、このネットワークのメンバーの少なくとも一人をフォローしていた18万のアカウントは、少しだけ安堵しました。

ある意味で、この発表は画期的な出来事でした。英国を標的としたこのようなネットワークが初めて発見されたのです。しかし、別の意味では、発見にこれほど長い時間がかかったことだけが驚きでした。同様の不正操作を行う類似のネットワークは、世界中の国々、プラットフォーム上で次々と発見されています。

最も顕著なのは、2016年の大統領選挙中に米国で活動していたことが判明したネットワークです。しかし、オックスフォード大学の研究者たちは、現在世界48カ国で同様の活動が起こっていると指摘しています。そして今、それが英国にも及んでいることが分かっています。

Facebookが公開した事例は、時に個人、時にグループを装うネットワークを浮き彫りにしている。コンテンツの一部は、Facebookが米国で発見したものと類似しており、オルタナ右翼、ナショナリスト、怒り、そしてしばしばマイノリティへの憎悪に満ちている。「Politicised」という、大きな英国旗を掲げたグループは、ゲイのキリスト教徒がLGBTコミュニティの他のメンバーからいじめられているというコンテンツを共有している。また、オルタナ右翼のハンドブックからそのまま出てきたような「左翼になるのは簡単だ！」という投稿もある。「もし誰かがあなたに反対したら、彼らを人種差別主義者と呼べ！」と書かれている。

さらに奇妙な展開が続く。Facebookによると、このネットワークの操り人形師たちは「ヘイトスピーチを行うために偽アカウントを運営していた」という。しかし、あるアカウントはUKIP党首をヘイトスピーチで訴追するよう呼びかけていた。別の偽グループは「反極右過激派」、さらに別のグループは「ハラールスピーチ」と名乗っていた。ネットワークは組織化されていたが、完全に矛盾した情報を共有するために組織化されていた。

これは、BBCや他のメディアが「フェイクニュース」と呼んでいるものとは、実際には全く違います。このネットワークが流していたコンテンツの中には、ニュースのように見えるものもあれば、明らかにフェイクなものもありました。しかし、そこにばかり注目すると、何が起こっていたのかという本質を見失ってしまいます。このネットワークの目的、存在意義は、あなたやイギリス国民に、これまで信じていなかった何かを納得させようとすることではありません。ある信念を別の信念に置き換えることが目的ではありませんでした。嘘をつくだけでは全体像は見えません。いや、もっと巧妙なことだったのです。

このネットワークはあなたの考えを変えようとしていたのではなく、それを確証しようとしていたのです。あなたが自分の正しさをさらに確信し、間違っている人々、つまりインターネット上の「左翼」や「人種差別主義者」に対する怒りを、以前よりもさらに増幅させようとしていたのです。メッセージは正反対でしたが、すべては全く同じ反応、つまり怒りを引き起こすように計算されていました。この戦略は、過去にTwitterで明らかになったものと似ており、政治的スペクトルの両極に居座り、彼らをますます引き離し、ますます怒らせることを目的としていました。

続きを読む：中国の社会信用システムの複雑な真実

これは人々の考え方を変えることではなく、人々の感情を変えることであり、問​​題そのものは常に人々が最も怒っているものだった。オンライン影響力キャンペーンは、社会が深く対立するほぼあらゆる問題に触れてきた。警察の暴力、少数派の権利、銃の権利、トランスジェンダー問題、ワクチン反対、遺伝子組み換え作物反対、オンラインプライバシーへの懸念、そして政府の腐敗疑惑など。既存の社会的な緊張を煽る分断問題だ。このネットワークの主な焦点はヘイトスピーチのように見えるが、これらのどれでもあった可能性がある。これはフェイクニュースではなく、秘密裏に行われたオンライン影響力作戦だった。

誰が背後にいるのか？Facebookは何も語っておらず、おそらく実際には知らないだろう。こうしたネットワークの背後にいる人物の正体、つまりアトリビューション（帰属）について、私たちは驚くほど無知だ。オンラインでは身元は簡単に偽装できる。あなたの居場所や身元を隠すサービスを提供するグレーマーケットが存在している。独立した研究者でさえ身元を突き止めるのはほぼ不可能であり、巨大テック企業でさえも非常に困難だ。

このネットワークの背後にいるのは、英国の分断が進むことで利益を得る人々であり、それはおそらく敵対的な国家を意味するだろう。しかし、この手のオンライン影響力工作への参入障壁は非常に低いため、ほぼ誰でも関与している可能性がある。4ChanやRedditといったオンラインコミュニティは、面白半分に利用してきた。白人至上主義者は知名度を上げるために、デジタルキャンペーン活動家は選挙に勝つために利用してきた。誰もが、たとえ一般人であっても、利用できる、オンデマンドの偽情報市場が存在するのだ。

この話で最も興味深いのは、Facebookが偶然この事実を発見したという点です。BBCの報道によると、Facebookは英国のサジド・ジャヴィド内務大臣に関するヘイトスピーチを調査していた際に、偶然この事実を発見したとのことです。実際、Facebookはこのような形でこの事実を発見することが多いのです。

政治家やメディアの露出が、巨大テック企業を駆り立てている。Facebookのような規模の企業でさえ、問題が多すぎて、人が多すぎて、言語が多すぎて、データ量が多すぎる。一度に全てを把握するのは不可能だ。Facebookは、最も厄介な問題に焦点を絞っている。理解できるが、同時に懸念も抱かせる。

137のアカウントやグループと聞くとかなり多いように聞こえますし、18万人と聞くとリーチ数が多いようにも聞こえますが、オンラインの影響力の世界では、これらの数字は単に少ないというだけでなく、恥ずかしいほど少ないのです。私はコソボで、Facebookが説明しているネットワークよりもはるかに大きなデジタルプレゼンスを持つ、若いクリックベイト業者に会ったことがあります。ですから、今回の発見は初めてのことですが、非常に小さなものです。

オンライン上の影響力の問題は消えたわけではなく、むしろ今まさに始まったばかりです。次にオンラインで怒りがこみ上げてきたら、立ち止まり、一息つきましょう。そして、オンライン上にはあなたをそう感じさせようとしている人が大勢いることを知っておいてください。

この記事はWIRED UKで最初に公開されました。