ジグソーは実験としてロシアのTwitterトロールキャンペーンを買収した

2年以上もの間、ソーシャルメディアを通じた偽情報キャンペーンというと、ロシアのインターネット・リサーチ・エージェンシー（IRA）のイメージが頭に浮かんできた。サンクトペテルブルクの企業ビルの複数のフロアを拠点とするこの企業は、クレムリンの命令でプロパガンダを捏造している。しかし、今日では標的を絞ったトロールキャンペーンははるかに安価になり得る。アルファベット傘下のジグソーのリサーチマネージャー、アンドリュー・ガリー氏によると、わずか250ドルで済むという。ガリー氏がそのことを知っているのは、ジグソーが昨年、あるキャンペーンに支払った金額がまさにその金額だったからだ。

2018年春にジグソーは、国家が支援する偽情報に関する調査の一環として、ロシア語圏のウェブのいかがわしい場所で、ソーシャルメディアを通じた偽情報キャンペーン、いわゆる「影響力行使作戦」がどれほど容易かつ安価に買収できるかを検証しようと試みた。2018年3月、ジグソーのアナリストは、複数の偽情報アンダーグラウンド業者と交渉した後、実際に偽情報作戦を実行する業者を1社雇用し、ジグソー自身が標的として構築した政治活動ウェブサイトへの攻撃を委託した。

この取り組みによって、Jigsawは組織的なオンライン偽情報の参入障壁がいかに低くなったかを実証した。政府だけでなく個人にとっても容易にアクセスできるようになったのだ。しかし、批評家たちは、同社がトロール行為に関する調査を行き過ぎた結果、ソーシャルメディア上の政治的言説をさらに汚染したと指摘している。

「例えば、政敵や企業を攻撃するために偽情報キャンペーンを展開したいが、独自のインターネット・リサーチ・エージェンシーを立ち上げるインフラがないとします」と、ガリー氏はWIREDのインタビューで語り、Jigsawの1年前から続く偽情報実験について初めて公に語った。「私たちは、政治的アクターにこの種の支援を提供してくれる人物と提携できるかどうかを確認したかったのです…非常に低コストで、ツールやリソースを必要とせずに、政敵の信用を直接失墜させるサービスを購入してもらうのです。私たちにとって、これはこうした能力が存在し、インターネット上でこれを実行することに抵抗がないアクターが存在することを明確に示すものです。」

カウンターの裏のトロル

2018年初頭、Jigsawはロシア語圏のブラックマーケットおよびグレーマーケットのウェブフォーラムで偽情報の有料提供サービスを探るため、セキュリティ企業を雇った（この企業は、アンダーグラウンドフォーラムでの活動を継続するため、WIREDは企業名を明かさないよう要請した）。Exploit、Club2Crd、WWH、Zloyといったサイトを閲覧したセキュリティ企業の研究者たちは、荒らし行為や偽情報キャンペーンの販売を明示的に申し出ているものは発見しなかったものの、偽フォロワー、有料リツイート、ブラックハットSEOといった関連する手口は数多く見つかったと述べている。しかし、チームは水面下にはもっと多くのものが待ち受けていると推測していた。

「これをウィンドウショッピングと見なすと、もし誰かがショーウィンドウで偽の「いいね！」を売っているなら、おそらくカウンターの裏で何か他のことをしようとしているだろうという仮説を立てました」とガリー氏は語る。セキュリティ会社ジグソーの研究者たちがこれらの業者と密かに話し合いを始めたところ、実際に政治的な話題に関する大規模なソーシャルメディア投稿を非公開のサービスとして提供している業者がいくつかあることがわかった。

Jigsawは、有料のトローリングキャンペーンに参入する前に、まずターゲットが必要だと認識していました。そこで、Jigsawは契約したセキュリティ会社と共同で、「スターリンを倒せ」という政治キャンペーンのウェブサイトを作成しました。ウェブサイトには、よりリアルに見えるよう、ブログ記事やコメントが散りばめられています。スターリンのイメージをめぐる議論は数十年前の議論のように聞こえますが、このウェブサイトは、スターリンを英雄として記憶すべきか、それとも犯罪者として記憶すべきかという、ロシアで現在も続く議論に着目したものでした。（クレムリンによる復権活動もあって、世論調査ではスターリンに対する好意的な感情がここ数年で最高水準に達していることが示されています。）

「ちょっとした騒動を起こすのが狙いだったんです」と、このプロジェクトに携わったセキュリティ会社のスタッフの一人は、歴史上の人物に焦点を当てる決断の理由を説明した。「現実の問題とあまり結び付けたくなかったので、非常に慎重に考えました。干渉していると思われたくなかったんです」

ジグソーは、自ら作成したサイトを攻撃するために、偽のフォロワーとリツイートを販売するSEOTweetというサービスを選びました。SEOTweetは、研究者たちに2週間の偽情報キャンペーンを250ドルという破格の価格で提供しました。「Down with Stalin」サイトの政敵を装ったジグソーは、その価格に同意し、SEOTweetにサイト攻撃を依頼しました。SEOTweetはまず、サイトが不適切なコンテンツを掲載しているという虚偽の苦情をサイトホストに送信すると見せかけて、サイトをウェブ上から完全に削除することを提案しました。費用は500ドルでした。ジグソーはこの強引な提案を断りましたが、SEOTweetにソーシャルメディアキャンペーンの実行を依頼する250ドルをサードパーティのセキュリティ会社に支払うことを承認しました。それ以上の指示は与えませんでした。

スターリンを倒し、プーチンを支持せよ

2週間後、SEOTweetはJigsawに、25の異なるTwitterアカウントから反スターリンサイトを攻撃するロシア語のツイート730件を投稿したと報告しました。また、地域ニュースサイトから自動車や手芸のフォーラムまで、一見ランダムなサイトのフォーラムやブログのコメント欄に100件の投稿があったことも報告しました。Jigsawによると、ツイートとコメントのかなりの数は、単なるコピペボットではなく、人間が書いたオリジナルの投稿のようです。「これらの数はそれほど多くなく、それは意図的です」とJigsawのガリー氏は言います。「私たちはこれについて世界的な偽情報キャンペーンを仕掛けようとしたわけではありません。脅威アクターが概念実証を提供できるかどうかを確認したかっただけです。」

SEOTweetは、Jigsawからの指示なしに、反スターリンウェブサイトをめぐる争いが、実際には現代ロシアの政治、そして来たる大統領選挙に関するものだと推測した。「あなた方は、大統領が国民の生活を良くするために国のために尽くしているすべてのことを理解していない。あなた方机上の空論家は何もできない」と、@sanya2un1995という偽ユーザーが投稿したロシア語のツイート（下記）には記されていた。彼女の投稿にはスターリンの写真が含まれていたが、明らかにロシアのウラジーミル・プーチン大統領を指していた。別の偽アカウントは、フォーラムに反スターリンサイトを「大統領についてあらゆる悪意のあることを書き連ねている。大統領は皆を屈服させ、ソ連を復活させようとしているとされているが、個人的にはそうではないと思う。大統領はすべてを私たちのために、庶民のために尽くしている」と非難する投稿をした。

奇妙なことに、Jigsaw社も、この実験のために雇われたセキュリティ企業も、1年前の実験記録がないため、WIREDにキャンペーンの投稿のサンプルを数点しか提供できなかったと述べています。キャンペーンで使用された25のTwitterアカウントは、その後すべてTwitterによって停止されています。

WIREDはSEOTweetのウェブサイトseo-tweet.ruを通じて連絡を取ろうとした。同ウェブサイトは現在、自称マーケティングおよび暗号通貨起業家のマーカス・ホーナー氏のサービスを宣伝している。しかし、ホーナー氏はコメント要請に応じなかった。

ブローバック

Jigsawは、安価で容易にアクセスできる荒らし行為の可能性を露呈させた一方で、その実験自体への批判も招いている。同社は、オンライン上の政治的言説をさらに汚染した一連の投稿に対し、単に怪しげなサービスに金を支払っただけではない。20世紀最悪の大量虐殺を行った独裁者の一人を支持するメッセージに加え、ウラジーミル・プーチン大統領を支持する一方的な投稿までもが、その対象となっていたのだ。

「ロシアで偽情報工作を買収し、それに関与することは、たとえ規模が小さいものであっても、そもそも非常に物議を醸し、危険な行為だ」とジョンズ・ホプキンス大学の政治学者で、偽情報に関する近々出版予定の著書『Active Measures』の著者であるトーマス・リド氏は言う。

さらに問題なのは、ロシアとロシアのメディアがこの実験をどう捉えるか、あるいはどう歪曲するかだ、とリド氏は言う。ジグソーがアルファベットやグーグルと関係があることを考えると、この問題は特に厄介だ。「最大のリスクは、この実験が『グーグルがロシアの文化や政治に干渉している』と歪曲される可能性があることだ。これは反米の決まり文句にピッタリ当てはまる」とリド氏は言う。「彼らは、自分たちがまさにその物語に乗っかっていることに気づかなかったのだろうか？」

しかし、ジグソー社の最高執行責任者であるダン・キーザーリング氏は、この調査結果を支持し、実際に生成されたコンテンツはソーシャルメディア全体のごくわずかな一滴に過ぎないと指摘している。「私たちは、調査方法においてリスクを最小限に抑えるよう、あらゆる予防措置を講じています」とキーザーリング氏は語る。「今回のケースでは、偽ウェブサイトの作成やこのような小規模なキャンペーンの勧誘による比較的小さな影響と、デジタル傭兵の世界を暴く必要性を天秤にかけたのです。」

しかし、ジグソー実験が実際にどの程度その慣行を暴いたのかは、精査に値すると、ブルッキングス研究所で偽情報研究に取り組んでいるアリナ・ポリアコワ氏は述べている。彼女は理論的にはこの研究を支持しているが、ジグソー実験は結果を公表したことがなく、今も公表していないことを指摘する。

「政策立案者や一般市民は、これがどれほど危険で、参入コストがいかに低いかを理解していないと思います」とポリャコフ氏は言う。「実験としては問題ないと思います。問題だと思うのは、実際に公表していないことです」。ジグソーのスタッフは、これまで実験結果を公表せず、公表さえしていなかったことを認めている。その理由の一つは、セキュリティ企業のパートナーがロシア語の地下市場で行っている活動に支障をきたすような研究手法の漏洩を避けるためだと彼らは述べている。しかしジグソーは、この実験結果を偽情報キャンペーンの検知に関する研究や、2018年末のウクライナ大統領選挙を前に開催した偽情報に関するサミットで活用したと述べている。

ジグソーは、偽情報の闇の術に手を出したことで物議を醸した最初の企業ではないだろう。昨年、コンサルティング会社ニュー・ナレッジは、アラバマ州上院議員の空席を埋めるための特別選挙を前に、保守派有権者を標的とした偽情報の実験を行っていたことを認めた。最終的に、インターネット界の億万長者であるリード・ホフマンは、ニュー・ナレッジを雇い、その影響力操作実験を後援した団体に資金を提供したことを謝罪した。

ジグソーのケーススタディは、少なくとも一つの点を証明した。それは、数百ドルの余裕があれば、政府からテクノロジー企業、そして恨みを持つ一般人まで、偽情報キャンペーンの扇動的な力は誰にでも手の届くものになったということだ。つまり、こうしたキャンペーンの数は今後ますます増加し、標的となった人々、そして場合によっては、実行犯自身にも悪影響が及ぶことが予想される。

WIREDのその他の素晴らしい記事

• 時代を決定づけたハッカー集団
• フェイクニュースの復活とスパムからの教訓
• 生産性と、困難な方法で物事を行うことの喜び
• 新しいタイヤにより、電気自動車の運転は本来あるべき静かさを実現
• 犬のように嗅覚が優れたロボットの開発を目指す
• 💻 Gearチームのお気に入りのノートパソコン、キーボード、タイピングの代替品、ノイズキャンセリングヘッドホンで仕事の効率をアップさせましょう
• 📩 もっと知りたいですか？毎日のニュースレターに登録して、最新の素晴らしいストーリーを見逃さないでください

2019 年 6 月 12 日午後 12 時 25 分 (東部標準時) に更新され、Dan Keyserling 氏の肩書きが訂正され、Jigsaw 自身が直接支払いを行ったのではなく、Jigsaw が雇用したセキュリティ会社の研究者が SEOTweet に支払いを行うことを承認したことが明確になりました。