研究者らがRedditの国家支援トロールを見分ける方法を発見

Reddit ユーザーの Bootinbull は、 2015 年 10 月 14 日にアカウントを登録しました。午前 2 時 45 分に、r/gaming サブレディットにアクセスし、コミュニティに次のような質問を投稿しました。 「 Xenosagaシリーズのゲームは、Dan Simmons の Hyperion カントスの影響を受けていますか?」

Bootinbullの心にはこの疑問が焼き付いていたかもしれないが、Reddit上の他のユーザーにとってはそれほど問題ではなかった。投稿には全くコメントが付かなかったのだ。それでもBootinbullはr/4chan、r/gaming、r/catsに投稿を続け、2週間後にはデッキチェアに寄りかかる犬の写真をr/awwに投稿し、難民流入によってヨーロッパが直面する課題やトルコの地政学的駆け引きについて、Reddit上での議論にも参加していた。

Bootinbull は Reddit に書き込みを続け、かわいい犬の写真を交互に投稿する一方で、中国とロシアの将来的な世界における役割について議論していました。しかし、Bootinbull は実在しませんでした。少なくとも、私たちの従来の理解ではそうではありませんでした。彼らはロシアの荒らしアカウントであり、従来のオンライン言説をひっくり返し、国の論点を大衆に押し付けようとするために政府から金銭を受け取っていたと思われます。このアカウントは、英国、米国、欧州の大学のコンソーシアムの研究者によって、ワールドワイドウェブ上で活動するロシアが支援する荒らしとして特定された 1,248 のアカウントの 1 つです。研究者たちは、2017 年に Reddit によって荒らしと特定された 335 人のユーザーの行動を追跡した後、これらのアカウントを疑わしいと特定しました。Reddit はスパムボットと荒らしの追跡を続けており、2021 年第 2 四半期には 790 万件の「コンテンツ操作」の報告を処理しました。

「これらのアカウントは実在の人物によって操作されています」と、ボストン大学助教授で、TrollMagnifierというツールを用いてこれらのトロールアカウントを特定した研究者の一人であるジャンルカ・ストリンギーニ氏は述べている。このツールは、既知のロシアのトロールアカウントの行動を学習させた人工知能モデルで、Redditで活動する、まだ発見されていない新たなトロールアカウントを特定できるとされている。（この研究結果は、arXivプレプリントサーバーにまだ公開されていない学術論文に掲載されている。WIREDは公開に先駆けて独占的に早期版を入手した。）「彼らは従来の活動を模倣し、互いに議論を交わすでしょう。そして、TwitterとRedditが過去に公開した（疑わしい）アカウントを分析することで、彼らが何をするかを私たちは学んできました。」

民主主義を転覆させ、不和を煽る手口は、多くの場合ソーシャルメディアから始まる。そしてそれはRedditなどのサイトで、前述のBootinbullやJerryRansomといったアカウントを通して行われる。Stringhini氏と彼の同僚は、これらのアカウントが物議を醸すメッセージを少しずつ拡散させつつ、より日常的で平凡な投稿を隠れ蓑にしようとしていることを突き止めた。Bootinbullと同様に、JerryRansomも同じく可愛い動物の写真や4chanを狙ったミームを使い、徐々に政治的な言説に滑り込んでいき、r/sexygirlsにも投稿を追加した。Stringhini氏が指摘するように、ロシアと決定的に結び付けられているアカウントと同様の行動をとるアカウントの多くは、以前にr/awwに投稿していたことが特筆すべき点だ。r/awwは、ユーザーに「かわいい動物」といった反応を引き起こす可能性のある写真の共有を促しており、その多くは可愛い動物たちに対するものだ。

トロールアカウントの行動は、ストリングヒニ氏が「緩やかな連携パターン」と呼ぶものを通して見分けることができます。それほど洗練されていないボットアカウントの場合、投稿されるタイミングとコンテンツの種類からその性質を特定できます。なぜなら、これらのアカウントは、その目的のために特別に作成された複数のTwitterアカウント、あるいはサイバー攻撃によってログイン情報を盗まれた無実の被害者から乗っ取られた複数のアカウントから、同じメッセージを大量に発信することが多いからです。しかし、トロールアカウントについては、より深い分析が必要です。

トロールの手法（アカウントの背後に生身の人間を介する手法）は、旧来の鈍感な自動ツールの力が衰えるにつれ、より一般的になってきた。「ボットネットワークが目に見える形で利用されることは、今では少なくなっています。なぜなら、それらは既に十分に記録されており、常に暴露されているからです」と、ベリングキャットの創設者エリオット・ヒギンズ氏は語る。ベリングキャットは、こうしたキャンペーンやオープンソースインテリジェンスの利用を記録し、明らかにする活動を行っている。特にロシアを標的としている。「トロールは、オンラインコミュニティの自然な発展をうまく利用しているため、より影響力を持つ傾向があります。ゼロから何かを構築しようとするのははるかに困難ですから」

その代わりに、ロシアのトロールたちはオンラインで偽のペルソナを構築し、既存のRedditコミュニティに溶け込もうとし、それから会話を自分たちの真の目的へと移していく。BootinbullやJerryRansomのように、彼らは犬や動物についての無害な投稿から始め、それから地政学的な話題へと方向転換する。その目的は、アカウントの背後にいる人物をより現実的で人間らしく見せることで、より物議を醸すコンテンツを拡散させやすくすることだ。Stringhiniらの研究によると、彼らの焦点は社会紛争にある。トロールのアカウントはBlack Lives Matterをめぐる分裂を利用し、米国大統領選挙でも利用した。これは2016年の大統領選でドナルド・トランプがヒラリー・クリントンに勝利する要因になったとも言える。Facebookがまとめた内部文書によると、2020年の選挙を前にFacebookのトロールファームの投稿は1億4000万人の米国人が見たという。しかし彼らはまた、Redditコミュニティに溶け込もうとしていると見なされる話題にも焦点を当てている。 「彼らは暗号通貨を強く支持しており、ソーシャルメディアでもそれを推奨しています」とストリングニーニ氏は言う。「同時に、同じアカウントで政治的な言説も発信することがあります。彼らは溶け込もうとしているのです。」

これらはすべて、ロシアの国家支援型トロールが従うべきマニュアルの一部であり、多くの国々でますます一般的になりつつある。ストリングィニ氏は、組織的なソーシャルメディア・トロール活動を通じて会話を誘導しようとしている国として、ロシア、中国、ベネズエラ、イランを挙げている。しかし、表面上は正常であるように見せかけているにもかかわらず、研究者たちは、不誠実さを示唆する兆候をいくつか発見した。ランダムサンプルに基づくと、トロールのアカウントはReddit上の「本物の」アカウントに比べてコメントを10%未満しか投稿しない傾向がある。これは、現実を装うことが長期間困難であるか、あるいは彼らが自分の仕事が終わったと思ったら諦めてしまうことを示唆している。逆に、彼らは会話に参加するよりも発信することに積極的だ。生涯で投稿する平均回数は 42 回であるのに対し、非トロールのアカウントでは 32 回である。最も示唆的なのは、潜入スパイがデッドドロップの状況で既知のスパイに遭遇することで発見されることが多いのと同様に、国家の支援を受けたソーシャル メディア トロールは、互いのスレッドに投稿せずにはいられないことから発見されることが多いということだ。

こうした分析の活用は、偽情報や技術政策を監視する人々から歓迎されている。「新たなオンライン安全規制当局や独立監査機関は、TrollMagnifierのような技術の導入を検討し、既存の安全システムを評価し、ソーシャルメディアがオンライン上の危害に対してより責任を持つようにすべきだ」と、トニー・ブレア地球変動研究所のインターネット政策部門ディレクター、マックス・ベヴァートン＝パーマー氏は述べている。Redditの広報担当者は、同社のポリシーではコンテンツ操作を禁止しており、これには組織的な偽情報キャンペーンだけでなく、誤解を招く、あるいは個人や団体に誤って帰属するコンテンツも含まれると述べている。「当社には、自動ツールと人間によるレビューの両方を用いて、プラットフォーム上でこのような行為を検知・防止する専任チームがあります」と広報担当者は述べている。「チームの努力の結果、ポリシー違反コンテンツの99%をユーザーが目にする前に削除しています。」

しかし、ヒギンズ氏と、コペンハーゲン大学で偽情報を研究するエフゲニー・ゴロフチェンコ氏は、研究者によるトロール狩りのアプローチの再現性については慎重な姿勢を示している。ヒギンズ氏は、一部の有機的な行動はトロールのように見えることがあると述べ、以前のより基礎的な学術研究では、偽の行動と本物の行動を正確に区別できなかったという誤りがあったと指摘する。「この研究から得られるデータを詳しく調べて、どれだけの人が単に交流しているコミュニティなのか、それとも実際に国家公認のトロールなのかを見極めたいと考えています」とゴロフチェンコ氏は語る。ゴロフチェンコ氏は結果自体を懸念している。「非常に興味深いテーマであり、論文も意欲的ですが、著者らが提示するツールの精度をどのように評価すればよいのか、私にはよく分かりません」とゴロフチェンコ氏は述べている。第一に、このツールは発見されたアカウント、つまり最悪の設計のアカウントに基づいて学習させている。おそらく、それらは国家が支援する偽情報発信能力の氷山の一角に過ぎない。「これらのアカウントは検知されないように作られています」とゴロフチェンコ氏は言う。「このような研究は常に最低限の情報しか提供しません。意図的にです。なぜなら、私たちは身を隠すためにリソースを費やしている国家主体について研究しているからです。」

この論文とその結果を歓迎する声もある。「ツールの効果は実際に使ってみることで証明される。今回の結果から判断すると、研究者たちは組織的な荒らし行為に関与するアカウントの特定を拡大する巧妙な方法を開発したと言える」と、戦略対話研究所のアナリストで、オンラインで偽情報や過激主義を監視しているキアラン・オコナー氏は述べている。しかしオコナー氏は、既知のアカウントのシードリストがなければこうした追跡は難しいと指摘する。研究者を支援するためにデータを公開することにオープンなRedditなら、シードリストの作成は可能だ。「ソーシャルメディアプラットフォームの透明性は継続的な課題であり、ソーシャルメディア上の悪質な行為者が好む新たな戦術、ツール、物語を理解し、対処するためには、より多くのデータこそが、私たちひいてはプラットフォーム自身を助けるための答えであると我々は主張していく」とオコナー氏は述べている。

この透明性は、研究者が荒らしのような行動を特定するのに役立っており、研究者たちはRedditへの恩返しとなることを期待している。「この種の技術は間違いなくソーシャルネットワーク企業にとって役立つでしょう」とストリングヒニ氏は語る。IPアドレスやブラウザのフィンガープリントなど、荒らしユーザーの本当の背景についてヒントを与えてくれる指標は他にもあるが、コンテンツの投稿パターンを調査することで、より正確に偽ユーザーを特定できる可能性があると彼は指摘する。

しかし、Redditのありふれた日常を考えると、偽ユーザーを見つけるのは依然として困難です。Bootinbullは最初の投稿から50日後の2015年12月3日、プラットフォーム上で沈黙しました。人々の心と精神を揺さぶるという彼の使命は、成功しなかったか、あるいは終わったかのようでした。彼らの最後の投稿は？これは、r/jokesで女性が男性に「ビール飲みますか？」と尋ねるという長文のジョークのネタに、Bootinbullが「ただのビール :)」と失言して飛び込んできたものです。 

WIREDのその他の素晴らしい記事

• 📩 テクノロジー、科学などの最新情報: ニュースレターを購読しましょう!
• NFT革命を起こした1万人の顔
• Zillowがアルゴリズムによる住宅価格設定を成功させられなかった理由
• あらゆるコロナウイルスに対するワクチン開発競争
• Doomの作者が「ドゥームスクロール」を攻撃
• 「大辞任」は要点を外している
• 👁️ 新しいデータベースで、これまでにないAIを探索しましょう
• 📱 最新のスマートフォンで迷っていますか？ご心配なく。iPhone購入ガイドとおすすめのAndroidスマートフォンをご覧ください。