誤情報撲滅を目指すデータサイエンティストの挑戦

2020年9月15日午前6時

サラ・ジェーン・タープは、サイバーセキュリティツールを駆使して、虚偽の主張をマルウェアのように追跡しています。彼女の目標は、危険な嘘が私たちの信念をハッキングするのを阻止することです。

2018年6月初旬のある日、イギリス人のデータサイエンティスト、サラ・ジェーン・タープは、米軍主催の演習に参加するため、自宅のあるオレゴン州からフロリダ州タンパへと飛び立った。ノルマンディー上陸作戦の記念日であるこの日、米特殊作戦軍は、ある思考実験を行うために、専門家と兵士を集めていた。「もしノルマンディー上陸作戦が現代に起こったら、どのような展開になるだろうか？」 1944年の作戦が成功した大きな要因は、連合軍がほぼ1年かけて偽情報を流し、ドイツ軍に実際には存在しない場所で兵力を増強していると思わせ、偽の無線通信を流し、さらには重要地点にダミーの戦車を配置していたことにある。では、現代のツールを使って、どのように敵を欺くのだろうか？

タープはフロリダで1日を過ごし、現代の敵を欺く方法をブレインストーミングしたが、その結果を見たことはない。「報告書は即座に機密扱いになったと思います」と彼女は言う。しかし、結局、彼女を招待した海軍司令官パブロ・ブロイヤーとサイバーセキュリティ専門家のマーク・ロジャースと夕食を共にすることになった。彼らは現代の欺瞞、特に新たな危険性、つまりソーシャルメディアを通じて偽情報を拡散するために一般市民を利用するキャンペーンについて語り始めた。2016年の大統領選挙は、諸外国がこの種の作戦の戦略書を持っていることを示した。しかし、米国では、これに対する対応、あるいは防御はほとんど見られなかった。

Image may contain Symbol Flag Transportation Vehicle Aircraft and Airplane

「私たちは問題を賞賛することに飽き飽きしていました」とブロイヤーは言う。「誰もがそれを見つめていましたが、誰も何もしていませんでした。」

彼らは、偽情報を追跡し阻止するための独自の戦略策定について議論した。誰かがキャンペーンを開始すれば、その仕組みを知りたいと思った。世界中の人々が同じ奇妙な理論を唱え始めたら、誰がその背後にいるのかを知りたいと思った。ハッカーとして、彼らは物事を分解して仕組みを解明することに慣れていた。例えば、コードに潜む痕跡を利用してマルウェアの出所をロシアの犯罪組織まで遡ったり、サービス拒否攻撃をリバースエンジニアリングして防御策を探ったりした。そして、偽情報も同じように、サイバーセキュリティの問題として扱うことができることに気づいた。

3人はタンパを去る際、偽情報キャンペーンを分析し、研究者がその仕組みを理解して対抗できる方法があるはずだと確信した。それから間もなく、タープはセキュリティ専門家、学者、ジャーナリスト、そして政府の研究者からなる国際的なグループを結成し、彼女が「ミスインフォセック」と呼ぶ分野に取り組んだ。

もちろん、タープはマルウェアと影響力行使キャンペーンの間には重要な違いが一つあることを知っていた。ウイルスはコンピュータネットワークの脆弱なエンドポイントやノードを通じて拡散する。しかし、偽情報の場合、それらのノードは機械ではなく人間だ。「信念はハッキングされる可能性がある」とタープは言う。攻撃から身を守るには、ネットワークの弱点を特定する必要があると彼女は考えた。この場合、そのネットワークとはアメリカ合衆国の国民だった。

6ヶ月後、ブロイヤーがタープをタンパに呼び戻して二人の計画を練り上げようとした時、彼女は飛行機に乗らないことに決めた。2018年の最終日、彼女は赤いヒュンダイに荷物を詰め込み、数週間の旅に出た。ポートランドでの大晦日のパーティーに立ち寄り、友人たちに別れを告げた。嵐が近づいていたので、真夜中前に出発し、街の東側の山岳地帯を越えた。高速道路工事で後方の道路が封鎖される中、彼女は峠を滑るように進んだ。

こうして、タンパまでの3,000マイルのドライブから始まった冒険の旅は、そこで終わることはなかった。タープはインディアナポリスからサンフランシスコ、アトランタ、シアトルへと約9ヶ月間を旅し、偽情報対策のプレイブックを作成し、47州の同僚たちにそれを広めた。その過程で、彼女はアメリカの人間関係における弱点にも目を光らせていた。

タープは内気ながらも温厚な中年女性で、髪型は白髪を短く刈り込んだり、ブロンドのボブにしたり、赤みがかったラベンダー色にしたりと、頻繁に変えています。かつてハッカーのコンベンションで「内向的な人のためのプレゼンテーションガイド」というプレゼンテーションを行い、テディベアを持っていくことを勧めました。古着屋で買ったクロスステッチの途中作品を仕上げるのが好きで、目に見えないものを可視化したり、潜んでいる脅威を探知したりするのにも長けています。

タープは英国政府の防衛研究部門でキャリアをスタートさせました。最初の仕事は、ソナーの観測値と海洋データ、そして人間の知能を組み合わせて潜水艦の位置を特定するアルゴリズムの開発でした。「ビッグデータが流行る前から、ビッグデータだったんです」と彼女は言います。彼女はすぐに、データがどのように人々の信念を形成し、どのようにそれを操作するために使われるのかに興味を持つようになりました。当時は冷戦時代で、優位を保つには、敵がどのように自分を欺こうとするかを知る必要がありました。

冷戦終結後、タープ氏は災害対応に重点を移し、危機地図作成者となり、現地の情報源からデータを収集・統合して、実際に何が起きているのか一貫したイメージを作成した。

2010年のハイチ地震やBP原油流出事故といった災害の際、タープ氏の仕事にはソーシャルメディアからリアルタイムデータを収集することが含まれていた。そんな時、彼女は、既に混沌とした状況にさらに混乱を招こうと意図的に仕組まれたと思われる虚偽の情報に気づき始めた。ある記事はロシアの科学者の言葉を引用し、BP原油流出事故が海底を崩壊させ津波を引き起こすと主張していた。当初、タープ氏はこれらを単発の出来事、つまりデータの流れを詰まらせるゴミだと考えていた。しかし、2016年の大統領選挙が近づくにつれ、彼女自身、そして多くの人々にとって、巧妙な敵対勢力によって偽情報キャンペーンが展開・調整されていることが明白になった。

2019年、タープはアメリカ中を縦横に旅しながら、まるで危機地図を作っているかのようだった。コーヒーショップで人々を観察し、スーパー8で朝食を囲んで会話を交わした。人々が属するコミュニティ、彼らが自分自身をどう見ているのかを知りたいと思ったのだ。彼らは何を考えているのか、どのように互いに話しているのか。彼女はゆっくりと印象を拾い集めていった。

タンパでは、タープとブロイヤーはすぐに偽情報への対策を練り始めた。彼らは、バイラル投稿における特定のフォントやスペルミス、あるいはTwitterのプロフィールで最も注目を集めている投稿のパターンといった小さな手がかりが、攻撃の起源、範囲、そして目的を暴く可能性があるという前提に基づいて作業を進めた。タープが「アーティファクト」と呼ぶこれらの情報は、攻撃の後に残されるパンくずのようなものだ。最も効果的なアプローチは、セキュリティ業界がこれらのパンくずの痕跡をたどることができる方法を構築することだと彼らは考えた。

サイバー犯罪者は共通の技術を寄せ集めてエクスプロイトを組み立てる傾向があるため、多くのサイバーセキュリティ研究者は侵入事例の分析にATT&CKフレームワークと呼ばれるオンラインデータベースを利用しています。これは、ハッカーの間で流通しているあらゆる形態の攻撃手法を網羅した、いわば生きたカタログです。テルプ氏とブロイヤー氏は、これと同じようなライブラリを構築したいと考えていましたが、今回は偽情報を対象としていました。

タープは再び旅に出る前の1週間、タンパに滞在したが、旅の途中でも仕事を続けた。データベースを構築するため、ミスインフォセックチームは、2015年のジェイド・ヘルム15軍事演習（ソーシャルメディア上ではテキサス州に戒厳令を敷く試みと歪曲された）から、2016年の選挙前に人種間の分断を煽ったロシアと関係のあるブラックティビストアカウントまで、過去のキャンペーンを分析した。彼らは各キャンペーンの仕組みを解析し、痕跡をカタログ化し、繰り返し登場する戦略を特定しようとした。インフルエンサーによるリツイートは、メッセージの正当性とリーチを高めたのか？ハッシュタグはフォロワーを奪うために別のキャンペーンから借用されたのか？

パターンを認識できるようになれば、チョークポイントも見えてくるだろうと彼らは考えた。サイバー戦争には、軍隊から派生した「キルチェーン」という概念がある。攻撃の段階を地図に表せば、敵が何をするか予測できるとブロイヤー氏は言う。「もし何らかの方法でそのチェーンを遮断できれば、どこかのリンクを断つことができれば、攻撃は失敗する」

ミスインフォセックグループは最終的に、ATT&CKフレームワークに基づいて、誤情報技術をカタログ化する構造を開発しました。この分野では頭字語の使用が許容されていることから、AMITT（Adversarial Misinformation and Influence Tactics and Techniques：敵対的誤情報および影響力戦術と技術）と名付けられました。彼らはこれまでに60以上の技術を特定し、攻撃の段階にマッピングしています。技術49はフラッディングです。これは、ボットやトロールを用いて大量の情報を投稿し、他のアイデアをかき消してしまうことで会話を乗っ取る手法です。技術18は有料ターゲティング広告です。技術54はTwitterボットによる拡散です。しかし、このデータベースはまだ始まったばかりです。

昨年10月、チームはAMITTを国際的なオープンソース脅威共有プラットフォームに統合しました。これにより、誰もがどこからでも偽情報キャンペーンを追加し、数回クリックするだけで、どのような戦術、手法、手順が使用されているかを特定できるようになりました。テルプ氏とブリューアー氏は、犯罪者が人々の信念をハッキングするのを防ぐ取り組みを「認知セキュリティ」と名付けました。彼らは、世界中のサイバーセキュリティチームと脅威研究者がこの取り組みに取り組むことを期待しています。ブランドの評判管理、市場操作の防止、プラットフォームの法的リスクからの保護など、この種の取り組みに対する需要が急増すると予測しています。

タープは車を運転しながら、トーク番組によく耳を傾けていた。番組は、国家が危機に瀕しているという、長々とした物語を語っていた。アメリカを破滅させようとするリベラルの陰謀と、生き方を破壊しようとする外部勢力の話だ。ネット上では、左派の人々も、存在の危機に瀕した状況に常に苛立ちを募らせていた。

こうした恐怖と分断は、人々を偽情報の格好の標的にする、とタープは考えた。皮肉なことに、こうした恐怖や信念をハッキングする者たちは、往々にして敵対的な部外者である。偽情報の発信者には、政治体制を不安定化させることであれ、単に金儲けのためであれ、常に何らかの目的がある。しかし、受け取る側は大抵、全体像を把握していない。彼らが目にするのは、#5G のトレンドや友人のピザゲートに関する投稿だけだ。あるいは、2020年が始まったばかりの頃は、中国から発生した新たなウイルスに関するセンセーショナルな動画へのリンクばかりだった。

今年2月、ワシントンD.C.でハッカーのコンベンションに参加していたタープさんは、体調が急変し始めた。足を引きずりながら、シアトル北部のベリンガムに借りていたアパートに戻った。そこで医師から、この地域で流行している珍しい肺炎だと告げられた。数週間後、シアトルは米国で最初の新型コロナウイルスのホットスポットとなった。そして間もなく、新型コロナウイルス感染症のパンデミックは、人々が「インフォデミック」と呼ぶ、病気と連動して広がる偽情報の津波と並行して進行し始めた。

テルプが体調を崩したのとほぼ同時期に、ブロイヤーの両親が、新型ウイルスは米国製の生物兵器だと主張する巧妙なFacebook動画を彼に送ってきた。両親はアルゼンチン出身で、心配する故郷の友人からその動画を受け取っていた。動画はAMITTの性能を試す絶好の機会となり、ブロイヤーは遺物の目録作りを始めた。ナレーションはカスティーリャ語のスペイン語だった。ある場面でカメラは、ナレーターがウイルスの変異に関するものだと主張するいくつかの特許番号を映し出す。ブロイヤーがその特許を調べたが、それらは存在しないことがわかった。動画の経路をたどると、Facebookのソックパペットアカウントによって共有されていたことがわかった。彼は南米やラテンアメリカの友人に電話をかけ、動画を見たかどうか尋ねたところ、アルゼンチンに現れる2週間前にメキシコとグアテマラを経由していたことがわかった。「まるでウイルスを追跡しているようでした」とブロイヤーは語る。

ブロイヤー氏は動画を視聴する中で、AMITTデータベースからいくつかの誤情報拡散の手法を認識した。「偽のソーシャルメディアプロフィールの作成」は手法7である。動画では偽の専門家を起用することで、より信憑性を高めているように見せかけている（手法9）。ブロイヤー氏は、この手法が他の誤情報拡散キャンペーンのための物語を植え付けているのではないかと考えた（手法44：歪曲の種まき）。

マルウェアと同様に、誤情報の出所を突き止めるのは容易なことではありません。カスティーリャ語のスペイン語は、ラテンアメリカにおいてこの動画に権威を与えるために作られたように思われます。制作費の高さは、多額の資金援助があったことを示唆しています。動画が最初にメキシコとグアテマラで公開されたこと、そして公開時期が2月、移民労働者が春の植え付けに向けてアメリカへ出発する直前だったことから、アメリカの食料安全保障を脅かすことが目的だった可能性が示唆されます。「彼らは誰かを標的にすることで、アメリカを標的にしたのです。地政学的な影響を真に理解している人物です」とブロイヤー氏は言います。こうした状況から、彼はおそらくロシア人によるプロによる仕業だと確信しました。

もちろん、彼の考えが間違っている可能性もある。しかし、今回のような動画を分析し、データベース化することで、次にカスティーリャ語で洗練された動画が南米に流れ、ソックパペットに頼った場合、法執行機関や研究者が前回の拡散方法を正確に把握し、そのパターンを認識し、より早く対策を講じることができるようになると、ブリューアー氏は期待している。

回復して1ヶ月ほど経った頃、タープはDデイの後に夕食を共にしたマーク・ロジャースからメッセージを受け取った。ロジャースは、サイバー攻撃やウイルス関連の詐欺から病院を守るために活動するボランティア研究者の国際グループの結成に尽力していた。彼らは、ブロイヤーが分析した動画のような偽情報の氾濫を目の当たりにしており、ロジャースはタープに、新型コロナウイルスを悪用するキャンペーンを追跡するチームを率いてもらえないかと尋ねた。彼女はその申し出に応じた。

8月のある火曜日の朝、テルプは自宅で最新の誤情報の分析に取り組んでいた。前日に投稿された動画は、新型コロナウイルス感染症（COVID-19）は世界保健機関（WHO）による捏造だと主張していた。この動画はすでに15万回近く再生されていた。また、アンソニー・ファウチ博士がウイルスワクチンの効果に疑問を抱き、医師たちはマスクは無意味だと考えていると主張するスイスのウェブサイト2件についても情報を得た。彼女のチームは、同じホストドメインにリンクされた他のURLを検索し、資金源を追跡するためにサイトで使用されている広告タグを特定し、特定のフレーズやストーリー（例えば、ドイツ当局がCOVID-19に感染した子供たちを強制収容所に移送することを望んでいるという主張など）をカタログ化して、それらが他にどこで使用されているかを特定した。これらすべてがデータベースに入力され、誤情報対策のための情報源として活用されることになる。プロジェクトの勢いについて、彼女は楽観的だ。「より多く使われれば、AMITT はより効果的になるでしょう」とタープ氏は言い、彼女のグループは NATO、EU、国土安全保障省と協力してこのシステムの試験運用を行っていると付け加えた。

彼女はまた、攻撃を受けているネットワークの強さについても、慎重ながらも楽観的な見方をしている。ロードトリップ中、車を走らせるほどに希望が湧いてきたとタープは言う。人々は自分の街に誇りを持ち、コミュニティを愛していた。人々が具体的な目標のために戦う時、架空の敵との空想的な戦いに陥る可能性は低くなることを彼女は実感した。「人々が自ら解決策を見つけられるように、巻き込む必要があります」と彼女は言う。誤情報がより理解しやすい世界を作ることで、タープはより多くの人が誤情報を拒絶できるようになることを願っている。

ジョージ・フロイドの抗議活動中、タープのチームは別の噂を追っていた。「バス一杯のアンティファ」が小さな町の抗議活動に押し寄せているというミームが、様々な形で何度も再浮上していたのだ。彼女が目にしたのは、保守的な小規模コミュニティの人々が、その噂を否定していたことだ。「『ちょっと待て、これはおかしい』と誰かが言ったんです」と彼女は言う。彼らは、自分たちのコミュニティがハッキングされていること、そして自分たちを守る必要があることを、ある程度理解していたのだ。

SONNER KEHRT （@etskehrt）はカリフォルニア在住のフリーランスライターです。本記事は彼女がWIREDに寄稿する初の記事です。

この記事は10月号に掲載されます。今すぐ購読をお願いします。

この記事についてのご意見をお聞かせください。 [email protected]までお手紙をお送りください。

Image may contain Logo Symbol and Trademark