中国が偽情報に弱い理由

見出しは悲惨なものだった。「中国はAIを使って米国、韓国、インドの選挙を妨害するだろう、とマイクロソフトが警告」。また、「中国はAIを使って偽情報を拡散し、アジアと米国に不和を煽っている」という主張もあった。

これらの警告は、マイクロソフトの脅威分析センターが今月初めに発表した報告書に基づいている。報告書では、中国の偽情報キャンペーンが人工知能（AI）技術を駆使して、米国および世界各地で分裂を煽り、選挙を混乱させていることが概説されている。すでに台湾の選挙を標的としたこのキャンペーンは、AI生成の音声やミームを用いてユーザーの注目を集め、エンゲージメントを高めることを目指している。

しかし、これらの見出しやマイクロソフト自身が十分に伝えることができなかったのは、スパモフラージュ・ドラゴンやドラゴンブリッジとして知られる中国政府と関係のある偽情報キャンペーンが、これまでのところ実質的に効果がなかったということだ。

「中国の偽情報キャンペーンは、2014年のロシアと言えるでしょう。つまり、10年遅れているということです」と、マイクロソフトの脅威分析センターのゼネラルマネージャー、クリント・ワッツ氏は語る。「彼らは様々な試みをしていますが、その洗練度は未だに非常に低いのです。」

過去24ヶ月間、このキャンペーンは主に親中的なコンテンツの推進から、より積極的に米国政治を標的とする方向に転換してきました。これらの取り組みは大規模で、数十のプラットフォームにまたがっていましたが、現実世界への影響はほとんどありませんでした。それでも専門家は、影響力のあるアカウントがたった一つの投稿を拡散するだけで、状況が一変する可能性があると警告しています。

「スパモフラージュは壁にスパゲッティを投げつけるようなものです。しかも、大量のスパゲッティを投げつけています」と、ソーシャルメディア分析会社Graphikaの最高情報責任者、ジャック・スタッブスは語る。Graphikaは、スパモフラージュ活動の早期発見に尽力した企業の一つだ。「この攻撃の規模と量は非常に膨大です。彼らは毎日複数の動画や漫画を投稿し、世界規模で様々なプラットフォームに拡散しています。今のところ、その大部分は定着していないように見えますが、将来も定着しないとは限りません。」

Spamouflageは少なくとも2017年以来、香港の民主化デモ、米国大統領選挙、イスラエルとガザ地区など、多岐にわたる世界的な出来事を混乱させることを目的としたコンテンツを絶え間なく発信し続けている。中国政府による数十億ドル規模の影響力行使キャンペーンの一環として、このキャンペーンはXやYouTubeから、親中国コンテンツの拡散を狙うGabのような非主流プラットフォームまで、数十のインターネットプラットフォームで数百万のアカウントを活用してきた。また、AI生成プロフィール写真などの最先端技術をいち早く導入したプラットフォームの一つでもある。

専門家らは、これだけの投資があったにもかかわらず、文化的背景の問題、グレート・ファイアウォールによる中国のオンラインと外界の遮断、国営メディアと偽情報キャンペーンの連携の欠如、中国自身の厳重に管理されたオンライン環境向けに考案された戦術の使用など、いくつかの要因により、このキャンペーンは概ね失敗していると述べている。

「2017年以来、スパモフラージュはずっとそうでした。規模が大きくなり、どこにでも存在するのに、研究者以外には誰も注目しないのです」と、戦略対話研究所のシニアオープンソースアナリストで、スパモフラージュ攻撃を何年も追跡してきたエリーゼ・トーマス氏は言う。

「ほとんどのツイートは、全くエンゲージメントがなく、閲覧数も非常に少ないか、スパムフラージュネットワークの一部と思われる他のアカウントからのエンゲージメントのみを受けている」とトーマス氏は、2月に失敗したキャンペーンに関する戦略対話研究所の報告書に記している。

過去5年間、このキャンペーンを追跡してきた研究者たちは、このキャンペーンがビデオや自動ナレーション、そして最近ではAIを導入してプロフィール画像や既存の分裂を煽ることを目的としたコンテンツを作成するなど、戦術を変えようとしているのを観察してきた。

AI テクノロジーの導入は、必ずしもキャンペーンがより洗練され、より効率的になっていることを示すものではありません。

「これらのGen AI製品の主なメリットは、効率性と拡張性です」とスタッブスは言います。「少ないリソースで、同じことをより多く実現できます。コストもスピードも上がりますが、私たちはそれを高度な技術だとは考えていません。これらの製品は実に簡単に入手できます。クレジットカードで5ドル支払えば、誰でも手に入れることができるのです。」

このキャンペーンは、Facebook、Reddit、TikTok、YouTubeなど、事実上すべてのソーシャルメディアプラットフォームでも展開されています。長年にわたり、主要プラットフォームはキャンペーンに関連する数十万ものアカウントをシステムから削除してきました。昨年は、Metaが「世界最大規模のクロスプラットフォームの秘密的影響力作戦」と呼ぶキャンペーンを停止しました。

米国政府もこの動きを抑制しようと試みている。1年前、司法省は中国公安部の「912特別プロジェクト作業部会」の職員34人を、影響力行使活動に関与したとして起訴した。司法省はこれらの逮捕とスパモフラージュ事件を明確に結び付けていないものの、この事件に詳しい情報筋はWIREDに対し、この活動は「100%」中国政府が支援していたと語った。この情報筋は、この情報について公に発言する権限がないため、匿名を条件に語った。

「商業団体ならこんなことはしない」とトーマス氏は言う。彼もまた、このキャンペーンは中国政府によるものだと考えている。「彼らはもっと革新的だ。戦術を変えているはずだ。一方、政府の広報キャンペーンが、役に立たないにもかかわらず、非常に長期間続くことは珍しくない」

しかし、過去 7 年間にわたり、Spamouflage キャンペーンによって推進されてきたコンテンツには、ロシア、イラン、トルコなどの国による成功した国家による偽情報キャンペーンに含まれていたニュアンスや対象者に特化した内容が欠けていました。

「彼らは文化的背景を混同しているので、間違いを犯すのです」とワッツ氏は言います。「彼らは聴衆の中にいて、意味不明なことを話していて、聴衆もそれを知っているので、コンテンツに関心を示さないのです。投稿に漢字が残っていることもあります。」

こうした状況の一因は、グレート・ファイアウォールによって中国国民が外界から事実上遮断されていることにあります。グレート・ファイアウォールは、中国政府が国民がインターネット上で閲覧・共有する内容を厳しく管理することを可能にし、専門家によると、このため、影響力行使を行う者にとって、中国国外の視聴者を効果的に操作する方法を真に理解することは非常に困難になっています。

「彼らは、WeChatやWeiboのような閉鎖的で厳しく管理されたプラットフォームで使っていたかもしれない戦略を、オープンなインターネット上での運営に適応させなければならないのです」とトーマス氏は言う。「つまり、中国政府であれば、WeChatやWeiboにコンテンツを氾濫させることはできますが、オープンなインターネットにコンテンツを氾濫させるのは現実的ではありません。まるで海を水没させようとしているようなものです。」

スタッブス氏も同意見だ。「彼らの国内情報環境は、現実的でも本物でもない」と彼は言う。「彼らは今、自由で本物の情報環境の中で影響力を発揮し、作戦上の戦略的な影響を与えるという任務を負っている。それは根本的に異なる状況だ」

ロシアの影響力行使キャンペーンは、政府報道官、国営メディア、インフルエンサー、ソーシャルメディア上のボットアカウントなど、複数の層をまたいで連携する傾向にある。彼らは皆、同じメッセージを同時に発信する。これは、スパムフラージュの運営者が行わないことだ。これは最近、テキサス州の国境危機をめぐって米国に分断を煽るためにロシアの偽情報装置が作動した際にも見られた。過激派主導の国境警備隊の活動が活発化し、国営メディア、インフルエンサーのTelegramチャンネル、ソーシャルメディアのボットで同時に「内戦」の呼びかけが行われた。

「最大の問題は、（中国の活動が）活動の連携をとっていないことだと思います」とワッツ氏は述べた。「彼らは、公然のメディアであれ、ある種の隠蔽メディアであれ、どんな任務であっても、非常に直線的なやり方をしています。彼らは活動を続けており、規模も大きいのですが、非常にトップダウン型の活動であるため、目的に沿って連携が取れていません。」

キャンペーンで制作されたコンテンツの中には、多くの「いいね！」や返信を獲得しているように見えたものもありましたが、詳しく調べてみると、それらのエンゲージメントはSpamouflageネットワーク内の他のアカウントからのものであることが判明しました。「Spamouflageは非常に閉鎖的なネットワークで、自分たちだけでエンゲージメントしていました」とトーマス氏は言います。

ワッツ氏は、中国の偽情報キャンペーンが米国大統領選挙に重大な影響を与えるとは考えていないものの、「状況はほぼ瞬時に変化する可能性がある。適切なアカウントが（中国のボットアカウントの投稿を）偶然見つけ、発言権を与えれば、その影響力は一気に大きくなるだろう」と付け加えた。

トーマス氏によれば、これはすでに起こっているという。

トーマス氏が追跡していたアカウント（現在は停止中）がXに投稿した投稿のプロフィール欄には「MAGA 2024」という記述があり、ロシア国営放送RTの動画が共有されていた。その動画は、ジョー・バイデン大統領とCIAがウクライナにネオナチを送り込んだと主張（この主張は調査団体ベリングキャットによって否定されている）していた。スパムフラージュ系の投稿の多くと同様に、この動画も当初はほとんど注目されなかったが、学校銃乱射事件の陰謀論者で、同プラットフォームで220万人以上のフォロワーを持つアレックス・ジョーンズ氏のアカウントによって共有されると、瞬く間に数十万回もの再生回数を記録した。

「これらのMAGAflageアカウントが他と違うのは、アレックス・ジョーンズ氏を含め、生身の人間がそれを見ているという点です。今まで見た中で最も奇妙なツイートです」とトーマス氏は語った。

トーマス氏は、ジョーンズ氏が共有したアカウントは、自動化されたコンテンツを吐き出すのではなく、本物の人間であるかのように見せかけて他のユーザーと有機的に交流することを目指していたため、典型的なスパムアカウントとは異なると述べている。これは、2016年の選挙前にロシアのアカウントが行っていたことと似ている。

トーマス氏は、これまでに「MAGAflage」と名付けたこうしたアカウントを4つしか発見していないが、Xのバックエンドにアクセスできなければ見つけるのが非常に難しい、目立たないところで活動しているアカウントがさらに多く存在する可能性があると懸念している。

「懸念しているのは、彼らが今後、あるいは既に相当な規模でこれを行っているのではないかということです」とトーマス氏は述べた。「もしそうなれば、特に外部の研究者にとっては、検知が非常に困難になるでしょう。もし彼らがSpamouflageネットワークとの興味深い繋がりを持たない新しいアカウントでこれを行い、仮にその上に大規模な言語モデルを用いてAIでテキストを生成し始めたら、私たちは大変なことになるでしょう。」

スタッブス氏によると、グラフィカは2022年の中間選挙前から米国の有権者になりすまそうとするスパムフラージュアカウントを追跡しているが、まだ本格的な成功例には至っていないという。スタッブス氏はこうした活動を報告することは重要だと認識しているものの、こうした大規模なキャンペーンが小規模なキャンペーンを覆い隠してしまう可能性を懸念している。

「ロシアのSpamouflageやDoppelgangerのようなキャンペーンについては、今後ますます多くの議論や報道が見られるようになるでしょう。それはまさに、私たちが既にそれらのキャンペーンについて知っているからです」とスタッブス氏は言います。「どちらのキャンペーンも、信じられないほど大規模な活動であると同時に、非常に簡単に検知できる活動の例です。しかし、私は私たちが知らない事柄について、より深く懸念し、心配しています。」