Facebookは金曜日、約5500万人のユーザーにトランプ支持の言説を拡散するために欺瞞的な手法を用いていたとされる、900以上のアカウント、ページ、グループからなるグローバルネットワークを、自社のプラットフォームとInstagramから削除した。このネットワークは、偽アカウント、人工的な増幅、そして特に人工知能によって生成された偽の顔のプロフィール写真を用いて、TwitterやYouTubeを含むウェブ上で、主に右翼的な分極化コンテンツを拡散していた。
これは情報戦争における憂慮すべき新たな展開であり、ソーシャルネットワークにおけるAI生成画像の大規模な展開としては初の事例とみられる。この影響工作に関する報告書の中で、偽情報集団GraphikaとDFRLabの研究者らは、この技術が偽のソーシャルメディアキャンペーンに利用されたのは初めてだと指摘した。
Graphika がハイライトした The BL 関連グループの管理者である Facebook アカウント「Mary Keen」と「Jacobs Guillermo」のプロフィール写真。
Graphika提供これらの画像は、「The BL」に関連する610のFacebookアカウント、156のグループ、89のページ、72のInstagramアカウントの一部の信憑性を高めるために使用されました。「The BL」は削除される前、Facebook上で「読者の心を潤す清らかな山の泉」と自称していたデジタルニュースメディアでした。Facebookの調査により、The BLは、中国の精神的団体である法輪功とつながりがあり、ドナルド・トランプを積極的に支持してきた歴史を持つ保守系メディア組織である大紀元と関連していることが判明しました。
表面上は米国を拠点とするメディア組織であるBLネットワークのページは、ベトナムと米国のユーザーによって運営されていました。Facebookによると、これらのユーザーは偽アカウントを広く利用して検出を逃れ、自社のウェブサイトへのトラフィックを誘導していました。GraphikaとDFRLabの研究者による報告書によると、BLネットワークの偽アカウントの大部分は、トランプ大統領を宣伝する80以上のグループとページ群を維持するために使用されていました。これらのページの管理者を務めていたアカウントは、「アメリカはトランプ大統領を必要としている」「トランプをアメリカの大統領に」「私たちはトランプとペンスを支持する！」といった名前を誇示しており、ほとんどが偽物で、ベトナムで作成されていました。
「偽アカウントはFacebookグループの管理者として機能し、グループのメンバー数を増やし、ページの投稿に「いいね！」を付け、TheBL関連資産から大量のコンテンツを投稿していた」と報告書は指摘している。「この構造は、大規模な人工的な増幅工場を構成しており、その唯一の目に見える機能は、TheBL、そしてそれほどではないがEpoch Timesのコンテンツを増幅することだった。」
左は「Patriots for President Trump」の管理者で、研究者によると15人中9人がAI生成の顔写真を使用している。右は「President Trump KAG 2020」の管理者で、16人中8人が偽の顔写真だという。
Graphika提供これらのアカウントの多くはプロフィール写真を使用していましたが、研究者によると、これらのプロフィール写真は、実在する人間の顔画像で訓練されたニューラルネットワークを用いて、実際には存在しない人物の写真を作成するために作成されたものと思われます。GraphikaとDFRLabの研究者は、BLネットワークが使用したプロフィール写真の中に、敵対的生成ネットワーク（GAN）を用いて生成された可能性が高い顔画像18枚を発見しました。
この技術は、まずまずの偽顔を作ることはできるものの、研究者を驚かせるような明らかな特徴がいくつかありました。主に視覚的なパターンを模倣することで機能しますが、人体の構造を理解しておらず、背景や眼鏡やイヤリングといった左右対称の特徴には対応できていません。
「アルフォンゾ・マシアス」というアカウントのプロフィール写真には、眼鏡の周りにAIが生成した矛盾があり、グラフィカ氏によると、これは人工知能によるものだという。
Graphika提供Graphikaのレポートに掲載された上記の画像は、The BLネットワーク内のグループの管理者である「Alfonzo Macias」のプロフィール写真から引用されたものです。「眼鏡の非対称性と背景の不明瞭さにご注目ください」とレポートは述べています。「著者らはこの画像をナポリのフェデリコ2世大学の専門家に確認し、99.9%の確率でGANによって生成されたと評価しました。」
WIREDのその他の素晴らしい記事
- 退役軍人、出会い系サイト、そして地獄からの電話
- 呼吸する空間：家の汚れた空気をきれいにするための私の探求
- 「クソロボットの女王」が王座を放棄した理由
- Amazon、Google、Microsoft のうち、最も環境に優しいクラウドを持っているのは誰か?
- インフルエンサーについて知っておくべきことすべて
- 👁 AIという分野は近いうちに「行き詰まり」を迎えるのか？さらに、人工知能に関する最新ニュースも
- 🏃🏽♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください。
