ディープフェイクマップはあなたの世界観を本当に混乱させる可能性がある

2016年から2018年にかけて中国新疆ウイグル自治区で大規模な収容所が拡大したことを示す衛星画像は、政府による100万人以上のイスラム教徒弾圧の最も強力な証拠の一部となり、国際的な非難と制裁を引き起こした。

イランの核施設や北朝鮮のミサイル基地など、他の航空写真も世界情勢に同様の影響を与えてきました。しかし今、人工知能（AI）によって可能になった画像操作ツールによって、こうした画像を額面通りに受け取ることがより困難になっているかもしれません。

ワシントン大学のボー・ジャオ教授は先月オンラインで発表した論文で、いわゆるディープフェイクの作成に用いられるAI技術と同様の技術を用いて、複数の都市の衛星画像を改変した。ジャオ教授らはシアトルと北京の画像の特徴を入れ替え、シアトルでは建物のない場所に建物を表示し、北京では建物を消して緑に置き換えた。

Zhao氏はCycleGANと呼ばれるアルゴリズムを用いて衛星写真を操作した。カリフォルニア大学バークレー校の研究者によって開発されたこのアルゴリズムは、あらゆる種類の画像トリックに広く利用されている。このアルゴリズムは、特定の画像の主要な特徴（絵画のスタイルや特定の種類の地図上の特徴など）を認識できるように人工ニューラルネットワークを訓練する。その後、別のアルゴリズムが画像が操作されたかどうかを検出することで、最初のアルゴリズムの性能を向上させる。

危険な状況にある人々を映すというディープフェイクのビデオクリップと同様に、こうした画像は政府を誤解させたり、ソーシャルメディアで拡散して誤情報を広めたり、実際の視覚情報に疑念を抱かせたりする可能性がある。

「これは間違いなく大問題で、一般市民に明日影響が出ることはないかもしれないが、次の10年間で水面下でより大きな役割を果たすことになるだろう」と、この研究には関わっていないカナダのマギル大学の空間データサイエンスの助教授、グラント・マッケンジー氏は言う。

「州政府やその他の主体が、そこに何もない、あるいは別のレイアウトで表示されているように見せるために、画像を操作できる世界を想像してみてください」とマッケンジー氏は言う。「現時点では、それを阻止するために何ができるのか、私には全く分かりません。」

ソーシャルメディアでは、粗雑に加工された衛星画像が既に拡散している。ヒンドゥー教の祭り「ディワリ」でライトアップされたインドを写したとされる写真も含まれており、明らかに手作業で修正されているようだ。より洗練された「ディープフェイク」衛星画像が、例えば兵器施設を隠したり、軍事行動を不当に正当化したりするために利用されるようになるのは、時間の問題かもしれない。

ハーバード・ケネディスクール・ショレンスタイン・センターでメディア操作を専門とする研究者、ガブリエル・リム氏は、AIを使わなくても地図を使って誤解を招くことができると述べている。リム氏は、1月6日の議事堂襲撃の際にアレクサンドリア・オカシオ＝コルテス氏が主張していた場所にいなかったことを示唆するオンライン上で拡散された画像や、南シナ海の係争地域を中国領として記載した中国のパスポートを例に挙げる。「高度な技術はなくても、同様の目的は達成できる」とリム氏は言う。

操作された航空写真は、デジタルマッピング、気象システムの追跡、投資の誘導に非常に価値があるため、商業的な重要性を持つ可能性もあります。

米国の情報機関は、操作された衛星画像の脅威が増大していることを認めている。「敵対者は、偽造または操作された情報を用いて、我々の世界観に影響を及ぼす可能性があります」と、国防総省傘下で地理空間情報の収集、分析、配信を監督する国家地理空間情報局（NGIA）の広報担当者は述べている。

広報担当者は、フォレンジック分析は偽造画像の特定に役立つ可能性があると述べているが、自動偽造の増加により新たなアプローチが必要になる可能性があることを認めている。ソフトウェアは、視覚的なアーティファクトやファイル内のデータの変更など、改ざんの明らかな兆候を特定できるかもしれない。しかし、AIはそのような兆候を除去することを学習するため、偽造者と偽造を見抜く者の間でいたちごっこが繰り広げられることになる。

「情報源を知り、検証し、信頼することの重要性は増すばかりであり、それを実現する上でテクノロジーが大きな役割を果たしています」と広報担当者は語る。

AIによって操作された画像を見分けることは、学術界、産業界、そして政府の主要な研究分野となっています。Facebookなどの大手テクノロジー企業は、偽情報の拡散を懸念し、ディープフェイク動画の自動識別に向けた取り組みを支援しています。

ワシントン大学のチャオ氏は、ディープフェイク衛星画像を自動的に識別する方法を研究する予定です。彼は、地形が時間とともにどのように変化するかを研究することで、疑わしい特徴を特定できる可能性があると述べています。「時空間パターンが非常に重要になるでしょう」と彼は言います。

しかし、趙氏は、たとえ政府がそのような偽造を見抜く技術を持っていたとしても、国民が不意を突かれる可能性があると指摘する。「ソーシャルメディアで広く拡散される衛星画像があれば、問題になる可能性がある」と彼は言う。

WIREDのその他の素晴らしい記事