クリエイティブマシンはフェイクニュース戦争の次の武器となるだろう

画像には電子機器、携帯電話、電話、コンピューター、ハードウェア、ハードウェア、モニター、スクリーンが含まれている可能性があります

人工知能がもたらす脅威に関して言えば、私たちは「機械の創造性」についてもっと心配する必要がある。

ニューヨーク大学で開催されたワークショップ「神経科学と人工知能：共に未来を形作る」では、学術界と産業界の約60名の代表者が、チャタムハウスルールに基づいてAIと神経科学が私たちをどこに導いているかについて議論し、講演者に匿名性を与えて率直な発言を促しました。

会議全体を通じての主なテーマは、AI と神経科学は長く絡み合った歴史を持っているにもかかわらず、この 2 つの分野間のコミュニケーションは数十年前よりも現在の方が希薄になっており、最新の AI は何年も、あるいは何十年も時代遅れの神経科学に依存しているというものでした。

神経科学からの新たな知見は、脳の構造に緩く基づいたネットワークで脳を模倣し、どんなコンピューターよりも柔軟でありながらわずか20ワットの電力で動作する、脳の並外れた能力を再現しようとするAIの取り組みを促進する可能性がある。

しかし、昨年、国際的な脳イニシアチブ、神経科学、AI、神経技術企業、生命倫理、臨床医の代表者25名からなるグループ「神経技術と倫理タスクフォース（NET）」が、ネイチャー誌に掲載された論文でAI倫理の優先順位を定めようと試みたことを受けて、結果として生じた倫理的問題が、議論の大部分の避雷針となった。

会議では、これまでの公的な議論の多くはAIの人類に対する脅威に集中していたが、創造的なAIの台頭は、人間の想像力を活用して、身近な要素を斬新な方法で組み合わせることで架空の心的シナリオを構築することで、ポスト真実の時代に新たな、より直接的な側面を加えるだろうと警告された。

偽造画像は今に始まったことではありません。よく知られている例としては、1917年に撮影されたコッティングリー妖精写真があります。二人の少女が本物の妖精の写真だと主張して持ち帰ったものです。スターリンは、敵対する人物を写真から定期的にエアブラシで消すことで悪名高かったのです。

今や、画像はかつてないほどリアルに、しかも機械によって合成できる。その可能性を示す初期の事例の一つが2015年7月、Googleがソーシャルメディアで話題となった、幻覚的でサイケデリックなリスの画像が、同名映画にちなんで「インセプション」というコードネームが付けられた深層畳み込みネットワークによって生成されたと発表された。このネットワークは、研究者がネットワーク内で何が起こっているかを視覚化できるようにするために開発された。

ニューラルネットワークは画像の特徴を探し、猫の写真か犬の写真かを学習させました。しかし、逆にすると、動物のような特徴、目、顔を探し出すことに集中し、画像を歪めました。これは、例えば雲の形に顔が見えるというパレイドリア現象の合成版でした。画像をシステムに入力する回数が増えるほど、あらゆるものに猫と犬が浮かび上がり、現実からサイケデリックなものを作り出すオープンソース版DeepDreamがリリースされました。

ほぼ同時期に、Googleのイアン・グッドフェローが、いわゆる生成的敵対的ネットワーク（GAN）を開発しました。これは、画像を作成する「アーティスト」ネットワークと、それらが本物かどうかを判断する「批評家」ネットワークで構成されています。時間の経過とともに、GANはAIがますます説得力のある偽画像を生成できるようになります。アーティストが偽画像を作成する能力が向上するにつれて、批評家は偽画像を見抜く能力が向上するため、「敵対的」という用語が生まれました。

昨年発表された3つの開発は、現在では様々な形で登場しているGANの威力を示した。チップメーカーのNvidiaは、20万枚以上の著名人の画像のデータベースを使ってGANをトレーニングし、存在しない人物のリアルで高解像度の顔を生成した。講演者の一人が述べたように、「これらは100％合成で、実際の有名人よりもさらに合成だ。こうした技術がチューリングテストに合格したのは、まさに目覚ましい瞬間だ」。ラトガース大学、リーハイ大学、香港中文大学、百度の研究者からなるチームは、難しい創造的タスクを漸進的な目標を持つサブ問題に分解する「スタックGAN」を使って、テキストのみから高品質な画像を作成し、完全に合成された鳥や花のかなり説得力のある画像を生成した。

昨年、「ディープフェイク」と呼ばれる機械学習アプリがリリースされました。これは、人物の顔画像や動画を操作し、元の映像に重ね合わせることで偽のポルノ動画を作成できるものです。ある代表者が懸念したのは、「公の場で恥をかかせることで、数時間、数分で人を堕落させ、破滅させることができる」時代に、こうした技術が台頭していることでした。

神経技術・倫理タスクフォース（NET）は、私たちがすでに機械と密接につながっていること、そして将来的には神経技術と AI の発展の融合により、人間の脳と機械知能が直接リンクするという、質的に異なる何かがもたらされるだろうことをすでに指摘しています。

私たちの感覚がデジタル集合意識と結びつくと、人工的な創造性の台頭により、悪意のある者や幽霊、国家は、欺き、混乱させ、当惑させる新たな手段を得ることになるだろう。

この記事はWIRED UKで最初に公開されました。