ドッグファイトでAIの致死性への懸念が再燃

WIREDに掲載されているすべての製品は、編集者が独自に選定したものです。ただし、小売店やリンクを経由した製品購入から報酬を受け取る場合があります。詳細はこちらをご覧ください。

2015年7月、人工知能の限界を押し広げることで知られるアルファベット傘下のディープマインドの創業者2人が、世界各国政府に対し、殺傷能力を持つAI兵器の開発を禁止するよう求める公開書簡にいち早く署名した。署名者には、スティーブン・ホーキング、イーロン・マスク、ジャック・ドーシーなどが名を連ねている。

先週、DeepMindが普及させた技術が、国防総省が資金提供したAIシステムの能力を披露するコンテストで、自律型F-16戦闘機の制御に応用されました。イベントの最終段階では、同様のアルゴリズムがVRヘッドセットとシミュレーター操作を用いて、実際のF-16パイロットと対戦しました。AIパイロットが5対0で勝利しました。

このエピソードでは、DeepMindが相反する二つの欲求に翻弄されている様子が明らかになった。同社は自社の技術が人を殺すために使われることを望んでいない。一方で、研究成果とソースコードを公開することはAI分野の発展に貢献し、他者がその成果を基に発展することを可能にする。しかし同時に、他者が独自の目的でコードを利用したり、改変したりすることも可能にしてしまうのだ。

顔認識からディープフェイク、自律型兵器に至るまで、倫理的に疑問のあるAIの利用が出現する中、AI分野の他の人たちも同様の問題に取り組んでいる。

ディープマインドの広報担当者は、AI兵器に関して何が許容されるのか、社会全体で議論する必要があると述べています。「AIの責任ある利用に関する共通の規範を確立することが重要です」と彼女は述べています。ディープマインドには、研究の潜在的な影響を評価するチームがあり、同社は必ずしもその進歩を支えるコードを公開しているわけではありません。「私たちは、発表する内容については、慎重かつ責任あるアプローチをとっています」と広報担当者は付け加えています。

国防高等研究計画局（DARPA）が主催するアルファドッグファイトコンテストは、かつては人間のみが担っていたミッションクリティカルな軍事任務をAIが担う可能性を示しています。訓練を受けた戦闘機パイロットのようなスキルと適応力を備えた従来のコンピュータープログラムを作成することは不可能かもしれませんが、AIプログラムは機械学習を通じてそのような能力を獲得することができます。

記事画像

超スマートなアルゴリズムがすべての仕事をこなせるわけではありませんが、これまで以上に速く学習し、医療診断から広告の提供まであらゆることを行っています。

「テクノロジーの発展は、軍事・政治の議論が進むよりもはるかに速いペースで進んでいる」と、マサチューセッツ工科大学（MIT）教授で、AI兵器に反対する2015年の書簡を作成した組織、フューチャー・オブ・ライフ研究所の共同設立者でもあるマックス・テグマーク氏は言う。

米国をはじめとする各国は、敵対国に先駆けてこの技術の導入を急いでおり、一部の専門家は、国家が完全な自律性へと踏み込むのを阻止するのは困難だと指摘している。AI研究者にとっても、オープンな科学研究の原則と、自らのアイデアやコードの軍事利用の可能性とのバランスを取るのは容易ではないだろう。

テグマーク氏は、殺傷能力を持つAI兵器システムの開発を制限する国際協定がなければ、アメリカの敵対国は殺傷能力を持つAIシステムを自由に開発できると指摘する。「我々は今、必然的に最悪の結末に向かっている」と彼は言う。

米軍の指導者たち、そしてアルファドッグファイトの主催者たちは、戦場で機械に生死を分ける判断を委ねるつもりはないと述べている。国防総省は長年、自動化システムに人間の制御とは独立して標的への発砲タイミングを決定する能力を与えることに抵抗しており、国防総省の指令は自律型兵器システムに対する人間の監視を明確に義務付けている。

しかし、このドッグファイト競争は、自律型兵器システムの能力を実際に制限することが困難になる可能性のある技術的方向性を示している。アルゴリズムで制御される航空機は、最上級のパイロットでさえも凌駕する速度と精度で飛行することができる。このような技術は、自律型航空機の群れの中に組み入れられる可能性がある。このようなシステムから身を守る唯一の方法は、同様の速度で動作する自律型兵器を使用することだろう。

「急速で圧倒的な、群れのようなロボット技術というビジョンが、本当に人間を介入させることと整合しているのか疑問に思う」と、ワシントン大学のライアン・カロ教授は言う。「人間による意味のある制御と、軍事紛争において人工知能がもたらすいくつかの利点との間には、緊張関係があるのだ。」

AIは軍事分野に急速に進出している。国防総省は近年、最新の技術革新は従来の防衛関連企業よりもシリコンバレーから生まれる可能性が高いことを認識し、テクノロジー企業やエンジニアの誘致に力を入れている。このことは論争を巻き起こしており、特にアルファベット傘下のグーグルの従業員が、航空写真分析用AIを提供するという空軍との契約に抗議した事件が注目された。しかし、公開されているAIのコンセプトやツールは、軍事目的にも転用される可能性がある。

DeepMindは、2015年にAI兵器対策に関する書簡が発行されるわずか数か月前に、画期的なAIアルゴリズムの詳細とコードを公開しました。このアルゴリズムは強化学習と呼ばれる手法を用いて、様々なAtariビデオゲームを超人的なスキルでプレイしました。このアルゴリズムは、繰り返しの実験を通じて熟練度を獲得し、どのような操作がより高いスコアにつながるかを徐々に学習します。AlphaDogfightに参加している複数の企業も同じアイデアを採用しました。

DeepMindは、軍事応用の可能性を秘めた他のコードも公開しています。2019年1月には、広大な宇宙戦略ゲーム「StarCraft II」をプレイできる強化学習アルゴリズムの詳細を公開しました。DARPAの別のプロジェクト「Gamebreaker」では、 StarCraft IIなどのゲームを用いて、AIによる新たな戦争ゲーム戦略の創出を奨励しています。

他の企業や研究機関も、軍事用AIに活用できる可能性のあるアイデアやツールを開発している。別のAI企業であるOpenAIが2017年に発表した強化学習技術は、AlphaDogfightに関与する複数のエージェントの設計に影響を与えた。OpenAIは、マスク氏やサム・アルトマン氏といったシリコンバレーの著名人によって、「人類に害を及ぼすAIの利用を回避する」ことを目的として設立され、AI兵器の危険性を浮き彫りにする研究に貢献してきた。OpenAIはコメントを控えた。

AI研究者の中には、自分たちは単に汎用ツールを開発しているだけだと考えている人もいます。しかし、自らの研究がどのように利用されるのかを懸念する研究者も増えています。

「現在、私はキャリアの大きな岐路に立っており、ML が悪影響よりも良い影響をもたらすかどうかを見極めようとしているところです」と、以前は DeepMind およびカナダの AI 企業 ElementAI で勤務し、現在はロンドン大学ユニバーシティ・カレッジの准教授を務めるジュリアン・コルネビーズ氏は語る。

コルネバイス氏はアムネスティ・インターナショナルと共同で、衛星画像を用いてダルフール紛争で破壊された村々をAIで特定するプロジェクトにも携わった。彼と他の研究者たちは、脆弱な村々を標的にされることを懸念し、コードを公開しないことを選択した。

ワシントン大学のカロ氏は、企業が自社の研究者に対し、自社のコードがどのように公開されるかについて率直に伝えることがますます重要になるだろうと述べている。「企業は、自分の感性に反するプロジェクトから離脱する能力を持つ必要がある」と彼は言う。

DARPAのコンテストで使用されたアルゴリズムを実際の航空機に適用するのは、シミュレーション環境がはるかに単純であるため、困難である可能性があります。また、新たな課題に直面した際に状況を理解し、常識を適用する人間のパイロットの能力についても、まだ多くの疑問が残ります。

それでも、このデスマッチはAIの潜在能力を証明した。数ラウンドにわたる仮想戦闘を経て、AlphaDogfightコンテストは、メリーランド州カリフォルニア州に拠点を置くAIに特化した小規模な防衛企業、Heron Systemsが勝利した。Heron Systemsは独自の強化学習アルゴリズムをゼロから開発した。

最終戦では、「バンガー」というコールサインを持つアメリカ空軍の戦闘機パイロットが、VRヘッドセットと本物のF-16に似た一連の制御装置を使ってヘロンのプログラムに参加した。

最初の戦闘で、バンガーは敵機を視界と射程内に引き込もうと、大胆に機体を傾けた。しかし、模擬敵機も同様に急旋回したため、2機は互いに接近戦を挑みながら、激しい旋回を続けた。数旋回後、バンガーの敵機は完璧なタイミングで長距離射撃を行い、バンガーのF-16は被弾して撃墜された。その後、両機の間で4回のドッグファイトが行われたが、いずれもほぼ同じ結末を迎えた。

ヘロン社の副社長、ブレット・ダーシー氏は、同社がこの技術が最終的に実際の軍事装備に採用されることを期待していると述べた。しかし同時に、こうしたシステムの倫理性についても議論する価値があると考えている。「このシステムが存在するべきかどうかについて、礼儀正しく議論できる世界に住みたいですね」と彼は言う。「米国がこれらの技術を採用しなければ、他の誰かが採用するでしょう。」

2020年8月27日午前10時55分（東部夏時間）更新：Heron Systemsはカリフォルニア州ではなくメリーランド州カリフォルニアに拠点を置いていることを明確にするために、この記事は更新されました。

WIREDのその他の素晴らしい記事

MAGA爆弾犯の激しい捜索
ブルームバーグのデジタル軍団は依然として民主党のために戦っている
お子様のリモート学習を成功させるためのヒント
「本物の」プログラミングはエリート主義の神話である
AIの魔法で100年前の映画が新品に見える
🎙️ 未来がどのように実現されるかをテーマにした新しいポッドキャスト「Get WIRED」をお聴きください。最新エピソードを視聴し、📩ニュースレターに登録してすべての番組をチェックしましょう。
✨ ロボット掃除機からお手頃価格のマットレス、スマートスピーカーまで、Gearチームのおすすめ商品であなたの家庭生活を最適化しましょう