AIを活用した完全自律型の戦争の未来はここにある

ロボット船の船団がペルシャ湾の温かい海域、バーレーンとカタールの間、イラン沖100マイルほどのあたりを静かに漂っている。私は近くのアメリカ沿岸警備隊のスピードボートのデッキにいて、おそらく左舷側と思われる方角を目を細めて眺めている。2022年12月初旬のこの朝、水平線には石油タンカーや貨物船、小さな漁船が点在し、熱風に揺らめいている。スピードボートがロボット船団の周りを高速で進むにつれ、日傘、いや雲さえあればいいのにと思う。

ロボットたちは、私のような哀れな人間のように日陰を求めることも、他の生物学的な快適さを必要としないことも理解しています。これは彼らのデザインからも明らかです。私が乗っているような典型的な巡視船に似たものもいくつかありますが、ほとんどはより小さく、よりスリムで、水面近くまで潜っています。ソーラーカヤックのようなロボットもあれば、金属製の帆を張ったサーフボードのようなロボットもあります。また、ポンツーンに乗ったGoogleストリートビューカーを思わせるロボットもあります。

これらの機械は、米海軍第5艦隊に属するタスクフォース59が実施する演習のために集結した。同部隊の焦点はロボット工学と人工知能という、急速に進化し戦争の未来を形作る2つの技術だ。タスクフォース59の任務は、これらの機械を海軍の作戦に速やかに統合することであり、民間請負業者から最新の既成技術を取得し、それらを統合して一貫した全体にすることでこれを実現する。メキシコ湾での演習には、水上艦艇、潜水艇、空中ドローンなど、10数機の無人プラットフォームが参加した。これらはタスクフォース59の分散型目と耳となる。カメラとレーダーで海面を監視し、水中でハイドロフォンで音を聞き、収集したデータをパターンマッチングアルゴリズムにかけ、石油タンカーと密輸業者を選別する。

スピードボートに乗っていた仲間が、サーフボード型の船の一隻に私の注意を向けた。まるで飛び出しナイフのように帆を急に畳み込み、うねりの下に潜り込んだ。「トリトン」と呼ばれるこの船は、システムが危険を察知すると、このように行動するようにプログラムされている。この姿を消す行動は、現実世界で役立つかもしれない。この演習の数か月前、イランの軍艦が潜航できない「セイルドローン」と呼ばれる自律型船舶2隻を拿捕したのだ。海軍が介入して回収しなければならなかった。

トリトン号は最長5日間も潜航でき、沿岸が安全になったら浮上してバッテリーを充電し、母港に連絡を取る。幸い、私のスピードボートはそんなに長くは潜航できないだろう。エンジンを始動させ、全長150フィート（約45メートル）の沿岸警備隊巡視船のドッキングベイへと轟音を立てて戻る。私はまっすぐ上甲板へ向かう。そこには日よけの下にボトル入りの水が山積みになっているはずだ。通り過ぎるたびに、海に向けて構えられた重機関銃と迫撃砲を睨みつける。

カッターがバーレーンのマナマの基地に戻るにつれ、デッキは風で冷たくなっていった。航海中、私は乗組員と会話するようになった。ウクライナでの戦争と、手りゅう弾を搭載した趣味用のクワッドコプターから本格的な軍事システムまで、そこでのドローンの頻繁な使用について彼らと話したいと思った。爆発物を搭載したウクライナ製のドローンボートが多数関与した、ロシア占領下のセヴァストポリ海軍基地への最近の攻撃と、ドローンボートの増設のためのクラウドファンディングキャンペーンについて彼らに尋ねたかった。しかし、これらの会話は不可能だと、ソーシャルメディア企業Snapの予備役である私の付き添い人は言った。第5艦隊は別の地域で活動しているため、任務部隊59の者はウクライナで何が起こっているかについてあまり情報を持っていないと彼女は言った。その代わりに、私たちはAI画像生成器とそれがアーティストの仕事を奪うかどうか、そして民間社会が人工知能によって独自の転換点に達しつつある様子について語ります。実のところ、私たちはまだその半分も理解していません。OpenAIがインターネットを破壊するであろう会話型インターフェース、ChatGPTをリリースしてから、まだ1日しか経っていません。

基地に戻り、私はロボティクス・オペレーション・センターに向かいました。そこでは、海上に分散設置されたセンサーを人間のグループが監視しています。ROCは窓のない部屋で、テーブルとコンピューターモニターが数列並んでいます。ウィンストン・チャーチルやスティーブ・ジョブズなどの人物の心に響く言葉が壁に飾られている以外は、ほとんど特徴がありません。ここで私は、タスクフォース59のリーダーであるマイケル・ブラッスール大佐に会いました。日焼けした肌で頭を剃り、笑顔を絶やさず、水兵のような目を細めている男性です。（ブラッスール大佐はその後、海軍を退役しました。）彼はテーブルの間を大股で歩きながら、ROCの仕組みを陽気に説明してくれました。「ここは、無人システムから送られてくるすべてのデータを統合し、AIと機械学習を活用して非常に刺激的な洞察を得る場所です」とブラッスール大佐は、話しながら両手をこすり合わせ、ニヤリと笑いました。

モニターが動きで点滅している。タスクフォース59のAIは、その海域の不審船舶をハイライト表示している。AIは既に本日、識別信号と一致しない船舶を複数検出し、艦隊に詳細な監視を促している。ブラッスールは開発中の新しいインターフェースを見せてくれた。このインターフェースにより、ドローン船のカメラ映像の確認から、ドローン船を現場に近づけることまで、多くのタスクを1つの画面で実行できるようになる。

ブラッスール氏をはじめとする基地関係者は、試験中の自律システムは感知と探知のみを目的としており、武力介入は目的としていないことを強調する。「タスクフォース59の現在の焦点は視認性の向上です」とブラッスール氏は言う。「ここで私たちが行うすべてのことは、乗組員を乗せた船舶の支援です。」しかし、演習に参加したロボット船の中には、非武装と武装の距離がいかに短いかを示すものもある。ペイロードの交換とソフトウェアの調整だけで済むのだ。自律型スピードボートの一つ「シーガル」は、航跡にソナーアレイを牽引することで、機雷や潜水艦を探知する設計となっている。シーガルを開発したイスラエルの防衛企業、エルビット・システムズのシニアディレクター、アミール・アロン氏によると、シーガルには遠隔操作の機関銃や甲板から発射する魚雷も搭載できるという。「自律的に交戦することも可能ですが、推奨はしません」と彼は微笑みながら言う。「第三次世界大戦を始めたくないのですから。」

いいえ、そうではありません。しかし、アロンの皮肉は重要な真実に触れています。殺傷能力を持つ自律システムは既に世界中に存在しているのです。第三次世界大戦には程遠い大規模な紛争であっても、いずれの側もこれらのシステムに武器を装備させるだけでなく、場合によっては人間の監視を排除し、機械が機械のスピードで戦えるようにしたいという誘惑に直面するでしょう。このAI同士の戦いで死ぬのは人間だけです。ですから、疑問に思うのは当然です。これらの機械、そしてそれらを作る人々は、どのように考えているのでしょうか？

航空機やドローンの自動操縦ソフトウェアから、ミサイルの飛来から艦艇を守る自動甲板銃に至るまで、自律技術の兆候は数十年前から米軍に存在していた。しかし、これらは特定の環境や状況において特定の機能を実行するように設計された限定的なシステムだ。自律型ではあるが、インテリジェントではない。国防総省の幹部が、より高度な自律技術を、はるかに大きな問題の解決策として検討し始めたのは2014年になってからだった。

当時国防副長官だったボブ・ワーク氏は、地政学的なライバル国が米軍と「互角に近づいている」ことを懸念していました。彼はどうすれば「優位性を取り戻す」ことができるのか、つまり、たとえ米国が例えば中国ほど多くの兵士、航空機、艦艇を展開できないとしても、起こり得る紛争から勝利を収めることができるのかを知りたかったのです。そこでワーク氏は、科学者や技術者のグループに国防省がどこに力を注ぐべきかを尋ねました。「彼らはAIを活用した自律性だと答えました」と彼は回想します。彼は、機械学習によってもたらされる新たな能力を含め、テクノロジー分野から生まれるイノベーションを育成する国家防衛戦略の策定に着手しました。

これは言うは易く行うは難しだった。国防総省は、 2000万ドルの実験的軍艦シーハンターや、自律的に行​​動できるように改造された通常艦隊の艦隊であるゴーストフリートオーバーロードなど、いくつかのプロジェクトを構築したが、2019年までに同省のビッグテックを活用しようとする試みは行き詰まっていた。軍事作戦でAIをサポートする単一のクラウドインフラストラクチャを構築する取り組みは政治的に厄介になり、中止された。航空画像をAIで分析するというGoogleのプロジェクトは、国民の批判と従業員の抗議の嵐に直面した。海軍が、今後30年間で米国の艦隊がどのように進化するかの概要である2020年の造船計画を発表したとき、無人システム、特に大型の水上艦と潜水艦の重要性を強調したが、それらの開発に割り当てられた資金は比較的少なかった。

ペンタゴン奥深くの小さなオフィスで、元海軍パイロットのマイケル・スチュワートはこの問題をよく理解していた。米艦隊の新たな戦闘システム開発を監督する任務を負うスチュワートは、海軍がまるでブロックバスターが夢遊病者のようにNetflix時代に突入しつつあるように感じ始めていた。数年前、ハーバード・ビジネス・スクールで、彼はクレイ・クリステンセンの講義を受講した。クリステンセンは、大規模で成功を収めている企業が、なぜ小規模な新規参入企業によって破壊的な混乱に陥るのかを研究する学者だった。多くの場合、既存の事業に注力するあまり、新たな技術トレンドを見逃してしまうからだ。スチュワートが考える海軍にとっての課題は、組織の官僚主義に陥ることなく、ロボット工学とAIの導入をいかに加速させるかだった。

当時、他にも同様の考えを持っていた人々がいた。例えば、同年12月、政府出資の防衛シンクタンクであるRANDの研究者たちは、別の道を提案する報告書を発表した。それは、法外な値段の自律システムを少数購入するのではなく、安価なものを大量に購入すればよいというものだ。RANDの報告書は、中国による台湾侵攻を想定した複数の軍事演習を例に挙げ、多数の低コストの無人機を配備すれば、米国の勝利の可能性を大幅に高めることができると述べている。台湾海峡のすべての船舶の画像を提供することで、RANDが「子猫」と名付けたこの仮想の無人機は、米国が敵艦隊を迅速に壊滅させるのを可能にするかもしれない、と。（当時、中国の軍事雑誌がこの予測に注目し、台湾海峡における「子猫」を意味する中国語「小毛」の可能性について論じていた。）

2021年初頭、スチュワート氏と同僚グループは「無人作戦枠組み」と呼ばれる40ページの文書を作成した。この文書は、海軍による自律システムの活用に関する、従来とは異なる、断片的で型破りな計画を概説したもので、従来の調達方法を放棄し、安価なロボットプラットフォームを用いた実験を行うというものだった。この取り組みには、AIとロボット工学の専門家、海軍戦略の専門家など、小規模で多様なチームが参加し、協力してアイデアを迅速に実現することになる。「これは無人システムだけの問題ではありません」とスチュワート氏は言う。「それは、それ以上に、組織全体の話なのです」

スチュワートの計画は、第5艦隊のブラッド・クーパー中将の注目を集めた。クーパー中将の管轄範囲は、アラビア半島周辺のスエズ運河からペルシャ湾に至るまで、250万平方マイルに及ぶ。この地域は、世界貿易に不可欠であると同時に、違法漁業や密輸が横行する航路が点在している。湾岸戦争終結後、国防総省の関心と資源の一部がアジアに移った際、クーパー中将はより少ない資源でより多くの成果を上げる方法を模索していたとスチュワート氏は語る。イランは商船への攻撃を激化させ、武装スピードボートで船舶を包囲し、さらにはドローンや遠隔操作ボートによる攻撃まで行っていた。

クーパーはスチュワートに、バーレーンでブラッスールと共に任務部隊59の設立に着手した。彼らは、世界各地で既に使用されている自律システム（例えば、気候データの収集や沖合石油プラットフォームの監視など）を調査し、このハードウェアのリースと改造にかかる費用は、海軍が通常新造船に費やす費用のほんの一部に過ぎないと結論付けた。任務部隊59は、AI駆動型ソフトウェアを用いてこれらのシステムを組み立てることになる。「新しい無人システムがこのような複雑な海域で運用できるのであれば、他の米海軍艦隊にも展開できると考えています」とクーパーは語った。

新たな対策本部を立ち上げる一方で、海域の状況はますます複雑になっていった。2021年7月29日未明、「マーサー・ストリート」号という名の石油タンカーが、タンザニアからアラブ首長国連邦へ向かう途中、オマーン沿岸を北上していたところ、黒いV字型のドローン2機が水平線に現れ、澄み切った空を切り裂いた後、海上で爆発した。翌日、乗組員が海中の残骸を回収し、事件を報告した直後、3機目のドローンが船の管制室の屋根に急降下爆撃し、今度は爆発物が爆発して船体を貫通し、乗組員2名が死亡した。捜査官は、イラン製の「自爆ドローン」3機が原因だと結論付けた。

スチュワート氏が念頭に置いていた最大の脅威は中国だった。「私の目標は、5年以内に、あるいはそれよりも安価な技術をできるだけ早く投入し、抑止力のメッセージを送ることです」と彼は言う。しかし、中国は当然のことながら、軍事における自律性にも多額の投資を行っている。ジョージタウン大学が2021年に発表した報告書によると、人民解放軍は毎年16億ドル以上をこの技術に費やしており、これは米国とほぼ同額だ。報告書はまた、第59任務部隊が使用しているものと同様の自律型艦艇が中国海軍の主要な焦点であると指摘している。中国はすでにシーハンターのクローンを開発しており、大型の無人機母艦とされるものも開発済みだという。

しかし、ロシアがウクライナに侵攻するまで、スチュワートは自分の仕事への関心が高まっているとは感じていなかった。「人々が電話をかけてきて、『さっき話していた自律型の話、知ってる？ いいから、詳しく教えて』と言うんです」と彼は言う。バーレーンで会った水兵や当局者と同様に、彼も具体的な状況についてコメントしなかった。セヴァストポリのドローンボート攻撃についても、米国が昨春ウクライナに送った8億ドルの援助パッケージ（台数は不明だが「無人沿岸防衛艦」を含む）についても、ウクライナによる完全自律型キラードローンの開発についても。スチュワートが言うのはただ一つ、「タイムラインは確実に変化している」ということだけだ。

私は今、カリフォルニア州サンディエゴにいる。そこは米太平洋艦隊の主要港で、防衛関連のスタートアップ企業がフジツボのように群がっている。目の前に広がるヤシの木に囲まれた背の高いガラス張りの建物の中に、シールドAIの本社がある。スチュワートに勧められて、同社を訪ねた。同社は、第59任務部隊がペルシャ湾で実験している無人機「V-BAT」を製造している。逆T字型で翼と下部に1つのプロペラを持つ奇妙な外見だが、2人1組のチームで事実上どこからでも発射できるほど小型軽量で、実に印象的なハードウェアだ。しかし、私が目にしたのは、V-BATの内部ソフトウェア、「Hivemind」と呼ばれるAIパイロットだった。

会社の白く輝くオフィスを通り抜け、エンジニアたちがドローンの部品やコードをいじっている横を通り過ぎ、小さな会議室に着いた。そこでは、大型スクリーンに映し出された3機のV-BATSがカリフォルニアの砂漠で模擬任務に出発する様子が映し出されていた。近くのどこかで山火事が猛威を振るっており、彼らの任務はその山火事を発見することだ。機体は地面から垂直に離陸し、前方に傾きながら様々な方向へ急降下する。数分後、ドローンの1機が火災の位置を特定し、その情報を仲間に伝える。彼らは飛行を調整し、火災に接近してその全容を測量する。

シミュレーションされたV-BATは、人間の直接的な指示には従いません。また、人間が従来のソフトウェアでコード化したコマンド、つまり「もしこうすれば、あれをする」といった硬直した指示にも従いません。ドローンは自律的に周囲の環境を感知・移動し、ミッション達成方法を計画し、群れとなって連携して行動します。Shield AIのエンジニアたちは、強化学習を用いてHivemindを訓練し、数千ものシミュレーションミッションに投入することで、徐々にタスクを最も効率的に完了させる手段を絞り込むようにしてきました。「これらは思考し、意思決定できるシステムです」と、元海軍特殊部隊SEAL隊員で同社の共同創業者であるブランドン・ツェンは述べています。

このバージョンのHivemindには、模擬山火事を識別できる、かなりシンプルなサブアルゴリズムが搭載されています。もちろん、別のサブアルゴリズムを使用すれば、ドローン群が車両、船舶、人間の戦闘員など、他の様々な標的を識別できるようになります。また、このシステムはV-BATに限定されるものではありません。HivemindはF-16戦闘機の操縦も可能としており、シミュレーターで対戦するほとんどの人間のパイロットに勝つことができます。（同社は、このAIが最新世代の戦闘機の「副操縦士」になることを想定しています。）Hivemindはまた、バックパックに収まるほど小型で、建物や地下施設の内部を探索し、地図を作成することができるクワッドコプター「Nova 2」も運用しています。

タスクフォース59、あるいは比較的低コストでAIやロボット工学への転換を目指すあらゆる軍事組織にとって、これらの技術の魅力は明らかだ。ブラッスール氏の言葉を借りれば、戦場での「視認性向上」だけでなく、より少ない人員で戦力を投射（ひいては武力行使）する能力も得られる。捜索救助活動や偵察任務に数十人もの人間のドローン操縦士を配置する代わりに、V-BATやNova 2のチームを送り込むことができる。高額な訓練を受けたパイロットの命を危険にさらして空中攻撃を行う代わりに、それぞれが同じ優秀なAIで操縦され、同じ集合意識の延長である安価なドローンの大群を派遣することもできるのだ。

それでも、機械学習アルゴリズムは驚くべきものですが、本質的に不可解で予測不可能なこともあります。Shield AIを訪問した際、同社のNova 2ドローンと短時間遭遇しました。オフィスの床から上昇し、私の顔から約30センチほどのところでホバリングしました。「こちらを見ています」とエンジニアが言いました。次の瞬間、ドローンはブンブンと音を立てて上昇し、部屋の片隅にある模型の窓からすっと飛び去りました。不安な体験でした。一瞬のうちに、この小さな空中知能が私について判断を下したのです。しかし、どのように？ Shield AIのエンジニアは、ロボットの意思決定の要素を再生して分析できるため、その答えにたどり着くことができるかもしれませんが、同社はこの情報を「専門家ではないユーザー」にも利用できるようにまだ取り組んでいるところです。

この技術がどのように誤作動を起こすかは、民間の世界に目を向けるだけで明らかだ。人種や性別による偏見を示す顔認識システム、訓練を受けていない物体に衝突する自動運転車など。たとえ綿密な設計が施されていたとしても、AIを組み込んだ軍事システムも同様のミスを犯す可能性がある。敵のトラックを認識するように訓練されたアルゴリズムは、民間車両に混乱させられる可能性がある。飛来する脅威に対応するように設計されたミサイル防衛システムは、誤作動の原因を完全に「説明」できないかもしれない。

これらのリスクは、自動運転車の事故がもたらす問題と同様の、新たな倫理的問題を提起する。自律型軍事システムが致命的なミスを犯した場合、誰が責任を負うのだろうか？作戦を指揮した指揮官なのか、システムを監督する将校なのか、アルゴリズムを構築し集団意識をネットワーク化したコンピューターエンジニアなのか、それとも訓練データを提供したブローカーなのか？

確かなことが一つある。技術は急速に進歩しているということだ。私がツェン氏に会った際、彼はShield AIの目標は「2023年に3機のV-BAT、2024年に6機のV-BAT、2025年に12機のV-BATからなる運用チームを編成すること」だと語った。我々との面談から8ヶ月後、Shield AIは空軍基地から3機のV-BATからなるチームを発足させ、山火事の模擬ミッションを実施した。同社は現在、Hivemindをミサイル基地の探索や敵機との交戦など、様々なミッションを遂行できるよう訓練でき、通信が制限されたり途絶えたりしてもまもなく運用できるようになると誇っている。

サンディエゴを離れる前に、第二次世界大戦末期に就役し、現在は湾内に常設されている航空母艦 USS ミッドウェイを見学した。数十年にわたり、この艦は世界最先端の軍事技術を搭載し、ベトナム戦争からイラク戦争までの紛争で何百機もの航空機が偵察や爆撃を行うための浮き滑走路として機能した。空母の中央には、巨大な金属の胃袋のような格納庫デッキがある。片側の戸口は、狭苦しい水兵の居住区、快適な士官の寝室、厨房、医務室、さらには理髪店やランドリーまで、入り組んだ廊下や部屋につながっており、かつては一度に 4,000 人の水兵と士官がこの艦を故郷と呼んでいたことを思い出させる。

ここに立つと、自律化への移行がいかに大きな意味を持つかを肌で感じます。無人船が有人船を上回るまでには長い時間がかかるかもしれませんし、ドローン母船が海を支配するようになるにはさらに長い時間がかかるかもしれません。しかし、タスクフォース59のロボット艦隊は、まだ始まったばかりではありますが、別の世界への一歩を踏み出しています。もしかしたら、それはより安全な世界かもしれません。世界中に展開された自律型ドローンのネットワークが、人間の紛争抑制を助ける世界かもしれません。あるいは、攻撃機の群れが空を覆い、暗闇に包まれる世界かもしれません。どんな未来が待ち受けていようと、ロボットたちはその方向へ航海しているのです。

この記事は2023年9月号に掲載されます。 今すぐ購読してください。

この記事についてのご意見をお聞かせください。編集者宛ての手紙は[email protected]までお送りください。