AI兵器をめぐる激しい競争で中国が西側諸国に勝つ方法

先月、テクノロジー業界の大手企業数社が、自律型致死兵器の開発をしないと誓約する文書に署名した。グーグルのプロジェクト・メイヴンをめぐる従業員主導の抗議活動の直後の出来事であり、これらの取り組みを倫理的・道徳的な勝利と称賛する声もある。ただし、一部は称賛しているものの、全員が称賛しているわけではない。NATOの上級顧問サンドロ・ゲイケン氏は、こうした取り組みは極めて自己満足的であり、権威主義国家に非対称的な優位性を与える危険性があると指摘する。「シリコンバレーの世間知らずなヒッピー開発者たちは理解していない。CIAが彼らに強制すべきだ」と、ベルリンに拠点を置くビジネススクールESMTのデジタル社会研究所創設者ゲイケン氏は語る。

ゲイケン氏の厳しい助言は、将来の軍事目的AI開発を巡る分裂が生まれつつあることを浮き彫りにしている。一方には、軍事用AI開発の追求は止められない軍拡競争につながると考える人々がいる。他方では、ゲイケン氏のような人々は、AI軍拡競争は既に始まっていると考えている。彼らにとって、軍事目的のAI研究を禁止することは平和につながるどころか、権威主義体制に優位性を与えるだけだと彼らは考えている。したがって、西側諸国が主導権を握り続けたいのであれば、協調的な戦略のもとで団結する必要がある。「ほとんどの軍や諜報機関にとって、これは懸念事項です」とゲイケン氏は主張する。「そして、それは今、はるかに大きな懸念事項になりつつあるのです。」

もしこの競争が既に始まっているとしたら、その賭け金は計り知れない。AIのパターン認識能力、確率を判断・比較検討する能力、そして大量のデータを高速に解釈する能力は、軍隊や諜報機関に多くの利点をもたらす可能性がある。「結局のところ、戦争とは意思決定です。そしてAIは、何よりもまず、意思決定技術なのです」と、キングス・カレッジ・ロンドンの防衛研究科のケネス・ペイン氏は述べている。

機械学習ツールは、戦略的思考の向上から、自律型無人兵器システムの群れの制御といった低レベルの戦術的応用まで、軍事作戦のあらゆる領域に適用される可能性が高い。しかし、軍事現場で最も影響力のある応用のいくつかは、戦場から離れた場所で感じられるかもしれない。「機械学習は、兵站、つまり戦闘のための軍隊の供給において重要な役割を果たすでしょう」とペイン氏は言う。「兵器の設計にも役立つかもしれません。つまり、他のAI兵器との戦闘においてどのような兵器が優れた性能を発揮するかを検討し、テストするのです。」

AIが決定的な役割を果たす可能性が高いもう一つの分野は、将来のサイバー紛争です。中国の軍事戦略専門家であるエルサ・カニア氏は、機械学習が「電磁スペクトル全体にわたる優位性」を達成するための不可欠なツールとなると考えています。より高速で洞察力に優れたAIを開発することで、一方の側は自軍の通信と状況認識を向上させることができます。また、敵側の通信を妨害、弱体化、そして阻止することも可能になるでしょう。

優れたAIサイバー兵器の開発は、敵対国のICTインフラにおける計算上の弱点を特定し、それを悪用することを可能にします。軍事的観点から見ると、これは大きな創造性をもたらします。「軍の指揮統制センターを攻撃することも、軍用車両、兵器システム、プラットフォームを攻撃することも、戦艦全体、さらにはドローンを攻撃することも可能です」とゲイケン氏は述べています。

AIサイバー兵器が投機の域を脱し、軍隊は戦術的・戦略的活用方法を策定し始めている。NATOは最近、「AIサイバーハンター」の理論的枠組みを示す論文を発表した。これは、味方のシステムを巡回し敵のマルウェアを検知する防御AIエージェントである。攻撃型AIサイバー兵器は既に開発が進められているが、ゲイケン氏の見解では、まだ初歩的な段階にとどまっている。しかしながら、優れたAIがもたらす優位性は、各国がこの分野で優位に立とうとしていることを意味している。しかし、AIの力をどのように測定すれば良いのだろうか？そして、誰が勝っているのかは明らかだろうか？

続きを読む: 中国経済に打撃を与える人口動態の変化

AIの力を測定するのは容易ではありません。ツール、技術、ノウハウはすべて「軍民両用」であり、世界中の様々な場所で、民間と軍事の両分野に散在しています。国のAI力の相対的な強さを理解するには、官民両セクターに関する深い知識が必要であり、その情報はしばしば機密扱いされていたり、意図的に誤解を招くものであったりします。ゲイケン氏は、機械学習をめぐる商業的な誇大宣伝によって、現状では真の能力を見極めることがほぼ不可能になっていると嘆いています。

たとえ正確な情報が得られても、紛争シナリオにおいてこれらの能力がどのように展開されるかは謎に包まれたままです。軍事力は、実際の紛争シナリオにおいてのみ真に理解されます。「戦争は私たちを驚かせ、AIがどれほど優れているか、そしてそれに投資した資金がどれほどの価値があるかを露呈させることがあります」とペイン氏は警告します。「事前にそれを知ることは難しいのです。」第二次世界大戦において、戦艦が航空母艦によって予期せず超兵器としての地位を剥奪されたように、軍事AIの実際の展開は全く予想外の結果をもたらす可能性があります。

こうした不確実性にもかかわらず、専門家たちはAIの長所と短所を大まかに理解しようと努めています。「現実には、AIの発展は複雑で混沌としています」とゲイケン氏は言います。「あらゆる分野、あるいは同じ分野で誰もが同じように優れた能力を発揮するような、平等で直線的な発展ではありません。」

米国は依然としてAI研究の最前線に立っており、AIの産業・軍事応用において世界をリードしていると考えられています。AIの実力を評価する指標として用いられる多くの標準的な指標、特に知的人材、研究のブレークスルー、優れたハードウェアにおいて、米国は依然として優位を保っています。しかし、米国の優位性にもかかわらず、中国は政府の10カ年計画に盛り込まれた戦略的投資とビジョンによって、急速に追い上げています。「中国は急速にAI大国として台頭しています」と、ワシントンD.C.に拠点を置くシンクタンク、新アメリカ安全保障センターの技術・国家安全保障プログラムの客員研究員、エルサ・カニア氏は述べています。

軍事的観点から見ると、中国はAIを活用し、無人航空機、地上車両、水上車両、水中車両など、自律化が進む様々な車両を開発しています。また、中国はAIを、自国の深刻な軍事的弱点の一つである実戦経験の不足を克服する手段として活用しようとしています。「人民解放軍（PLA）は、戦争ゲーム、シミュレーション、そして現実的な訓練におけるAIの可能性にも注目しており、実戦訓練の不足を補うことができると考えています」とカニア氏は述べています。

さらに、敵の通信を妨害し、その機能を低下させるAIの活用も挙げられます。人民解放軍は情報作戦能力の要として一貫して電子戦に重点を置いていることから、カニア氏は人民解放軍も認知電子戦能力を優先している可能性が高いと考えています。また、情報作戦におけるAIの活用を先駆的に進めているのは中国だけではありません。「ロシアはAIと情報戦を組み合わせた戦略に非常に長けていることは周知の事実です」とゲイケン氏は言います。

優れたAIを実現するための最も重要な要素は、データと人材です。新しく大規模で構造化されたデータセットへのアクセスは、一方のAIに敵対者に対して大きな優位性をもたらします。一方のデータがより統合され、より完全であればあるほど、AIはより深く正確な推論を行う可能性が高まります。データの質と新しさも非常に重要であり、データの出所とラベル付けの精度によって左右されます。

データセットの規模は特に重要です。「大量のデータが必要であり、それを構造化し、単純な統計的相関関係や共通因果関係から因果関係を理解できなければなりません」とゲイケン氏は言います。簡単に言えば、データ量が多いほど、機械学習システムは真の因果関係と偶然に生じた関係を区別しやすくなります。

統合データへのアクセスという点では、中国は優位に立っています。中国のAI専門家、李開復氏が最近の報告書でまとめたように、中国の携帯電話およびインターネット利用者は13億9000万人に上り、これは米国やインドの3倍に相当します。また、中国国民は米国人の50倍も頻繁に携帯電話で商品を購入しています。

中国のデータ優位性は衰える兆しを見せていない。国家インフラは、データの生成、収集、分析を最大化するように設計されている。社会信用システムのような全国規模のプログラムは、既に膨大で集中化されたデータの宝庫に新たなデータを追加することになるだろう。さらに、民間セクター、政府、軍、諜報機関の緊密な関係は、データの共有をはるかに容易にするだろう。プライバシーに関する懸念が比較的少ないことも言うまでもない。

対照的に、米国、英国、EUの状況は中央集権化が進んでおらず、より断片化されています。Google、Facebook、Amazon、Appleといった米国の大手テクノロジー企業は膨大な量のデータにアクセスできますが、そのデータは厳重に保護されています。中国とは異なり、公的機関であれ民間企業であれ、組織間の協力を強く求めるのははるかに困難です。

西側諸国の断片化されたスタートアップ・エコシステムが、いくつかの欠点を呈しているのは、まさにこの点です。多数の小規模AI企業からなるエコシステムは、競争、多様な意見、そしてイノベーションを促進するのに役立ちます。しかし、これらの企業間に存在する競争上の分断、そしてデータ共有への消極的な姿勢は、データ共有を不均一かつ断片化させています。ゲイケン氏は、より強力なAIを開発するためには、スタートアップ・エコシステムは最適な解決策ではないと示唆しています。「スタートアップは、高品質なAIを構築するために、必要な種類のデータにアクセスできるよう、大企業の組織に組み込まれる必要があります」と彼は主張します。

データの量と質と同じくらい重要なのは、それを理解するための頭脳とエンジニアリングの才能です。「適用したい特定の分野に合わせてアルゴリズムをカスタマイズし、改善していくための頭脳が必要です」とゲイケン氏は言います。

エンジニアリング人材に関しては、アメリカがトップを走り、英国、カナダ、そしてEUの一部の国がそれに続きます。李開復氏の最近の報告書によると、Googleは世界トップ100のAI科学者の半数近くを擁し、Google Brain、Google Cloud、DeepMindで活躍しています。こうした人材の多くは、米国、英国、カナダ、そしてヨーロッパに分散しています。「AI人材のプールは限られています。そして、その人材はどこで働きたいのでしょうか？サンフランシスコ、ロンドン、トロント、そしてパリです」とペイン氏は言います。

中国では、政府が次世代の国産コンピューター・データサイエンティスト育成に戦略的投資を行っています。習近平国家主席は、中国の教育制度改革に多額の資金を投入し、STEM（科学・技術・工学・数学）科目の習得（2013年、上海の生徒はOECDのPISAテストで1位を獲得）と、創造的思考、チームワーク、イノベーションを重視した新たなカリキュラムに重点を置いています。

より権威主義的なシステムでは、才能の活用方法にも明確な違いがあります。権威主義国家の指揮統制経済は、国民、専門家、科学者を軍のために働かせることを強制することがあります。「何が起こっているかを理解し、自分の適性分野を見つけ、特定の弱点を見つけ、特定の強みを築くには、非常に優れた頭脳が求められますが、そうした国では、単に優秀な人材を自分たちのために働かせるだけです」とゲイケン氏は説明します。

西側諸国の軍隊が直面するもう一つの現実的な課題は、民間部門との希少な人材獲得競争だ。「防衛産業でさえIT業界と競争できるわけではない」とゲイケン氏は言う。米国では、機械学習の博士号を取得した卒業生の年収は30万ドルから50万ドルに上る。また、Amazon、Uber、Googleといった巨大テクノロジー企業は、一流大学の機械学習やロボット工学の学科を次々と買収していることで知られている。

機械学習の研究開発への資金投資を測定することは、AIの能力を推定する代替指標としても活用できます。しかし、ケネス・ペイン氏が指摘するように、「資金は非常に粗雑な指標です」。資金投資は意図を明らかにすることはできますが、必ずしも能力を示すとは限りません。資金がどれだけ効果的に使われているか、そして投資が長期的な基礎研究に充てられているのか、それとも短期的な商業的利益の獲得に使われているのかを判断するのは困難です。

公開データを見ると、中国は公共投資において主導的な役割を果たしている。政府の戦略投資プログラムは、2008年の50億ドル強から2017年には270億ドルにまで拡大した。李開復氏が指摘するように、民間部門の投資も大幅に増加しており、2014年の50億ドル弱から2017年には250億ドルを超えている。その多くは、百度（バイドゥ）、テンセント、アリババといった中国有数のインターネット企業に流れ込んでいる。しかし、中国はFace++、iFlyTek、DJI、4th Paradigmといった企業を含む、急成長中のスタートアップ・エコシステムも支援している。米国、英国、EUにおける投資額も増加している。しかし、公的資金は民間投資の水準に追いついていない。

理解能力をより正確に測る指標は、研究におけるブレークスルーの数と質を調べることです。この点では依然として米国がリードしており、英国がそれに続いています。「意思決定、コンピューターゲーム、あるいは例えばビデオをリアルに操作する能力において、GoogleとDeepMindが大きな進歩を遂げています」とペイン氏は言います。

しかし、中国はその差を縮めつつある。ある調査によると、AI関連のトップ100ジャーナルとカンファレンスの民族性は、2006年から2015年の間に43%増加した。引用数も同時期に55%増加した。

AIハードウェア開発においては、依然として米国がリードしています。NVIDIA、Intel、Altera、AMDといった企業が牽引する米国は、AIチップの設計・開発において依然として優位に立っています。Kai-Fu Lee氏が説明するように、これらの企業は「知的財産、人材、リソース、そして業界経験の面で、中国のスタートアップ企業に対して大きな優位性を持っています」。しかし、商業的な買収、国内でのイノベーション、あるいは窃盗など、中国はこれらの弱点を克服しようとしています。

こうした取り組みの一部は、すでに成果を上げ始めているかもしれない。つい先月、百度（バイドゥ）は新たなAIチップの開発を発表した。このチップの性能はまだ明らかにされておらず、製造準備もまだ整っていない。しかし、この発表は、中国がAIハードウェアに注力していることの意義を示唆している。カニア氏は、中国が半導体業界における長年の困難を克服し、真に国産のAIチップを設計できれば、AI覇権争いにおける「重要な転換点」となるだろうと考えている。

続きを読む: 元GCHQ長官「世界的なサイバー戦争条約が必要だ」

AIの優位性を競う競争において、イノベーションに加え、窃盗も重要な戦術の一つです。ゲイケン氏は、知的財産の窃盗は様々なレベルで発生していると考えています。「環境の改善、センサーデータの改良、コンピューティングの速度と品質の向上など、AIの実装と構成、そして特定の業種向けにAIをカスタマイズするあらゆるものの窃盗に、世界中の諜報機関が非常に強い関心を寄せています。」窃盗は人材資源にも焦点を当てています。「特に、複雑な技術の進歩に不可欠な暗黙知を持つ研究者など、人材の確保は、これまで以上に重要になるでしょう」とカニア氏は言います。

政府は知的財産の盗難と知識の共有を取り締まろうとしている。米国の大学で高度な技術を学ぶ中国人学生へのビザ発給を制限するという米国の決定など、最近の政策の中には高圧的なものもあるように思われる。政策立案者には確かに多くの課題が待ち受けている。核兵器のような従来の技術とは異なり、AIは主に民間レベルで開発されており、マンハッタン計画のような中央集権的で制限された環境に限定されているわけではない。「政府はどのようにして民間レベルで生み出された知識を入手し、軍事的優位性を持つ可能性のある知識を潜在的な敵対者からどのように守ることができるのか」とペイン氏は疑問を投げかける。この技術は広く入手可能で、容易に共有でき、封じ込めることはほぼ不可能である。

現在、AIの優位性をめぐる競争は、高度に中央集権化された中国のシステムと、より断片化されているもののオープンな西側諸国の官民連携体制との間で繰り広げられています。中国では、AI戦略は潤沢な資金を投じた長期的な戦略計画に基づいて構築されており、政府と民間セクターの緊密な協力体制が構築されています。軍民融合は今や中国にとって最優先事項となっています。先月、清華大学の鄭昊副学長は、中国のAI開発における「軍民融合」の重要性について概説しました。

確かに、軍と民生部門のこれほど緊密な関係には潜在的なデメリットもある。エルサ・カニア氏が最近の記事で指摘したように、「『習近平思想』の実現を推進することが期待されているテクノロジー企業における中国共産党の存在感の拡大は、創造性とイノベーションを損なう可能性がある」。国家の過度な関与は、過剰な投資（テクノロジーバブルの誘発）につながるだけでなく、政治リーダーとテクノロジーリーダー間の権力闘争を助長する恐れもある。中国のやり方が最終的に勝利するかどうかは明らかではない。

当面、アメリカをはじめとする西側諸国は、技術、知識、そして研究のブレークスルーにおいて依然として優位に立っています。しかし、ゲイケン氏によると、西側諸国がこの競争に勝つためには、アプローチを変える必要があるとのことです。「産業界は軍と非常に強力かつ緊密に協力し、知的財産を相互に交換する必要があるでしょう。」しかし、当面は、そのようなシナリオは実現しそうにありません。

この記事はWIRED UKで最初に公開されました。