米国諜報機関におけるAIの力と落とし穴

サイバー作戦から偽情報に至るまで、人工知能（AI）は国家安全保障上の脅威の範囲を拡大し、個人や社会全体を、正確かつ迅速かつ大規模に標的とすることが可能になっています。米国が優位性を維持しようと競争する中、情報機関はAIがもたらす差し迫った革命の断続的な展開に苦慮しています。

米国の諜報機関は、AI の影響と倫理的使用に取り組むための取り組みを開始しており、アナリストは AI が彼らの分野にどのような革命を起こすかを概念化し始めているが、IC によるこうしたアプローチやそのようなテクノロジーの他の実際的な応用は、かなり断片的になっている。

米国は戦略的ライバルである中国のAIから自国を守る準備ができていないと専門家が警鐘を鳴らす中、議会は情報機関に対し、2022年情報権限法でそのような技術をワークフローに統合して「AIデジタルエコシステム」を構築する計画を作成するよう求めている。

AIという用語は、人間の知覚、認知、学習、計画、コミュニケーション、行動を模倣して問題を解決したり、タスクを実行したりする一連の技術を指します。AIには、理論上は新しい状況でも自律的に動作できる技術も含まれますが、より一般的な応用分野は、ビッグデータ、統計モデル、相関関係を用いて経験的な結果を予測、分類、または近似する機械学習またはアルゴリズムです。

人間のような知覚を模倣できる AI はまだ理論上のものであり、ほとんどの IC アプリケーションでは非現実的ですが、機械学習は、アナリストが現在評価を任されている情報の量と速度によって生じる根本的な課題に対処しています。

国家安全保障局（NSA）では、機械学習を用いて世界中のウェブトラフィックから収集される膨大なシグナル・インテリジェンス（SI）のパターンを見つけ出しています。また、CIAデジタルイノベーション局が公開している国際ニュースやその他報告書も機械学習で検索しています。CIAデジタルイノベーション局は、人的およびオープンソースによる情報収集におけるデジタル・サイバー技術の発展を担うとともに、秘密活動やオールソース分析にも取り組んでいます。オールソース分析では、米国のスパイが収集したあらゆる種類の生のインテリジェンス（技術的情報か人的情報かを問わず）を統合します。オールソース分析担当者は、これらのインテリジェンスを総合的に評価し、国家安全保障政策立案者向けの最終的な評価書や報告書として記録します。

実際、オープンソースは諜報機関によるAI技術導入の鍵となっています。多くのAI技術は定量的な判断を行うためにビッグデータに依存しており、公開データの規模と関連性は機密環境では再現できません。

AIとオープンソースを活用することで、ICは人間のスパイや信号諜報といった限られた情報収集能力をより効率的に活用できるようになります。他の収集手法を用いることで、人間だけでなくAIからも隠された秘密情報を入手することも可能です。こうした状況において、AIは、急速に脅威へと発展する可能性のある、予期せぬ、あるいは優先度の低い収集対象をより広範囲にカバーできる可能性があります。

一方、国家地理空間情報局（NGIA）では、AIと機械学習を用いて、世界のほぼあらゆる場所から商用および政府衛星によって毎日撮影される画像からデータを抽出しています。また、国防情報局（DIA）は、核、レーダー、環境、物質、化学、生物の測定値を認識し、それらのシグネチャーを評価するアルゴリズムを訓練することで、アナリストの生産性を向上させています。

ICがAIを効果的に活用した一例として、人間のスパイから信号諜報まであらゆる手段を尽くした後、米国はアジアの大国にある未確認の大量破壊兵器研究開発施設を、その施設と他の既知の施設の間を運行するバスの位置を特定することで発見した。匿名を条件に非公開で語った米国情報機関の高官によると、アナリストたちはアルゴリズムを用いて、その国のほぼ隅々まで画像を検索・評価したという。

AI は、限られた論理的分析を実行するプログラミングを計算、取得、および使用することはできますが、心理学者がシステム 1 思考と呼ぶ、人間の知能のより感情的または無意識的な要素を適切に分析するための計算能力が欠けています。

例えば、AIは野球に関する新聞記事のような、構造化された非論理的な流れと反復的な内容を含む情報報告書を作成できます。しかし、結論を正当化または実証するための複雑な推論や論理的議論が求められる報告書の場合、AIは不十分であることが判明しました。情報機関がAIの機能をテストしたところ、成果物は情報報告書のように見えましたが、それ以外は意味不明だったと、情報当局者は述べています。

このようなアルゴリズムのプロセスは重複させることができ、計算による推論に複​​雑な層を追加できますが、それでもこれらのアルゴリズムは、特にヘイトスピーチなどの言語に関しては、人間ほど適切に文脈を解釈できません。

AIの理解力は、人間の幼児の理解力に似ているかもしれないと、暴力から偽情報まで、顧客に対する仮想的な脅威を特定するピラ・テクノロジーズの最高技術責任者、エリック・カーウィン氏は述べている。「例えば、AIは人間の言語の基本を理解できますが、基礎モデルには特定のタスクを達成するための潜在的知識や文脈的知識がありません」とカーウィン氏は言う。

「分析の観点から見ると、AIは意図を解釈するのが難しい」とカーウィン氏は付け加える。「コンピュータサイエンスは価値があり重要な分野ですが、機械が行動を解釈、理解、予測できるようにするための大きな進歩を遂げているのは、社会計算科学者なのです。」

カーウィン氏は、「人間の直感や認知に取って代わることができるモデルを構築するには、研究者はまず、行動を解釈し、その行動をAIが学習できるものに変換する方法を理解する必要があります」と説明しています。

機械学習とビッグデータ分析は、何が起こるか、あるいは起こる可能性が高いかについて予測分析を提供しますが、アナリストに対して、どのように、あるいはなぜそれらの結論に至ったのかを説明することはできません。AIによる推論の不透明性と、非常に大規模なデータセットからなる情報源の精査の難しさは、それらの結論の実際あるいは認識される妥当性や透明性に影響を与える可能性があります。

推論と情報源の透明性は、インテリジェンスコミュニティによって、あるいはインテリジェンスコミュニティのために作成される製品の分析技術基準の要件です。分析の客観性も法的に義務付けられており、AIの普及拡大を踏まえ、米国政府内ではこうした基準や法律の見直しを求める声が高まっています。

予測判断に用いられる機械学習やアルゴリズムは、一部の諜報専門家からは科学というより芸術とみなされています。つまり、バイアスやノイズに左右されやすく、また、犯罪科学や犯罪芸術に見られるような誤りにつながるような、根拠のない手法を伴う可能性があるということです。

「アルゴリズムは単なるルールの集合であり、完全に一貫しているため、定義上、客観的です」と、Pyrra Technologiesの共同創業者兼CEOであるウェルトン・チャン氏は述べている。アルゴリズムにおける客観性とは、同じルールを繰り返し適用することを意味する。つまり、主観性の証拠は、回答のばらつきにある。

「科学哲学の伝統を考慮すると、状況は異なります」とチャンは言う。「何が主観的かという伝統は、個人の視点と偏見に基づいています。客観的な真実は、外部の観察との一貫性と一致から導き出されます。アルゴリズムをその出力のみで評価し、その出力が現実と一致しているかどうかを考慮しないとき、そこに埋め込まれた偏見を見逃してしまうのです。」

膨大なデータセット、特により実用的な現実世界のアプリケーションにおけるバイアスやノイズの有無に応じて、予測分析は時に「コンピュータサイエンスの占星術」と表現されることがあります。しかし、人間が行う分析についても同じことが言えるかもしれません。この分野の研究者であるスティーブン・マリンは、人間によるインテリジェンス分析という学問は「単なる専門職の仮面を被った技術に過ぎない」と書いています。

米国諜報機関の分析官は、構造化分析技術（SAT）を用いて、自身の認知バイアス、仮定、そして推論を認識する訓練を受けている。SATは、チェックリストから仮定を検証したり代替未来を予測したりするマトリックスまで、幅広い戦略を用いて、諜報判断を裏付ける思考や推論を外部化する。これは、国家間の秘密競争において、すべての事実が既知あるいは知ることができるわけではないという事実を考えると、特に重要である。しかし、人間が使用するSATでさえ、チャン氏のような専門家から精査されてきた。特に、SATの有効性や論理的妥当性を証明できる科学的検証が不足している点が問題となっている。

AIがインテリジェンスコミュニティの分析をますます強化または自動化すると予想される中、法執行機関や国家安全保障の文脈において科学的かつ倫理的に妥当な基準と手法の開発と実装が急務となっています。インテリジェンス分析官は、AIの不透明性を、法執行機関やインテリジェンスに求められる証拠基準や議論方法とどのように整合させるかに苦慮していますが、アナリストの無意識の推論を理解することにも同様の苦労が見られます。この推論は、正確な結論にも偏った結論にもつながりかねません。