スー・ゴードン：シリコンバレーは政府と協力すべき

国家情報長官首席副長官のスー・ゴードン氏は、毎日午前3時に起きてペロトンに飛び乗り、世界がアメリカを破滅させようとしているあらゆる方法について調べる。午後にはたいてい大統領執務室を訪れ、17の情報機関の長官と面会して脅威に関する報告書を入手する。自称「情報機関の最高執行責任者」であるゴードン氏には懸念すべきことが山積しているが、30年近くの経験を持つベテランは、アメリカの未来については概ね楽観的だ。今は、テクノロジーと政府は対立する必要がないことをシリコンバレーに理解してもらうだけで十分だと彼女は言う。

先日シリコンバレーを訪れたゴードンは、WIREDの取材に応じ、アメリカの安全を守るためにシリコンバレーがいかに政府に協力を求めているかを語った。スタンフォード大学でのカンファレンスで講演するためだけでなく、従業員の懸念が高まる一方で、政府とテクノロジー業界は多くの共通の目標を持っていることを、テクノロジー業界のリーダーたちに納得させるためでもあった。

「Googleとの会議で、私の最初の提案は『私たちは同じ業界です』でした。すると彼らは『何だって？』と驚きました。そこで私は『情報を善のために使う』と答えました」とゴードン氏は語る。

シリコンバレーでは、特にスノーデン事件以降、これはなかなか受け入れられない。スノーデンの暴露後、テクノロジー企業とテクノロジー企業の従業員は、自国民をスパイする政府に加担していると見られることを望まなかった。ゴードンはこの事実に異議を唱え、国民情報の収集は偶発的なものであり、システムによって消去されていると主張している。この結果、二つの権力構造の間には大きな隔たりが生じ、広く知られるようになった。そして、シリコンバレーが倫理的な目覚めを迎えた2018年、この隔たりはさらに深まり、公になった。

ゴードン氏は、テクノロジーが悪用される可能性があるという認識を広めることに賛同し、支持しているが、政府とテクノロジーが協力してこれらの問題を解決すべき理由を説明するためにシリコンバレーに来た。

ペアリング

ゴードンは官民パートナーシップに精通している。CIA傘下のベンチャーキャピタル・アクセラレーターIn-Q-Telは、20年近くにわたり、マルウェア検知ソフトウェアから生化学センサー、マイクロバッテリーまで、あらゆる分野に投資してきたが、これはゴードンのアイデアによるものだ。構想当時としては画期的だったIn-Q-Telは、国家安全保障に関心を持つ可能性のあるスタートアップ企業に直接資金を提供し、資金の使途に制限を設けず、知的財産権も保有しない。In-Q-Telは、他にも成功を収めた投資の一つとして、後にGoogleが買収してGoogle Earthへと発展させるKeyholeという企業への投資を行っている。

ゴードン氏は、今こそ諜報機関やシリコンバレーとの新たなパートナーシップを築く機が熟していると述べています。人工知能は政府と民間セクターにとって大きなチャンスをもたらしますが、外国の敵対勢力によって悪用、偏見、あるいは活用されるリスクが極めて高いため、政府とテクノロジー企業は協力してその安全を確保すべきだと彼女は述べています。

テクノロジー業界の中にはこの考えに公然と賛同する者もいる。ベゾス氏は先月開催されたWIRED 25で聴衆に対し、「大手テクノロジー企業が米国防総省に背を向ければ、この国は大変なことになる」と語った。しかし、一般社員の多くは、戦争問題で政府と協力するという考えに不安を感じていたり、あからさまに敵対していたりする。

特にGoogleは最近、関係が悪化している。6月には社内からの圧力により、ドローンの標的を特定するAI開発を支援するという国防総省との契約を更新しなかった。ゴードン氏はこの決定に失望を表明し、パターン認識技術は情報収集に不可欠であり、それを実現する最良のシステムを開発することが国益にかなうと強調した。

「Googleの中には、コンピュータービジョンに関するProject Mavenに取り組んでいる人たちの中には、兵器システムの配備決定を何らかの自動装置が下すと考えている人もいるかもしれませんね」と彼女は言う。しかしゴードン氏は、最終的な決定は人間が下すと主張し、さらに戦争に関わるあらゆる行為は交戦規則によって規定されていると主張する。人間が標的を特定する場合であれ、機械が潜在的な標的を人間に警告する場合であれ。「テクノロジーがあるからといって無法地帯になるわけではありません」とゴードン氏は言う。「私たちは法治国家なのですから」

Image may contain Sitting Human Person Furniture Table and Desk

AIのリスクとその悪用可能性は、技術者、政策立案者、倫理学者にとって最優先事項です。今週、マイクロソフトのブラッド・スミス社長は、「2024年が小説『1984年』のような状況になる前に」顔認識技術を規制すべきだと繰り返し訴えました。テクノロジー業界の従業員は、マイクロソフトを含む自社が政府と協力することに反対しています。彼らは、技術の悪用を防ぐための法律が制定されるまでは、自社の技術が政府に利用されることを望まないと述べています。例えば、アマゾンで最近行われた社内会議では、従業員が同社の顔認識技術が移民・関税執行局（ICE）に利用されているのではないかと懸念を表明しました。

ゴードン氏もリスクには同意するが、協力関係を断つのは解決策として全く間違っていると考えている。「アルゴリズムに頼って意思決定をすると、非常に多くの問題が発生する可能性があります」と彼女は述べ、政府はAIを監査可能かつ安全にする方法を模索する強いインセンティブを持っていると指摘する。これは民間部門にとっても同様に喫緊の課題だ。「例えば、テロ容疑者に関する大量の画像を検索するためにAI/MLを使用しているとします。もし敵対者がアルゴリズムを変更して誤った結論を導き出した場合、それが悪影響であることは明らかです」と彼女は言う。

「AIセキュリティ？それは私たち両方に必要なものです。私たち両方の進歩につながります」とゴードン氏は言います。「政府は、私たちが直面する脅威について非常に独自の見解を持っているため、素晴らしいものを付け加えることができます。これは国家安全保障の面で私たちに利益をもたらすだけでなく、同様にアメリカ国民生活のあらゆる側面に利益をもたらします」と彼女は言います。それは自動運転車であれ、医療ガイドを支援するアルゴリズムであれ同じです。ゴードン氏は、AIは根本から責任を持って開発される必要があると考えており、そのためには民間部門と政府が協力し、彼女が「共同創造」と呼ぶものに取り組む必要があると主張しています。

ブレイントラスト

ゴードン氏は、官民連携の枠を超え、政府と民間部門の間で優秀な人材を共有する新たなパラダイムを構想している。優秀なエンジニアは政府で働きたがらないという考えには異論を唱え、意義のある重要な課題に取り組みたい人は、彼女自身もそうであったように、依然として連邦政府の仕事に惹かれるのだと述べている。しかし、理想的には、テクノロジー系の人材は「最も困難な問題を抱え、若い世代に多くの責任を与える」政府でキャリアをスタートさせ、その後、政府を去るべきだと考えている。政府で訓練を受けた技術者が民間部門に進出し、そこで学んだ知識と革新性を持ち込み、彼女が言うところの「ラットレース」から脱却する準備ができたら、政府に戻ってきてほしいと彼女は考えている。

ゴードン氏は、人事異動が活発化することで、不信感や誤解が少しでも減ることを期待している。「国家安全保障と情報機関で働く私たちについては、多くの誤解があると思います」と彼女は言う。「私たちはアメリカ合衆国憲法を遵守し、擁護することを誓います。つまり、プライバシーと市民の自由を信じ、それを擁護することを誓うということです。」

シリコンバレーは政府と協力し、政府が開発した技術を活用してきた長い歴史があり、この伝統は今も続いています。技術者が参加できる国防デジタルサービスのような協力体制や人材共有の枠組みは、ゴードン氏が提唱する相互交流を既に実現しています。AIが進歩し、軍や諜報機関にとって重要性が増し、シリコンバレーが自社製品の実社会での利用と影響について検討を重ねる中で、こうしたパートナーシップが今後も拡大していくかどうかは疑問です。

「Googleの重要な点の一つは、彼らが自分たちのために作った技術を使う際に、倫理観を持っていることです。それは素晴らしいことだと思います」と彼女は言う。「でも、私たちはずっと一緒にやってきたんです。」

WIREDのその他の素晴らしい記事