バイデン大統領にChatGPTを紹介し、AIの未来を切り開いた女性

2023年3月のある日、アラティ・プラバカールはノートパソコンを大統領執務室に持ち込み、ジョー・バイデン大統領に未来像を示した。6か月後、大統領はAIに関する規制の方向性を定める包括的な大統領令を発令した。

ChatGPTが世界に衝撃を与えたため、この事態は一気に深刻化した。瞬く間に、米国はAI産業の規制を加速させ、AI産業を有効活用するための政策を採択する必要があることが明白になった。潜在的なメリットは無限大（社会保障制度の顧客サービスが機能しているなど！）である一方、潜在的なデメリットも膨大だ。例えば、偽情報の氾濫、あるいは一部の見方によれば人類絶滅といった可能性だ。誰かが大統領にそのことを示さなければならなかった。

この仕事はプラバカールに委ねられた。彼女はホワイトハウスの科学技術政策局長であり、大統領首席科学技術顧問として閣僚級の地位も担っているからだ。彼女は既に、AIの変革力について政府高官たちに系統的に教育を行っていた。さらに、彼女は世界で最も権力のある人物に影響力を発揮できる経験と官僚的な手腕も備えている。

インド生まれ、テキサス州育ちのプラバカール氏は、カリフォルニア工科大学で応用物理学の博士号を取得。以前は米国立標準技術研究所（NIST）と国防総省高等研究計画局（ADRA）という2つの米国機関で局長を務めた。また、シリコンバレーで15年間ベンチャーキャピタリストとして活動し、ポール・アレン氏の伝説的なテクノロジーインキュベーターであるインターバル・リサーチの社長を務めたほか、複数の企業で副社長または最高技術責任者（CTO）を歴任した。

プラバカール氏は2022年10月に現職に就任しました。AIが議題の中心を占めるまさにそのタイミングで、安全基準の義務付け、イノベーションの促進、政府と教育におけるAIの推進、さらには雇用喪失の緩和までをも目的とした2万語に及ぶ大統領令の成立に貢献しました。彼女は、調査の結果、有害な職場環境を運営していたと結論付けられて辞任した生物学者エリック・ランダー氏の後任となりました。プラバカール氏は、この局長に任命された初の有色人種であり、初の女性でもあります。

私たちは、プラバカール氏のシリコンバレーのマンションのキッチンテーブルで話をしました。そこは簡素に装飾された空間で、私の記憶が正しければ、ワシントンD.C.の幽霊のような威圧的なアイゼンハワー行政官庁ビルにあるOSTPのオフィスとは全く異なっていました。幸いなことに、カリフォルニアの雰囲気が漂っていて、会話に威圧感はなく、むしろリラックスした雰囲気でした。私たちは、ブルース・スプリングスティーンがバイデン氏の最初のChatGPTデモにどのように関わっていたか、米国における半導体産業の復興への期待、そしてバイデン氏のがんとの戦いが他の大統領のがんとの戦いと異なる理由などについて話しました。また、私は彼女に、国家の最高技術責任者（CTO）という空席となっている役職の現状についても尋ねました。それは、理想的にはオタクっぽい人物で、21世紀を牽引するテクノロジーの問題を中心に仕事を行う、たった一人の人物です。

スティーブン・レヴィ：なぜこの仕事を引き受けたのですか?

アラティ・プラバカール：バイデン大統領がそうおっしゃったからです。彼は科学技術が私たちに大きなことを成し遂げる力を与えてくれると考えています。まさに私も科学技術の目的をそのように考えています。

どんな大きなもの？

OSTPの使命は、科学技術エコシステム全体の発展です。私たちは、一連の優先事項に基づいたシステムを構築しています。健康分野の研究開発には莫大な資金を費やしています。しかし、公的資金も企業資金も、医薬品や医療機器に大きく偏っており、病気への対処ではなく、健康状態を改善できる予防や臨床ケアの実践にはほとんど資金が投入されていません。私たちは気候危機にも対処しなければなりません。クリーンエネルギーのような技術に関しては、研究成果を国民に還元し、社会にインパクトを与えるという点で、十分な成果を上げていません。これはこの国の未完の課題です。

あなたがこの仕事に就くのは、まるで運命づけられていたみたいですね。カリフォルニア工科大学で物理学の学位を取得するとすぐにワシントンD.C.に行き、政策に携わるようになりましたね。

ええ、本来進むべき道を外れてしまったんです。家族は私が3歳の時にインドから移住してきたんです。母が「博士号を取って学者になったら…」と口にする家庭で育ちました。冗談抜きで。カリフォルニア工科大学、特に1984年に学位を取得した頃は、まさに象牙の塔のような、科学の崇拝の場でした。私は多くのことを学びましたが、同時に、喜びは午前2時に研究室にいて「ひらめき」の瞬間を迎えることでは得られないことも学びました。ふと思いついて、いわゆる「議会フェローシップ」で1年間ワシントンD.C.に来ました。大きな転機は1986年、若きプログラムマネージャーとしてDARPA（国防高等研究計画局）に赴任したことでした。この組織の使命は、科学技術を用いて未来の軌道を変えることでした。私は自分の居場所を見つけたのです。

どのようにして Darpa に来たのですか?

私はマイクロエレクトロニクスの研究開発に関する論文を執筆していました。半導体産業が常に米国に支配されるわけではないことに気づき始めた頃でした。うまくいかなかったプロジェクトも数多く手がけましたが、同時に成功するプロジェクトの基礎を築くことになりました。私は7年間在籍し、19年間離職した後、再び所長として戻ってきました。20年後、当然のことながら、担当業務は大きく変化していました。私は、港を出港し、船員を一人も乗せずに外洋を航行できる初の自動運転船の命名式を執り行うことができました。DARPAのもう一つの典型的な仕事は、新たな能力の基盤となり得るものを見つけることです。私は最終的に生物技術オフィスを立ち上げました。そこから生まれた多くの成果の一つが、mRNAワクチンの迅速な開発と普及です。これはDARPAの投資なしには決して実現しなかったでしょう。

現在との違いは、テクノロジー大手各社が自社で多くの研究開発を行っている点だが、必ずしも DARPA が設立された当初の大きな飛躍を目指しているわけではない。

どの先進国にもこのパターンがあります。まず、研究開発への公的投資があります。これは、新しい産業を育成し、経済を活性化させる方法の一つです。これらの産業が成長するにつれて、研究開発への投資も増加し、最終的にはそれが主流になります。かつては官民がほぼ半々でした。しかし今では、民間投資が大幅に増加しています。DARPAの使命は、言うまでもなく、国家安全保障のための画期的な技術と能力を開発することです。

その変化を心配していますか?

競争ではありません！まさに大きな変化がありました。民間のテクノロジー企業が最先端の法学修士課程を構築していることは、大きな意味を持っています。これはアメリカにとって大きな強みですが、テクノロジーの開発と利用方法にも影響を与えます。私たちは、公共の目的のために必要なものを確実に確保しなければなりません。

米国政府はそれを実現するために十分な投資を行っているでしょうか?

そうではないと思います。資金を増やす必要があります。AIに関する大統領令の構成要素の一つに、国家AI研究資源（National AI Research Resource）があります。研究者は企業のようにデータや計算リソースにアクセスできません。議会が検討している、政権も強く支持している取り組みでは、国立科学財団（National Science Foundation）に約30億ドルの資金を投入する予定です。

これは、OpenAI のような企業に投入される資金のごく一部です。

こうした最先端モデルの構築には多額の費用がかかります。問題は、高度なAIをどのようにガバナンスし、公共の目的に活用できるようにするかということです。政府はもっと多くのことを行う必要があります。議会の支援も必要です。しかし同時に、産業界との関係もこれまでとは異なる形で構築していく必要があります。

それはどのようなものになるでしょうか?

半導体製造とCHIPS法を見てみましょう。

それについては後で触れます。まずは大統領についてお聞きしたいのですが、彼はAIのようなものについてどの程度理解しているのでしょうか？

仕事で一番楽しかったことの一つは、大統領と一緒に仕事をして、大統領にテクノロジーの現状を理解させるお手伝いをしたことです。例えば、大統領執務室で大統領のためにチャットボットのデモンストレーションを行ったときなどです。

それはどんな感じでしたか？

ChatGPTを搭載したラップトップを使用して、特に興味深いトピックを選びました。大統領はちょうどブルース・スプリングスティーンに国家芸術勲章を授与する式典に出席したばかりでした。大統領はスプリングスティーンがニュージャージー出身で、彼の州であるデラウェア州のすぐ向こうの川沿いにあることを冗談で言い、そしてこの2つの州間の訴訟について言及しました。私はその訴訟について聞いたことがありませんでした。私たちはこの法的な事例を利用するのは面白いだろうと考えました。最初のプロンプトとして、ChatGPTにこの事例を1年生に説明してもらいました。するとすぐに「よし、坊や、もし誰かと喧嘩したら…」というような言葉が口から出てきました。次に、ボットに最高裁判所の訴訟の弁論要旨を書かせました。すると、非常に正式な法的分析が出力されました。そして、この事例についてブルース・スプリングスティーン風の曲を作りました。また、画像のデモンストレーションも行いました。大統領執務室のレゾリュート・デスクの後ろに座っている彼の愛犬コマンダーの画像も生成しました。

それで大統領の反応はどうでしたか?

彼は「わあ、そんなことができるなんて信じられない」と言っていました。AIの存在を知ったのはその時が初めてではありませんでしたが、直接体験することができました。おかげで、私たちはAIの真髄を深く理解することができました。まるで魔法のような話のように思えますが、実際には、これらのモデルはデータを使って訓練されたコンピューターシステムであり、驚くほど優れた統計予測を行うために使われていることを理解する必要があります。

大統領令には多くの問題が含まれています。デモを見た大統領が最も関心を持った問題はどれだと思いますか？

その期間に最も大きく変わったのは、彼の緊急性でした。彼が私たち全員に課した課題は、リスクを管理し、そのメリットを享受できるようにすることでした。私たちは意図的に、幅広いカテゴリーを扱うアプローチを採用しました。だからこそ、非常に広範で分厚い、膨大な大統領令となったのです。欺瞞や詐欺による情報の完全性へのリスク、安全とセキュリティへのリスク、公民権と市民の自由へのリスク、差別とプライバシー問題、そして労働者、経済、知的財産へのリスク。これらは、それぞれ異なる人々に、異なるタイムラインで、異なる形で現れるでしょう。既にこれらのリスクに対処する法律が存在する場合もあり、詐欺を犯すことは違法であることが判明しました。しかし、知的財産問題のように、明確な答えがない問題もあります。

この命令には、定められた期限内に実行しなければならない条項が多数あります。それらの進捗状況はいかがですか？

目標は達成されつつあります。90日間のマイルストーンはすべて達成済みです。今回の取り組みの中で、私が特に感銘を受けたのはAI評議会です。閣僚や様々な規制機関の長が参加しています。彼らが集まると、他の幹部会議のように既に全ての作業が完了しているような雰囲気にはなりません。AIを正しく活用しなければならないという認識のもと、参加者は熱意を持って議論に臨みます。

技術が少数の大企業に集中してしまうのではないかという懸念があります。マイクロソフトは実質的に、有力なスタートアップ企業であるInflectionを吸収合併しました。この集中化について懸念はありますか？

競争はまさにこの議論の一部です。大統領令は具体的にそれについて言及しています。この問題の多くの側面の一つは、これらの巨大なモデルを製造できる者だけがどの程度の権力を握るのかということです。

この大統領令は、AI技術が公平性を体現し、偏見を持たぬよう求めています。ワシントンD.C.では、多様性の義務化に反対する人々が多くいます。一方で、政府が偏見を構成する要素を決定することに抵抗を感じる人もいます。政府は法的にも倫理的にも、どのように判断を下すのでしょうか？

私たちが行っていることは次のとおりです。大統領は10月末に大統領令に署名しました。その数日後、行政管理予算局（OMB）が覚書を発表しました。これは、政府全体でAIをどのように活用するかについてのガイダンスの草案です。今、私たちは深く複雑な段階に入っていますが、ここが肝心です。このガイダンスに基づいて、政府がAIツールを使用する際に偏見が埋め込まれないようにするためのプロセスが構築されます。

それが戦略ですか？民間部門にルールを強制するのではなく、政府にルールを押し付け、政府は大きな顧客なので、企業はそれを全員に適用するということですか？

これは、物事が広く機能する方法を確立するのに役立つかもしれません。しかし、雇用や融資の決定における差別を禁止する法律や規制も存在します。つまり、AIを自由に活用することはできますが、だからといって責任を免れるわけではありません。

マーク・アンドリーセンのテクノオプティミスト宣言を読んだことがありますか?

いいえ。聞いたことはあります。

そこには、基本的に、AI の進歩を遅らせている人は殺人者と同じであり、制約なく前進することで人命が救われる、という一文があります。

それはあまりにも単純化された世界観です。人類の歴史は、強力なテクノロジーが良いことにも悪いことにも使われることを物語っています。私がこの40、50年にわたってやってきた仕事にやりがいを感じるのは、多くの努力の末に最終的に前進できることを何度も見てきたからです。それは、何か素晴らしい新技術が生まれたから自動的に起こるわけではありません。それをどのように使うか、どのように使わないか、どのように人々がアクセスできるようにするか、そしてそのマイナス面をどう管理するかといった、非常に人間的な多くの選択によって実現するのです。

政府では AI の活用をどのように促進していますか?

現在、政府機関ではAIがより控えめな形で活用されています。退役軍人省は、退役軍人からのフィードバックを得てサービスを改善するためにAIを活用しています。社会保障局は、障害年金の申請処理を迅速化するためにAIを活用しています。

これらは古いプログラムです。次はどうなるのでしょうか？政府の官僚は文書の作成に多くの時間を費やしています。AIはそのプロセスの一部となるのでしょうか？

生成型AIが活用されている事例の一つです。企業と同様に、責任あるAI活用方法を明確にし、機密データの漏洩や偏見の根絶に努める必要があります。今回の大統領令で特に期待しているのは、AI人材の急増です。AIの専門家に対し、「世界を変えたいなら、今こそスキルを政府に持ち込む絶好の機会だ」と訴えかけています。私たちはこれをAI.govで公開しました。

そのプロセスはどのくらい進んでいますか?

現在、マッチングの段階です。素晴らしい人材が集まっています。

さて、バイデン政権が米国の半導体産業の復興に向けて目玉としているCHIPS法についてお話しましょう。この法案は、米国の半導体産業の成長のために500億ドル以上を拠出しますが、本来は民間投資をさらに促進することを目的としているんですよね？

この物語は数十年前、半導体製造における米国の優位性に端を発しています。数十年かけて半導体産業はグローバル化し、その後、地政学的に脆弱な地域に非常に危険なほど集中するようになりました。1年半前、大統領は議会に超党派の行動を促し、私たちは米国における半導体産業との連携について全く異なる方法を模索しています。

どのような意味で違うのでしょうか?

政府が独力で製造工場を建設してもうまくいきません。ですから、私たちのパートナーシップは、企業がどの製品を製造すべきか、どこで製造するかを決定し、それに基づいて政府の優遇措置が与えられるというものです。米国がこの業界でこのような取り組みを行うのは初めてですが、世界各国では既に行われています。

米国が半導体や電子機器の製造で大きなシェアを占めていた時代に戻れると考えるのは幻想だと言う人もいます。もちろん、あなたはそうは思っていません。

我々は1980年代に時計の針を戻して「すべてを米国に持ち込め」と言っているわけではありません。我々の戦略は、米国に必要な堅牢性を確保し、国家安全保障上のニーズを確実に満たすことです。

最大の助成金受領者はインテルで、80億ドルを獲得しました。同社のCEO、パット・ゲルシンガー氏は、CHIPS法だけでは米国の競争力強化には不十分であり、CHIPS法2が必要だと述べました。彼の言う通りでしょうか？

まだ誰も答えを知らないと思います。要因が多すぎるからです。今の仕事は、工場を建設することです。

あなたはDARPAの元長官として、軍政界の一員でした。Googleのような一部の企業の従業員の間で、軍との契約を締結すべきではないという感情が広がっていることについて、どのようにお考えですか？

企業の人々が、自分の仕事がどのように使われているのかについて厳しい質問をするのは素晴らしいことです。私はそれを尊重します。私の個人的な見解としては、国家安全保障は私たち全員にとって不可欠だと考えています。ここシリコンバレーでは、毎朝起きて事業を立ち上げ、資金を調達することが全く当然のことと考えられています。これは偶然に起こるものではなく、国家安全保障における私たちの仕事によって形作られるものです。

貴官室は、大統領が「がんムーンショット」と呼ぶ取り組みを先導しています。私が生きている間、歴代の大統領は皆、がん治療のための何らかのプロジェクトに取り組んでいたように思います。ニクソン大統領ががんとの戦いについて語ったのを覚えています。なぜ今回の大統領の発言を信じるべきなのでしょうか？

私たちは真の進歩を遂げました。大統領とファーストレディは2つの目標を設定しました。1つは、25年間で年齢調整がん死亡率を半減させること。もう1つは、がんを経験する人々の経験を変えることです。がんは様々な側面を持つ非常に複雑な病気であることが、私たちは理解するようになりました。アメリカの健康状態は、世界で最も裕福な国として受け入れられるものではありません。私たちのがんムーンショットを率いるダニエル・カーニバル氏（彼女はオバマ政権時代に副大統領の下で働いていました）と話した際、私はこう言いました。「あなたは素晴らしい研究論文をたくさん書くつもりですか、それともがんの現状を変えようとするつもりですか、私にはわかりません」。彼女は新しい治療法について話しましたが、早期スクリーニングへのアクセスを拡大するという極めて重要な取り組みについても話しました。なぜなら、いくつかの治療法を早期に発見できれば、状況が一変するからです。それを聞いて、私は「素晴らしい、私たちは実際に現状を変えようとしている」と言いました。

国民の多くは科学に対して敵意を持っていると思いませんか?

人々はあらゆることに対してより懐疑的になっています。気候やワクチン、その他の感染症対策といった、特に注目を集める問題においては、変化が見られると思います。科学者はより深く説明したいと考えていますが、謙虚であるべきです。科学を宗教のように扱うのはあまり効果的ではないと思います。パンデミックの2年目、人々はガイドラインが変わり続けると言い続けましたが、私は「ガイドラインが変わるのは当然だし、私たちの理解も変わる」としか考えられませんでした。この時こそ、研究コミュニティは「私たちは知ったかぶりだ」と言うのではなく、少し謙虚になるべきでした。

多くの人が経験主義を信じていない時代に、科学政策を担当するのは厄介なことでしょうか?

そこまで極端な話ではないと思います。人々は常に、確かな事実だけでなく、人生における様々な要素や、自分たちが絡み合っている思考のネットワークに基づいて選択を行ってきました。人間は複雑な存在だということを受け入れなければなりません。

あなたの仕事の一部は、国の最高技術責任者（CTO）を雇用し、監督することです。しかし、私たちにはCTOがいません。なぜでしょうか？

私が入社した時点で、それはすでに長い取り組みでした。それは大きな挑戦でした。テクノロジー業界で働く人はほぼ必ず金銭的な問題を抱えているため、採用は非常に困難です。

優秀な人材が溢れる国で、株式を保有していない、あるいは保有株を処分できない人が、その仕事に適任でないとは信じられません。あなたにとって、株式投資の優先順位が低いだけなのでしょうか？

私たちはそれに多くの時間を費やして取り組みましたが、成功しませんでした。

任期全体を CTO なしで過ごすことになるのでしょうか?

予測はできません。それ以上は何も分かりません。

現政権の任期は残りわずか数ヶ月となりました。バイデン大統領はあなたに閣僚の地位を与えました。科学技術は政府において適切な影響力を発揮しているでしょうか？

はい、はっきりと認識しています。大きな変化をいくつか見てみましょう。例えば、気候変動に関する最初の真に意義のある進歩、つまり気候が実際に気づくような規模で解決策を展開することなどです。あらゆる分野でこうした変化を目の当たりにし、大変嬉しく思っています。

この記事についてのご意見をお聞かせください。 [email protected]までお手紙をお送りください。