ジョー・バイデンにはキラーAIに対抗する秘密兵器がある。それは官僚だ

ChatGPTの1周年が近づくにつれ、世界を揺るがしたこの大規模言語モデルに、プレゼントが次々と届いています。ジョー・バイデン大統領からは、特大の「人工知能の安全、セキュリティ、信頼性のある開発と利用に関する大統領令」が発表されました。英国のリシ・スナック首相は、人類絶滅をテーマにしたクールなパーティーを開き、責任あるAI開発のための国際協力を約束する28カ国（EUも1カ国としてカウント）の合意を締めくくりました。お誕生日おめでとうございます！

誰もが興奮しすぎる前に、信頼できる研究が壊滅的な気候変動を予測してから半世紀以上が経過していることを思い出しましょう。今や水は文字通り私たちの足元を覆い、熱波によって文明社会の多くの部分が居住不能になっているにもかかわらず、国際秩序は大気中に放出される化石燃料由来の二酸化炭素量にほとんど歯止めをかけていません。アメリカ合衆国は気候変動否定論者を大統領継承順位2位に据えたばかりです。AI規制は今後さらに進展するのでしょうか？

そう考えるのには理由がある。気候変動問題では、数兆ドル規模の産業が総力を挙げて脅威を否定し、必要な炭素削減策を阻止しようとキャンペーンを展開したが、AIの大国は規制を切望しているようだ。彼らは確かに自らの利益を最優先に考えているのだろうが、少なくともルールが必要だという認識は存在している。また、気候変動問題とは異なり、各国政府はAIへの脅威を、技術開発の比較的早い段階から真剣に受け止めている。バイデン計画と国際協定はどちらも、AIが人間を支配する前にAIに対処しようとする、称賛に値する真剣な取り組みを示している。

そう考えると、実際の内容についてあれこれと批判するのは些細なことに思える。しかし、あえてそうする。まずはバイデン大統領の大統領令から見ていこう。19,811語におよぶ政府用語を私は全部読んだので、皆さんは読まなくて済むだろう。最後まで読むと、ドラマミンが欲しくてたまらなかった。大統領はどのようにしてAIのメリットを促進しつつ、その負の側面を抑制しようとしているのだろうか？それは、官僚機構の人間的波を解き放つことだ。この文書は、新たな委員会、作業部会、委員会、タスクフォースの設置を恣意的に求めている。また、現職の公務員や政治任命職員の業務にAI監視を追加することも一貫して求められている。

この文書に欠けている点の一つは、計画から生じる可能性のあるあらゆる規制や義務に対する確固たる法的裏付けだ。大統領令はしばしば裁判所によって覆されるか、独自のAI規制を検討している議会によって置き換えられる。（ただし、政府閉鎖が迫っているため、期待しすぎない方が良いだろう。）そして、バイデン氏の解決策の多くは、検討対象となっている業界による自主規制に依存しており、その業界の大きな権力がこの計画に多大な影響を与えている。

国土安全保障省は人工知能安全・セキュリティ委員会を立ち上げ、保健福祉省はAIタスクフォースを組織し、行政管理予算局長はAIの活用を調整するための省庁間協議会を招集する。などなど。部外者を含む各グループが利益相反に悩まされないよう徹底するのは至難の業となるだろう。（政府関係者のみで構成される委員会や委員会の委員は、ワシントンのAI関連機関の職に就くまで後回しにせざるを得ないだろう。）全てのAIワーキンググループの母体となるのは、ホワイトハウスAI評議会であり、統合参謀本部議長からジェンダー政策評議会議長まで、30人以上の官僚の大物が含まれる。これはZoomにとって大当たりとなるだろう！

この命令を読むと、来年は行政府の半分がAIの宿題で埋もれることになるのではないかと思う人もいるかもしれない。今年が終わる前には、司法長官から農務長官に至るまで、空欄を埋めるためにサム・アルトマンのスピードダイヤルが必要になるだろう。バイデン氏が命じたさまざまな報告書やタスクの期限を数えてみた。30日以内に完了するものが2つ、60日以内に6つ、45日以内に5つ、90日以内に11つ、120日以内に7つ、150日以内に3つ、180日以内に38つ、270日以内に11つ、365日以内にさらに11つある。計算の手間を省くため、これらの大きな要求をすべて合計すると94個になる。そして、期限なしで要求される報告書やタスクは他にもたくさんある。典型的な例を1つ挙げると、経済諮問委員会の委員長は、「AIの労働市場への影響」について、おそらく論文レベルの報告書を作成し、提出しなければならない。 GPT-4の仕事になりそう！要求の中には、連邦通信委員会（FCC）と連邦取引委員会（FTC）に一連の行動を検討するよう「促す」といった漠然としたものもある。しかし、一つ一つが面倒な実行を伴い、会議、草稿作成、インタビュー、業界リーダーや学者との協議、そして土壇場での尻拭いなど、様々な作業が必要となる。

現在政府の給与をもらっている人々がこれらの任務を遂行できるかどうかは明らかではない。シリコンバレーはAI人材を渇望しており、熾烈な獲得競争を繰り広げている。要求されている高度に技術的なタスク、例えば現在の驚異的なチャットボットよりもさらに強力な「最先端」法学修士課程の審査などを実行するには、レッドチーム演習やデータセットからのバイアス除去、そして命令書にあるように「物理的に単一のデータセンターに配置され、100ギガビット/秒を超えるデータセンターネットワークで推移的に接続し、AIトレーニング用に理論上最大1秒あたり10の²⁰乗の整数または浮動小数点演算の計算能力を持つマシン」の仕組みに精通したAレベルのプログラマーが必要になる。これは政府にとって大きな要求だ。バイデン大統領の命令はまた、すべての主要機関に対し、60日以内に最高人工知能責任者を任命するよう指示している。これは、3年間も最高技術責任者の空席を埋めることができなかったホワイトハウスによって下された要件である。

この大統領令は、公式ウェブサイトAI.govに採用活動のためのページを割くことを義務付けています。トップページには「全国的なAI人材の急増に加わろう」と訪問者に呼びかけています。しかし、GoogleやOpenAIから6桁の高額給与のオファーを検討しているAI関連の訓練を受けた新卒者を、どんなに気の利いたミームで捕まえることも難しいかもしれません。大統領令には、AI人材が米国で働くことを希望する際の現在のハードルを取り除くために移民政策を変更するという優れたアイデアが盛り込まれています。しかし、移民を増やすような例外措置に反対する人々、つまり共和党員全員がこれに反対するのではないかと私は考えています。おそらく、他の大統領による移民に関する命令と同様に、これも裁判で争われることになるでしょう。米国デジタルサービスの設立に尽力したジェニファー・パルカ氏は、AI専門家の急激な需要を満たすためには、政府は時代遅れの採用慣行を根本的に見直すべきだと書いています。「AIはまるでマックトラックのように私たちを襲おうとしています」と彼女は書いています。「私たちには機能する公務員が必要です。そして、それは今必要なのです。」彼女が提案する改革が、60日、90日、あるいは270日という期限のすべてに間に合うように実施される可能性は低い。

バイデン大統領の大統領令が示す分厚く詳細なToDoリストとは対照的に、リシ・スナック氏のブレッチリー宣言は善意の表明として映る。功績は具体的な行動を明示したことではなく、各国が帰国前に一つの声明に署名したことだ。EUと中国をはじめとする個々の署名国の多くはAI規制の道のりを順調に進んでいるが、国際社会全体としては、まだ出発点に過ぎない。1,200語未満（本エッセイよりも短い）のこの宣言は、AIの可能性とリスクを認め、AIを開発する人々に責任ある行動を取るよう警告している。もちろん、Google、Microsoftなどの企業は、既に責任ある行動をとっていると主張するだろう。そして、具体的な記述がないことは、状況が緊急であるという宣言の前提と矛盾しているように思える。宣言は「AIモデルによって深刻な、さらには壊滅的な被害が生じる可能性がある」と述べており、これは明らかに人類絶滅を指しているようだ。しかし、バイアスの透明性、プライバシー、データといった問題も認識されており、署名者は「これらの問題に対処する必要性と緊急性を確認」している。しかし、この文書で唯一定められた期限は、2024年に再度会合を開くという約束だけだ。その頃には、バイデン政権は報告書の作成、省庁間委員会の設置、そして人材採用活動に追われているだろう。一方、どちらの文書にも、AIがより強力で有用になること、あるいは潜在的に危険性が高まることを阻むような内容は見当たらない。

タイムトラベル

AIの恩恵を享受しつつ、AIを封じ込めようとする闘いは、何十年も続いています。1997年5月、チェスチャンピオンのガルリ・カスパロフとIBMのディープ・ブルーの間で行われた、今では有名な対決の幕開けとなる記事を執筆していたとき、私はこの弁証法について深く考えました。ニューズウィーク誌の表紙には、「脳の最後の抵抗」と書かれていました。

細胞と回路のこの画期的な衝突には、深い皮肉が潜んでいる。ディープ・ブルーは機械だが、その訓練は熱意ある人間によるプログラミングとチェスのレッスンで構成されている。カスパロフは人類の旗手だが、彼が相手にしているのは高度なプログラムを実行するコンピューターだ。双方の準備は、かつて私たちが支配していた領域に侵入してきたシリコン製の機械と、私たち皆が築き上げてきた関係を反映している。私たちは競争しているのではなく、協力しているのだ。もしコンピューターが私たちの前から引き剥がされたら、飛行機は着陸できず、車はエンストし、電話は鳴り響き、レジは沈黙し、印刷機は停止し、強気相場はハンバーガーのようになってしまうだろう。シリコンは私たちの究極の義肢であり、工業化社会はサイボーグ文化であり、人類の知的労働の多くは、たとえ不安定ではあっても、デジタルの仲間たちによって行われている。コンピューターと人間は共にこの状況に生きている。少なくとも今のところは。

だからこそ、今週の歴史的な対決に、私たちは少なからず不安を抱いて臨んでいる。提携条件は変更される可能性がある。人間はより用心深いかもしれないが、彼らは飛躍的に賢くなっている。そして、シリコンの相棒から聞かされるのを恐れる言葉が一つある。「チェックメイト」だ。

一つだけ聞いてください

ガボール氏は、「1年後、ニュースやニュースレターの何パーセントが法学修士によって書かれるようになるでしょうか。そして、それはニュース業界にどのような変化をもたらすでしょうか」と問いかけます。

ありがとう、ガボール。T2/Pebbleが残念ながら閉鎖される前に、この質問を受け取れてよかったです。

さて、答えはこうです。AIが1年後にジャーナリズムの状況を劇的に変えるかどうかは分かりません。割合で言えば、AI生成記事は今後も数多く登場するでしょうが、実際に人々が読む記事の大部分は依然として人間によって作成されるでしょう。なぜなら、ChatGPTなどのAIが生成する記事は、今のところ平均的なジャーナリストが生み出せるレベルにさえ及ばないからです。出版物がAIコンテンツを使っても、大抵は期待外れに終わります。そして、AIコンテンツを使うことは、その出版物で働く真のジャーナリストを大いに怒らせることになるでしょう。

中期的には、おそらく3年から5年後には、より優れた法学修士課程と、それらをより賢く活用するアプローチの組み合わせによって、この方程式はいくらか変化するだろうと思います。特に、魅力的な見出しを持つクリックベイト記事は顕著です。生成型AIが、最も冷笑的なコピーライターや見出しライターよりも、底辺層の記事をクリックさせるのに効果的になったとしても、私は驚きません。しかし、それは質の高いメディアには影響しません。今のところ、ニュース業界で勝者となっているのは、単にトラフィックを狙うメディアではなく、質の高い報道と記事で購読者を獲得しているメディアのようです。

長期的には、答えは曖昧です。これらのシステムがジャーナリズム制作においてどれほど優れた成果を上げるのか、私には全く分かりません。10年後、20年後には、Plaintextは高度なAIライターによって書かれるかもしれません。人々はそれに気づくでしょうか？そう願っています。

ご質問は[email protected]までお送りください。件名に「ASK LEVY」とご記入ください。