英国の大規模AIサミットは破滅主義の混乱に陥っている

英国政府は、気候変動政策の転換や石油掘削、大気汚染への取り組みなど、通常は終末論的であるように思われる。しかし最近、英国の有力政治家たちは世界を救うために精力的に活動している。リシ・スナック首相をはじめとする閣僚、そして外交官たちは、暴走する超人工知能（AI）の存在そのものにかかわる危険性について、各国の閣僚に説明を行っている。彼らは、AIが生物兵器の開発、独裁者の権力強化、民主主義の弱体化、そして金融システムの脅威となる可能性があると警告している。「この流れを食い止めることはできないと思う」と、オリバー・ダウデン副首相は9月下旬、国連で述べた。

ダウデン氏の悲観論は、11月1日と2日に予定されている英国政府のAIガバナンスに関する世界サミットへの支持を高めるためのものとされている。このサミットは、キラーAIの脅威を一変させ、そのリスク軽減に向けた国際的なコンセンサス形成の契機となると謳われている。英国を「知的拠点だけでなく、世界的なAI安全規制の地理的拠点」にしたいという願望を喧伝し、「新たなシリコンバレー」と「テクノロジー超大国」を創設するというより広範な計画を掲げるスナック氏にとって、このサミットは重要なイベントとなる。しかし、開始までわずか1週間余りとなった今、サミットは悲観的な見通しと期待外れの見通しを同時に抱くことになりそうだ。議論の提案内容を直接知る2人の情報筋によると、サミットの目玉となる取り組みは、大規模AIモデルの自主的な世界登録制度となるという。これは実質的に無力な取り組みだ。世界の主要なAIプロジェクトをすべて網羅できるかどうかは、一般的に意見が合わない米国と中国の大手テクノロジー企業の善意にかかっている。

サミットの残りの部分はどうなっているのだろうか？交渉に近い筋によると、米国政府は英国が中国当局者を招待したことに憤慨しているという（英国与党保守党の一部議員も同様だ）。出席者リストは公表されていないが、英国国内のAIセクターを牽引する企業や投資家は、自分たちが招待されず、業界の将来に関する議論から締め出されたことに憤慨している。彼らや他のAI専門家は、政府がAIによる大惨事という辺鄙な懸念に焦点を当てていることで、このサミットはAI技術のより差し迫った現実世界のリスク、そしてその潜在的なメリットをすべて無視することになるだろうと指摘している。

「英国がこの件で何を提供してくれるのか、私にはさっぱり分かりません」と、オックスフォード大学インターネット研究所でAI、政府、政策の講師を務めるキーガン・マクブライド氏は言う。「彼らの焦点はあまりにも狭いのです」。彼をはじめとする英国のAI業界の関係者は、政府はむしろ、急速な変化とAIへの巨額投資の時代において、英国のAI企業が競争できるよう、どのように支援できるかに目を向けるべきだと主張している。

サミットの議題には、2種類のAIが取り上げられると記されている。一つは、生物兵器開発に利用される可能性のあるモデルなど、限定的だが潜在的に危険な能力を持つAI、もう一つは「フロンティアAI」だ。これは英国が定義するやや漠然とした概念で、OpenAIのChatGPTを支えるような大規模言語モデルに匹敵するか、それを超える能力を持つ、巨大で多目的な人工知能を指す。このフィルターによって、参加者リストは自動的に絞り込まれる。「このような取り組みを行っている企業はほんの一握りです」とマクブライド氏は言う。「ほとんどがアメリカか中国の企業で、こうしたモデルの訓練に必要なインフラは、基本的にすべてAmazon、Google、Microsoftといったアメリカ企業が所有しています。」

WIREDは10人以上の英国のAI専門家や幹部に話を聞いたが、サミットには誰一人として招待されていなかった。英国のAI業界から参加が判明しているのは、ロンドンで設立され、2014年に検索大手Googleに買収されたGoogle DeepMindのみだ。このことが大きな不満を引き起こしている。

「現代のAIの多くは英国で開発されました」と、ロンドンに拠点を置くAIアプリ開発スタートアップ、Builder AIのサチン・デヴ・ダガル氏は語る。「一方では、英国は世界のAIの中心地だと自称しながらも、もう一方では、英国のCEOや起業家、研究者に発言権を委ねたくないとも言っているのです。全く意味が通じません。」

世界のクラウドコンピューティングとソーシャルメディアのインフラの多くは米国企業によって所有されており、英国企業、そして英国の規制当局は既に不利な立場にあるとダガル氏は指摘する。業界を形作る取引が国内企業の意見を一切反映しないまま成立すれば、次世代のテクノロジーも少数の巨大米国企業の手に集中してしまう可能性がある。「私たちの中には、かなり懸念しているグループがあります」と彼は言う。

ダガル氏の見解は、英国のAI業界の他の人々にも共有されている。彼らは、最先端モデルへの執着が「その先端の背後にあるすべて」を見落としていると不満を漏らしている。これは、あるユニコーンAIスタートアップの幹部が匿名で語った言葉だ。幹部は、サミットへの招待をまだ期待しているため、この発言は「その先端の背後にあるすべて」を見落としていると述べている。その背後には、あらゆるスタートアップ、独自のAIを開発しているあらゆる学術チーム、そして現在可能な技術のあらゆる応用が含まれると、幹部は述べている。最先端への焦点は、オープンソースの言語モデルも除外している。オープンソースの言語モデルは、最高のものでも入​​手可能な最高のものよりわずかに遅れていると考えられているものの、誰でもダウンロードして使用（あるいは誤用）できるからだ。

英国政府は、地元の半導体産業の育成、AI研究を支援するためのブリストルの新しいスーパーコンピューター、さまざまなタスクフォースや推進団体への資金提供など、AI関連の取り組みに10億ドル以上を投資することを約束している。これらがどれほどの助けになるかはまだ分からない。批評家は、世界的に見れば大した金額ではないと指摘している。米国やアジアのリーダーたちに大きく遅れをとりながら、10億ドルでチップ産業とAI産業の両方を強化するのは容易ではないだろう。また、資金が必ずしも英国企業に流れているわけではない。5月、AI用の特殊チップを製造するブリストルのスタートアップ企業、GraphcoreのCEOは、政府に資金の一部を英国の製造業者に指定するよう要請した。これは実現せず、Graphcoreは今月、事業継続には資金注入が必要だと警告した。

「非常に奇妙なのは、政府がAIはこうしたあらゆることが可能で、その威力は文字通り世界を滅ぼすほどだと言っていることです」とオックスフォード大学のマクブライド氏は言う。「しかし、政府はAIの力をどのように活用するかについても調査しているはずです。世界は、AIをどう活用できるかを考える上で、アメリカとイギリスに期待を寄せるでしょう。そして現時点では、イギリスは世界に示すような成果をほとんど持っていません。」

英国議会は、EUのAI法に匹敵する規模の国内AI規制の議論をまだ開始していないものの、政府はAI産業の成長を促進するために、より緩やかな規制を推奨する白書を発表している。しかし、これは政策や法律として制定されるには程遠く、EUが主導権を握っている。

「英国が自ら規制をしていないのは非常に恥ずべきことです」と、実存的リスクに焦点を当てた米国のシンクタンク、フューチャー・オブ・ライフ研究所の政策ディレクター、マーク・ブレイケル氏は語る。米国では、上院で規制に関する具体的な提案がなされている。EUのAI法は成立間近だ。ブラジルも中国と同様に独自の規制を策定中だとブレイケル氏は言う。「しかし、英国には何もありません。もしあなたが議長国であるなら、自ら何か提案できるのであれば、それは理にかなっていると思います」

3月にAI開発の一時停止を求める公開書簡を発表し、注目を集めたブレイケル氏の研究所は、このサミットの構想を強く支持している。Skypeの共同開発者であるヤーン・タリン氏をはじめとするテクノロジー界の著名人から支援を受けている同研究所は、政府に対し、存在に関わるリスクを真剣に受け止めるよう積極的にロビー活動を行ってきた。しかし、ブレイケル氏でさえ、英国でのイベントの成果に期待するところは限定的だ。「これはAIリスク入門のようなものだと思います」とブレイケル氏は言う。「サミット参加者全員が、何が最も重要なリスクであり、何に焦点を当てるべきかについて合意できれば、本当に嬉しいです」

スナク氏にとっては、サミット開催に多大な政治的資本を費やした政府にとって、それだけでは不十分かもしれない。米国副大統領のカマラ・ハリス氏が出席する予定だ。しかし、英国は中国代表団も招待しており、北京を戦略的脅威と見なす米国当局者の怒りを買っていると報じられている。英国メディアの報道によると、中国当局者の出席はサミットの半分程度にとどまる可能性があるという。欧州当局者も参加する予定だが、フランスは英国に続いて2週間後に、通信業界の億万長者ザビエル・ニール氏が主催する独自のAIサミットを開催する。10月18日、中国サイバースペース管理局は独自のグローバルAIガバナンス構想を発表した。

各国が主催する会合は、AI規制のための多国間アプローチを検討している国連やG7などの国際フォーラムとの競争にも直面する。英国のアプローチがどのように異なるのか、あるいはAI開発の方向性を有意義に変えるような国家間合意が、開発の初期段階において実現可能かどうかは不明である。

「国際的な合意形成を目指すという（スナク氏の）戦略には完全に賛成です。しかし、国際的な合意は、最も広範な原則に基づいてのみ形成されるだろうと私は考えています」と、スナク氏率いる保守党の元英国デジタル担当大臣、ジェレミー・ライト氏は言う。「現実的に考えれば、何かをするのであれば、まず国内で実行してから国際的な取り組みを始めなければならないでしょう。」

協議に詳しい2人の情報筋は、スナク氏が出席者にAI安全研究所の設立を提案するという今月初めのPoliticoの報道を裏付けた。また、英国政府は、政府が最先端のAIのブラックボックスの内部を可視化し、潜在的な危険性を事前に把握できるようにする、最先端のモデルの登録を提案する予定だと彼らは述べた。この取り組みでは、モデル開発者に対し、モデルへの早期アクセスを提供することを求め、「レッドチーム」による検証を行い、潜在的なリスクを評価する。

米国の大手企業のほとんどは、すでに米国政府の安全に関する誓約に署名している。なぜ彼らが新たな誓約に署名し、貴重な機密情報を英国機関に引き渡すことを約束する必要があるのか​​は不明だ。

英国の「破滅」サミットを批判する人々――与党保守党員を含む――は、せいぜい凡庸な結果に終わるだろうと懸念している。彼らによると、サミットが急遽決行された真の理由は国内政治にあるという。スナク氏は世論調査で後れを取り、次の選挙で政権を失うことがほぼ確実視されている今、この国内政治こそが世界をリードしていることを示す、あるいは少なくともそう装うための手段なのだ。複数の関係者が指摘するように、その証拠は会場選びにある。英国がコンピューター分野で真に世界のトップクラスだった時代に建てられた19世紀の邸宅だ。

ブレッチリー・パークは、第二次世界大戦中、英国の暗号学者たちがナチスの「エニグマ」暗号を解読した場所だ。この場所は、英国のコンピューター界で最も重要な人物のひとりであるアラン・チューリングと切っても切れない関係にあり、政府がこの場所を選んだのも当然だろう。しかし実際には、あまり意味をなさない。ブレッチリー・パークはロンドンから50マイル離れており、「行くのが面倒くさい」と、匿名を条件に話してくれたある政府顧問は言う。この顧問は、今でも時々科学技術省で働いているという。しかし、この距離だからといって、便利で安全というわけでもない。戦時中はキャンパスは詮索好きな目から離れた場所にあったが、現在はミルトン・キーンズ郊外にある。ミルトン・キーンズは戦後に建設された小さな都市で、長らく英国のジョークの種となっており、コンクリートの味気なさの代名詞で、ラウンドアバウトの多さで知られている。

サミット自体と同様に、この会場も、象徴性が実質に勝ったと一部の人々に示唆している。政府との交渉を希望していたため匿名を条件に取材に応じたあるテック企業幹部は、これを「写真撮影による政府」と呼んだ。彼は、スナク氏率いる保守党が2025年1月までに実施される予定の次期総選挙で敗北する可能性が高いという事実に慰めを見出している。「彼らは18ヶ月で消え去るだろう」と彼は言う。