OpenAIの役員室でのドラマがあなたの将来を台無しにするかもしれない

WIREDに掲載されているすべての製品は、編集者が独自に選定したものです。ただし、小売店やリンクを経由した製品購入から報酬を受け取る場合があります。詳細はこちらをご覧ください。

6月、WIREDの10月号の特集記事を執筆した際、OpenAI本社で主任科学者のイリヤ・スツケヴァー氏と会話を交わした。その話題の一つは、同社の特異な組織構造だった。

OpenAIは、人間と同等かそれ以上の人工知能（汎用人工知能、AGIと呼ばれる）を安全な方法で開発することを使命とする非営利の研究機関として始まりました。同社は、驚くほど流暢なテキストを生成する大規模言語モデルに有望な道筋を発見しましたが、そのモデルの開発と実装には、膨大な量のコンピューティングインフラストラクチャと山のような資金が必要でした。そのため、OpenAIは外部投資家を引き付けるために営利組織を設立し、マイクロソフトという主要パートナーを獲得しました。社内のほぼ全員が、この新しい営利部門で働いていました。しかし、同社の営利活動には制限が設けられました。投資家に支払われる利益には上限があり、最初の支援者については出資額の100倍に制限され、その後はOpenAIは純粋な非営利団体に戻ることになりました。全体は、当初の使命の目標と、おそらく神にのみ責任を負う、当初の非営利団体の理事会によって統括されていました。

この関係性を示す奇妙な組織図は、将来の GPT が脱税の設計を求められたときに思いつくもののようなものだと私が冗談を言ったとき、スツケヴァー氏は気に入らなかった。「当社は、利益上限構造を持つ世界で唯一の企業です」と彼は私に忠告した。「それが理にかなっている理由は次の通りです。私たちと同じように、もし私たちが本当にうまくいけば、これらの GPU が私の仕事、あなたの仕事、そして全員の仕事を奪うだろうと信じているなら、その企業が本当に無制限の利益を上げない方がよいと思われるからです。」その間、会社の利益追求部門が AI が制御不能にならないようにするという約束を怠らないように、取締役会が状況を監視しています。

この人類の守護者を自称する取締役会は、先週金曜日にサム・アルトマンCEOを解任した取締役会と同じ組織です。取締役会は、CEOが「取締役会とのコミュニケーションにおいて常に率直さを欠き、取締役会の責任遂行能力を阻害した」ため、もはやCEOを信頼できないと述べました。この疑惑の行動の具体的な例は示されておらず、解雇が公表される直前まで社内のほとんど誰もそのことを知りませんでした。マイクロソフトのCEO、サティア・ナデラ氏をはじめとする投資家には事前の通知はありませんでした。6人で構成される取締役会の過半数を占める4人の取締役は、OpenAIの社長兼会長であるグレッグ・ブロックマン氏も取締役会から追放しました。ブロックマン氏はすぐに辞任しました。

取締役会の考えに詳しい人物に話を聞いた結果、アルトマン氏を解任した取締役たちは、強力なAIを安全に開発するという使命を遂行していると信じていたように思われます。それが会社の唯一の存在意義です。利益の増加やChatGPTの利用率向上、職場の協調性維持、マイクロソフトをはじめとする投資家の満足維持などは、彼らの関心事ではありませんでした。アダム・ダンジェロ、ヘレン・トナー、ターシャ・マッコーリー、そしてサツケヴァーといった取締役たちの見解では、アルトマン氏は彼らと真摯に向き合わなかったのです。つまり、取締役会はもはやアルトマン氏がOpenAIの使命を追求できるとは信じていなかったのです。取締役会がCEOを信頼できないのであれば、どのようにして使命の進捗を守り、監視することさえできるのでしょうか？

アルトマン氏の行為がOpenAIの使命を本当に危険にさらしたかどうかは断言できませんが、これだけは確かです。取締役会は、説明不足のまま愛されカリスマ性のあるリーダーを解任すれば、その使命に悪影響が出る可能性を見落としていたようです。取締役会は、アルトマン氏に辞任届を出せば、後任をあっさりと差し込めると考えていたようです。ところが、結果は即座に、そして激しいものとなりました。既にカルト的な人気を誇っていたアルトマン氏は、この新たな物語の中でさらに崇拝されるようになりました。その後に続いた抗議を鎮めるために、彼はほとんど、あるいは全く何もしませんでした。取締役会にとって、アルトマン氏の地位回復への努力と、ここ数日の従業員の反乱は、彼を解任したことが正しかったことの証明のようなものでした。クレバー・サムはまだ何かを企んでいるようです！一方、シリコンバレー全体が爆発し、OpenAIの地位は、おそらく永久に傷つけられました。

月曜日の朝に公開され、OpenAIの従業員約770名の95%以上が署名した公開書簡には、取締役らは「OpenAIを監督する能力がない」と書かれていたが、アルトマン氏の指紋は見当たらない。取締役らがアルトマン氏を復職させて辞任しない場合、署名した従業員は辞職し、アルトマン氏とブロックマン氏が設立したマイクロソフトの新しい高度AI研究部門に参加する可能性があると書かれている。当初、この脅しは取締役らの決意をくじくことはなかったようで、彼らはテロリストと交渉するよう求められているように感じたようだ。おそらく一人の取締役は違った考えを持っていた。サツケヴァー氏で、今では自分の行動を後悔していると語っている。彼の署名は、あなたが辞めるか、私たちが辞めるかの書簡にあった。サツケヴァー氏とアルトマン氏はアルトマン氏への不信感を明らかに消し去り、現在はプロジェクトから疎遠になっているもう一人のOpenAI共同設立者であるイーロン・マスク氏が所有するプラットフォームXで、互いにラブレターを送り合っている。

緊迫した一日、取締役会は集まった従業員たちのブラフを見破り、OpenAIの従業員たちに、ドアから流れ出てアルトマン率いるマイクロソフトに合流するよう、事実上挑発した。書簡によると、取締役たちはOpenAIの幹部に対し、会社を壊滅させることは「会社の使命に合致する」と伝えたという（ニューヨーク・タイムズ紙は後にこの発言をヘレン・トナー氏の言葉だと報じた）。これは極端なように思える。もし全員が会社を去れば、OpenAIがどのようにしてシンギュラリティの加速化を主導し続けるのか想像するのは難しい。そして、もし誰かがそれを実現させたとしても、OpenAIの取締役会はそれがどれだけ安全に実現するかについて発言権を持たない。たとえOpenAIが提供する素晴らしい無料コーヒーとランチでさえ、現在の優秀な人材たちの突然空いた仕事場を埋めるのに必要な、一流の機械学習研究者を引きつけることはできないだろう。

そのため、取締役会がアルトマン陣営と交渉し、火曜日の夜遅くにアルトマン氏のCEO復帰を最終的に承認したことは、それほど驚くべきことではなかった。取締役2名が辞任し、取締役会にはディアンジェロ氏のみが残り、セールスフォースの元CEOブレット・テイラー氏が新会長に、そして元財務担当秘書で女性蔑視で炎上したローレンス・サマーズ氏が新たに就任した。おそらく取締役会は再編され、より多様性のある構成になるだろう。退任する取締役たちの痛手を和らげたのは、OpenAIが復帰したCEOの行動について内部調査を開始すると約束したことだった。

少し振り返ってみると、OpenAIの全従業員がMicrosoftに加わるというアイデアは、ChatGPTでさえ決して思いつかないようなものに思えます。確かに、MicrosoftにとってAI研究の優秀な人材プールの頂点を掴むための素晴らしい成功だったでしょう。しかし、それは莫大な費用がかかったでしょうし、OpenAIの従業員の多くは、Microsoftが既に十分な人材を投入しているインターフェース設計、製品管理、開発者リレーションといった、より平凡な業務に携わっています。それに、OpenAIの製品は、MicrosoftがOpenAIの技術をベースにリリースしているCopilotアプリと競合するのではないでしょうか。

しかし、何よりもクレイジーだったのは、文字通りマイクロソフトのような企業がAI技術を支配するのを阻止するために設立されたOpenAIが、そのエリート人材を丸ごと、株式もデータセットも丸ごと、数兆ドル規模の巨大企業に引き渡していたという、単純な現実だった。マイクロソフトは、元OpenAIスタッフによる将来の画期的な成果から「真に無制限の利益」を得ることに何の抵抗も感じなかっただろう。これは、創業理念の異なる企業での経験を踏まえれば、アルトマン氏に続いてOpenAIに入社しようと考えていた誰もが考えたであろうことだ。（OpenAIの研究者の多くは、最終的には他の新興AIスタートアップに移るか、独立して新たなスタートアップを立ち上げただろうと私は考えている。）

この5日間、この物語はあまりにも衝撃的な展開を何度も繰り広げたので、マイケル・ジャクソンがポップコーンを口に放り込むあのお馴染みのGIF画像のように、ただ座って面白おかしく過ごしたい衝動に駆られた。しかし、真剣に見守る必要がある。私たちはこのドラマに無関心な傍観者ではない。このオタクっぽい「サクセッション」の実話エピソードの背後には、私たち全体の未来を決定づける問題が潜んでいるのだ。

「超知能がもたらす問題は、人類にとって最後の課題だと私は考えています」と、6月のインタビューでスツケヴァー氏は私に語った。「では、私たちはどう対処するのでしょうか？質の高い理解が得られ、あらゆる分野の優れた知識人や思想家が集まり、議論が交わされ、力強いアイデアが生まれれば、何か良いことが起こるかもしれません」。これは未来への楽観的な見方だ。しかし今、新生超知能の有力候補であるロボットの守護者たちは、役員室での狂気じみたナイフファイトに動揺しており、私たちの信頼は薄れている。AGIへと歩みを進める中で、ロボットが人間の最善の価値観に沿っていることを常に確認しなければならない。人間もまた、それらの価値観に沿っていなければ、これは実現しないだろう。

この記事はもともと、サム・アルトマン氏がOpenAIのCEOに復帰することに合意する数時間前に公開されたもので、これを反映して更新されました。