サム・アルトマンを信頼するか？

サム・アルトマンは生成型人工知能（GAI）の王者です。しかし、彼はAIの探求を導く上で信頼できる人物なのでしょうか？今週は、サム・アルトマンについて深く掘り下げます。中西部出身の経歴から、スタートアップ初期の頃、ベンチャーキャピタル時代、そしてOpenAIでの成功と挫折、そして再びの成功まで、彼の軌跡を辿ります。

Michael CaloreはMastodonで@snackfight、Lauren GoodeはThreadsで@laurengoode、Zoë SchifferはThreadsで@reporterzoeをフォローできます。[email protected]までご連絡ください。

聴き方

今週のポッドキャストは、このページのオーディオ プレーヤーからいつでも聴くことができますが、すべてのエピソードを無料で購読したい場合は、次の手順に従ってください。

iPhoneまたはiPadをお使いの場合は、「Podcasts」アプリを開くか、このリンクをタップしてください。OvercastやPocket Castsなどのアプリをダウンロードして、「Uncanny Valley」を検索することもできます。Spotifyでも配信中です。

トランスクリプト

注: これは自動記録であり、エラーが含まれている可能性があります。

サム・アルトマン [アーカイブ音声]: 私たちは長い間、誤解され、ひどく嘲笑されてきた組織でした。AGIの開発に取り組むと言い出した当初は、みんな私たちを正気の沙汰ではないと考えていました。

マイケル・カロア：サム・アルトマン氏は、約2年前にChatGPTを立ち上げ、人工知能の新時代を切り開いた生成AI企業OpenAIのCEO兼創業者の一人です。これはWIREDの「不気味の谷」という番組で、シリコンバレーの人々、権力、そして影響力について取り上げています。今日の番組では、サム・アルトマン氏を深く掘り下げます。中西部でのルーツから、スタートアップ初期の頃、ベンチャーキャピタリストとしての経験、そしてOpenAIでの栄枯盛衰と再起まで。私たちは、この人物こそ人工知能の探求を導いてくれる信頼できる人物なのか、そして私たちにはそもそも選択肢があるのか​​、という問いかけをしながら、その全てを検証していきます。WIREDのコンシューマーテクノロジー＆カルチャー担当ディレクター、マイケル・カロアです。

ローレン・グッド：ローレン・グッドです。WIREDのシニアライターです。

ゾーイ・シファー： WIRED のビジネスおよび産業担当ディレクター、ゾーイ・シファーです。

マイケル・カロル：わかりました。まずは1年前、2023年11月に起きた「ブリップ」と呼ばれる出来事についてお話ししたいと思います。

ローレン・グッド：ブリップですね。私たちは単にブリップと呼ぶわけではありません。これは実はOpenAI社内で、同社史上最も混乱した3～4日間を表すために使われている社内用語です。

[アーカイブ音声]: 人工知能のトップ企業の一つであるOpenAI社が混乱に陥った。

[アーカイブ音声]: 最も目覚ましい企業内不和の 1 つ。

[アーカイブ音声]: 今日のウォール街のニュースは、人工知能の世界における驚くべき発展に関するものです。

ゾーイ・シファー：すべては11月17日、今週の金曜日の午後に始まりました。同社のCEOであるサム・アルトマン氏が、自身のプロとしてのキャリアの中で最も驚き、衝撃的で、困難なニュースを受けたのです。

[アーカイブ音声]: 元ボス、サム・アルトマンの衝撃の解任。

[アーカイブ音声]: 彼の解雇はシリコンバレーに衝撃を与えた。

ゾーイ・シファー：当時非営利団体だったOpenAIの取締役会は、彼への信頼を失ったと述べています。会社はあらゆる面で非常に好調であるにもかかわらず、彼は辞任しました。彼はもはや会社を率いるつもりはありません。

マイケル・カロル：彼は共同設立した会社から事実上解雇された。

ゾーイ・シファー：ええ。それがすぐに連鎖反応を引き起こしました。共同創業者で社長のグレッグ・ブロックマンが連帯として辞任しました。マイクロソフトのCEO、サティア・ナデラは、サム・アルトマンが実際にマイクロソフトに入社し、高度なAI研究チームを率いる予定だと述べました。そして、OpenAIのほぼ全従業員が「待ってください、待ってください。サムが辞めるなら、私たちも辞めます」という書簡に署名しました。

[アーカイブ音声]: 700人ほどの従業員のうち約500人が

[アーカイブ音声]: … OpenAIの人気CEOサム・アルトマン氏が取締役会によって突然解雇されたことに対し、辞任すると脅している。

ゾーイ・シファー：最終的に、サム・アルトマンと取締役会の間で緊迫した交渉が繰り広げられ、最終的に取締役会はCTOのミラ・ムラティを暫定CEOに任命しました。その後まもなく、サムは取締役会との合意に達し、CEOに復帰しました。すると取締役会は一変し、ブレット・テイラーとラリー・サマーズが就任し、アダム・ダンジェロが留任し、残りの取締役は退任しました。

マイケル・カロル：この出来事は、翌週の最初の数日間の週末に起こりました。テクノロジージャーナリストとして、私たちの週末は台無しになってしまいました。生成AI業界に関わるすべての人にとって、多くの週末が台無しになったことは間違いありません。しかし、この分野に詳しくない多くの人にとって、サム・アルトマン氏、あるいはOpenAIについて初めて知る機会だったかもしれません。なぜこれが重要だったのでしょうか？

ゾーイ・シファー：ええ。本当に興味深い瞬間でした。驚きました。ローレン、このニュースが全国規模で報道されたことに驚きましたか？サム・アルトマンが誰なのかほとんど知らなかった人々が、彼が自分の会社から解雇されたことに衝撃を受け、動揺するようになったのです。

ローレン・グッド：当時、誰もが生成型AIとそれが私たちの生活をどう変えるのかという話を耳にしていたと思います。サムは今や公式にその象徴的な存在となり、この混乱、シリコンバレーのドラマによって、それが前面に押し出されました。なぜなら、この反乱で何が起こっているのかを理解しようとする中で、AIには様々な陣営の人々がいることが分かったからです。中には、最終的にはそれが私たちの生活を完全に支配するようになると考える汎用人工知能を信じる人もいれば、AIは可能な限り迅速に、制約のないAIに拡張されるべきだと考える加速主義者もいます。一方で、AIには安全対策とガードレールが必要だと考える、もう少し慎重なアプローチを取る人もいます。これらのすべてが、この長く混沌とした週末を通して鮮明に浮かび上がってきたのです。

マイケル・カロル：今回のエピソードではサムについてたくさんお話します。彼がどんな人間なのか、皆さんにしっかりと理解していただきたいと思っています。私たちは彼をどうやって知っているのでしょうか？彼という人間をどうやって理解しているのでしょうか？彼の雰囲気はどんな感じなのでしょうか？

ゾーイ・シファー：ええと、実際に彼に会ったことがあるのはローレンだけかもしれませんね。そうですか？

ローレン・グッド：ええ。サムとは何度かお会いしたことがありますが、初めてお会いしたのは10年ほど前です。彼は29歳くらいで、Yコンビネーターの社長を務めています。Yコンビネーターはシリコンバレーで非常に有名なスタートアップインキュベーターです。スタートアップ企業がアイデアをピッチし、少額のシード資金を獲得するだけでなく、多くのコーチングやメンタリングも受けられるという仕組みです。Yコンビネーターを運営しているのは、いわばシリコンバレーのキャンプカウンセラーのような存在で、当時のサムがまさにその一人でした。マウンテンビューで開催されたYコンビネーターのデモデーで、彼と少し話をしたのを覚えています。彼はエネルギーに満ち溢れていました。明らかに頭の切れる人物で、親しみやすくオープンな印象を受けます。彼をよく知る人は皆、彼が知る人ぞ知る最も野心的な人物の一人だと言うでしょう。しかし、一見したところでは、彼が10年後に世界各国の首相や国家元首と会って人工知能に関する壮大なビジョンを語り、人工知能の権力者としての地位を確立しようとしている人物であるとは必ずしも思わないだろう。

ゾーイ・シファー：ええ。サムの興味深いところの一つは、とにかく謎めいているところだと思います。私も含めて、誰も彼の本質を見抜くのに苦労しています。この男を信頼していいのでしょうか？シリコンバレーには、イーロン・マスクやマーク・アンドリーセンのように、強引なペルソナを持つCEOや幹部が他にもたくさんいます。彼らに対しては、すぐに好感を抱くか、それともひどく嫌悪感を抱くかのどちらかです。サムはその中間です。少し物静かで、少し思慮深く、少しオタクっぽいところもあります。でも、ローレンが言ったように、権力欲が強く、思わず立ち止まって「ちょっと待て、この男は一体何者なんだ？彼に何の得があるんだ？」と考えてしまいます。

ローレン・グッド：そうです。彼はヘンリーシャツもよく着ていますね。これはファッションショーではないことは承知しています。最初のエピソードを聞いてくださった皆さんは…

ゾーイ・シファー：でもそうじゃないわけじゃないんです。

ローレン・グッド： …「毎回パーカーの話ばかりするの？」と思うかもしれないけど、彼はよくヘンリーやジーンズ、おしゃれなスニーカーを履いているわ。国家元首と会うとき以外はね。そのときはちゃんとしたスーツを着ているの。

ゾーイ・シファー：サム、もし必要であれば衣装についてのメモがあるので、電話してください。

マイケル・カロル：ゾーイ、おっしゃる通りです。ローレンが先ほど話していたインキュベーター、Yコンビネーターの責任者をかつて務めていたポール・グラハムは、サムを権力の座に就くのが非常に上手だと評していました。彼は状況を読み、場の空気を読み、他の人よりも先に次に何をすべきかを見極めることができる人物のように思えます。多くの人がサム・アルトマンとスティーブ・ジョブズの類似点を指摘します。スティーブ・ジョブズは未来へのビジョンを持ち、それがなぜ重要なのかをうまく伝えることができた人物であり、人々を大いに興奮させるような製品を生み出しました。サム・アルトマンもまた未来へのビジョンを持ち、それが私たちにとってなぜ重要なのかをうまく伝えることができ、ChatGPTという誰もがワクワクするような製品を生み出しました。両者の類似点はそこにあると思います。

ローレン・グッド：サム・アルトマンは今の時代のスティーブ・ジョブズなのか、という問い自体が、本当に良い質問だと思います。確かに、二人とも事実上、他人が作った製品のセールスマンでした。ある意味ではマーケターです。ジョブズは文字通り世界を変えたスマートフォンをマーケティングしました。サムはChatGPTを通じて、AI、つまりこの新しい形態の生成型AIの製品化に貢献しました。そこが共通点です。二人とも、あるいは二人とも、非常に野心的で、ゾーイが言ったように謎めいていて、せっかちだったと言われています。彼らには、地球の果てまでついてきてくれる従業員もいれば、怖気づいて逃げ出してしまう従業員もいます。二人とも、経営していた会社から追い出され、その後復帰しています。サムの不在期間は、スティーブ・ジョブズのApple復帰期間に比べればはるかに短かったとはいえ。しかし、いくつか重要な違いもあると思います。一つは、ジョブズには後知恵という利点があるということです。彼が何を成し遂げたかは周知の事実ですが、アルトマン氏が今後10年、20年、30年とAIを象徴する人物となるかどうかは、まだ分かりません。第二に、ジョブズ氏には確かに個性的な癖やコンプレックスがあったことは誰もが認めるところですが、私は彼を信奉者たちによって救世主的な地位に押し上げられたと見ています。一方、サム氏は本当に、本当に自らをその地位に押し上げたいと思っているように見えますが、そのことにまだ懐疑的な人もいます。

ゾーイ・シファー：本当に興味深いですね。テクノロジー業界の人たちが言うように、営業マンの例えをもう一度強調すると、少し単純化しすぎているように聞こえるかもしれませんが、私は実は非常に重要な点だと思います。なぜなら、大規模な言語モデルは既に存在し、AIもある程度は存在していたからです。しかし、一般ユーザーがそれらの製品の使い方や操作方法を知らないとしたら、サム・ウォルマン氏のような人々が考えているように、本当に世界を変えられるでしょうか？私はノーだと思います。ChatGPTの立ち上げにおける彼の役割は、誰の目から見ても非常に有用なツールとは言えませんが、AIの将来の用途、その可能性、そして人々の日常生活とどのように関わっていくかを示しています。これは本当に重要な変化であり、彼がもたらした重要な影響です。

マイケル・カロレ：ええ。ローレンもこの点に触れていましたが、私たちはその影響がどうなるか分かりません。後知恵は通用しませんし、人工知能が私たちの生活をどのように変えるのか、そしてそれがどのように実現するのかも分かりません。AIに非常に懐疑的な人は多く、特にアーティストやクリエイティブな人たちはそうですが、監視や警備、軍隊に携わる人たちもAIに対して不安と健全な懐疑心を抱いています。私たちは、AIが未来を決定づける技術となる未来へと私たちを導いてくれる人物として、このリーダーに注目しています。ですから、問題は「この人物を信頼できるのか？」という点になります。

ローレン・グッド：サムならきっとこう言うでしょう。「いや、私を信用すべきじゃないし、信用する必要もない」と。彼は以前のインタビューで、自分がそれほど権力を持たない会社を設立しようとしていると語っていました。つまり、完全な支配権を持っているわけではないということです。AIに関する多くの決定は民主的であるべきだと考えていることを、彼は確かに示唆しています。つまり、私たちは彼の発言を信用するのか、それとも権力を集中させ、かつては非営利団体だったものを営利企業へと転換させようとしている彼の行動を信用するのか、という問題だと思います。

マイケル・カロレ：そうですね。彼は常に健全な議論を奨励していることを強調すべきです。AIの限界についてオープンな対話を奨励していますが、それでもAIに懐疑的な人々を満足させていないようです。

ローレン・グッド：そうですね。懐疑的な人と恐れる人を区別することも重要だと思います。技術そのものに懐疑的な人もいます。サム・アルトマン氏が私たちに必要な指導者なのかどうか疑問に思う人もいます。そして、この技術が世界に革命を起こす可能性を実際に信じている人の中にも、その革命が必ずしも良い方向に進むとは限らないという恐れがあります。誰かがAIをバイオテロに利用するかもしれません。核兵器を発射するかもしれません。AI自体が全知全能になりすぎて、人間に対して暴力を振るうようになるかもしれません。これらは、研究者や政策立案者が抱く真の懸念です。サム氏の信頼性に関する疑問は、いわゆる資本的な観点だけではありません。OpenAIは非営利団体なのか営利団体なのか、あるいは数十億ドルもの資金を持つこの人物を信頼できるのか、といった問題です。それは文字通り、ある意味で私たちは彼を信頼して命を預けることができるのか、ということです。

ゾーイ・シファー：その通りです。サム・アルトマンさん、私たちがどれほど心配すべきかは、あなたが個人的に、汎用人工知能が本当に懸念すべきものなのか、あるいはAIが世界を劇的に変化させ、潜在的に非常に壊滅的な結果をもたらす可能性があると信じているかどうかにかかっています。

ローレン・グッド：アルトマン氏はニューヨーク・マガジンの自身紹介記事で、「AIはメリットばかりのきれいな話ではない。AIが発展するにつれて、失われるものもある。損失回避の気持ちは誰にでも理解できるし、自然なことだ。自分が犠牲になる話は聞きたくない」と述べている。

マイケル・カロレ：好むと好まざるとにかかわらず、自称リーダーの存在は避けられません。そして、この人物が信頼できる人物かどうか判断しなければなりません。しかし、その前に、サム・アルトマンがどのようにして今の地位に至ったのかをお話ししましょう。テクノロジー企業の創業者サム・アルトマンになる前のサム・アルトマンという人物について、私たちは何を知っているでしょうか？

ローレン・グッド：彼は4人兄弟の長男です。中西部のユダヤ人家庭で育ち、セントルイスで育ちました。彼の家族は、誰の証言でも、彼はかなり恵まれた子供時代を過ごしたと思います。家族でよく遊び、ゲームもしました。兄によると、サムはいつもゲームに勝つ必要があったそうです。高校時代に彼はゲイであることをカミングアウトしましたが、当時としては異例のことでした。彼曰く、高校はゲイに対してかなり不寛容だったそうです。ニューヨーク・マガジンのプロフィールによると、ある場面で彼は学校のステージに上がり、開かれた社会を持つことの大切さについてスピーチをしています。このことから私が受けた印象は、彼は幼い頃から他の人とは違うことをしようとし、支配的なイデオロギーを拒絶しようとしていたということです。プロフィールには、彼が天才少年で、3歳にして家のビデオデッキを修理していたという、とても面白い部分もありました。3歳児の母親として、私は「一体何なの？」と思いました。

マイケル・カロル：僕は11時までに家族のビデオデッキの時計をリセットしていたんだ。僕も天才少年なんだと言いたいね。

ローレン・グッド：こうした創業者のプロフィールを見ると、面白いことに「もちろん、彼らも天才児だった」という聖人伝的な解釈がされる傾向があるように感じます。ただ子供時代は中途半端だった人が、その後億万長者になるなんてことはありません。必ず何か特別なものがあるんです。

マイケル・カロル：そうですね。確かに、サムには何か特別なところがありましたね。

ローレン・グッド：ええ。彼は2003年にスタンフォード大学に入学しました。当時は、FacebookやLinkedInのような野心的な若者たちが起業していた時期です。サムのように賢くて野心的な人なら、伝統的な法律や医師といった分野には進まなかったでしょう。起業に挑戦するでしょう。まさに彼がやっていることです。

ゾーイ・シファー：ええ。彼はLoopedという会社を立ち上げました。スタンフォード大学2年生の時です。当時のボーイフレンドとチームを組み、初期のFoursquareのようなものを作りました。この時、サムは初めてYコンビネーターに関わることになります。彼と共同創業者は6,000ドルの投資を受けました。彼らはYコンビネーターのサマーファウンダーズプログラムに受け入れられ、そこで数ヶ月間、メンターシップを受けながらアプリをインキュベートする機会を得ました。彼らは他のオタクたちと一緒にいました。この時期にサムがあまりにも働きすぎて壊血病になったという、素晴らしいエピソードが描かれています。

ローレン・グッド：まあ、大変ですね。それも神話化しているような気がします。

ゾーイ・シファー：本当にそうですね。それから数年経って2012年。Loopedはベンチャーキャピタルから約3,000万ドルを調達し、別の企業に約4,300万ドルで買収されることを発表しました。アプリを開発したり会社を売却したりしない人にとっては大金に聞こえるかもしれませんが、シリコンバレーの基準からすれば、これは成功とは言えません。サムは落ち着いています。世界を旅したり、自分探しをしたり、次に何をしたいのか考えたりもできますが、それでもまだ野心は大きく、私たちはまだ真のサム・アルトマンの姿を見ていないのです。

ローレン・グッド：お金は彼にとっての原動力のようですか、それともこの時期に彼が求めていたものは何でしょうか？

ゾーイ・シファー：ええ、本当に良い質問ですね。これは彼の人柄を象徴しているのかもしれません。なぜなら、彼はそこで止まることはないからです。彼は今も様々なことを熟考し、テクノロジーについて深く考え続けています。そして2014年、ポール・グラハムからYコンビネーターの社長に任命され、彼は多くの新しいアイデアを持つ他の技術者たちと交流を深めました。2015年頃、彼がこうした様々なことを考えていたまさにその頃、OpenAIの芽が芽生えたのです。

マイケル・カロル： Open AIについてお聞かせください。共同創業者は誰ですか？創業当初はどのような様子でしたか？そして、事業が軌道に乗った後のミッションは何でしょうか？

ローレン・グッド： Open AIはもともと、汎用人工知能（AGI）を研究するために集まった研究者グループとして設立されました。サム・アルトマンとイーロン・マスクを含む共同創業者グループが、非営利団体としてOpenAIを設立しました。彼らは、OpenAIに商業的な要素や消費者向けアプリを含めることは全く考えていません。現時点では研究機関という印象ですが、イーロン・マスクはいかにもイーロン・マスクらしいやり方で、他の共同創業者から経営権を奪おうとしています。彼は何度も経営権を奪おうとし、テスラによるOpenAIの買収を提案しましたが、他の創業者たちはこの案を拒否したとされています。最終的にマスクは辞任し、サム・アルトマンが経営権を握ったのです。

マイケル・カロレ： 8、9年前の当時、人工知能に取り組んでいる企業は数多くありましたが、OpenAIは自分たちをそのグループの中で善玉だと考えていたという点も区別しておくことが重要だと思います。

ローレン・グッド：それがオープンです。

マイケル・カロレ：ええ。基本的に、人工知能ツールを開発すれば、軍隊や悪意のある人物に利用される可能性があります。ローレンが先ほど話したような危険性のように、危険な状態に陥る可能性もあります。彼らは自分たちこそが正しいやり方で開発を進める人々だと考えていました。AIが社会に害を与えるのではなく、社会に利益をもたらすように、人々はAIを活用するのです。彼らは、できるだけ多くの人々にツールを無料で提供したいと考えていました。そして、それが単なる閉じた箱ではなく、少数の人々が大金を稼ぎ、残りの人々はただ傍観しているような状態にならないようにしたいと考えていたのです。

ローレン・グッド：彼らは「良い」とはそういうことだと考えていました。信頼や安全性よりも、民主化を重視していたのです。これは公平でしょうか？彼らは「私たちは本当に害悪や潜在的な誤用をすべて調査するつもりだ」と言いながら座っていたのでしょうか？それとも「これを人々の手に渡して、どう使われるか見てみよう」という感じだったのでしょうか？

ゾーイ・シファー：いい質問ですね。彼らは自分たちが「価値観が一致している」と考えていたと思います。

マイケル・カロル：はい。それは皆が使う言葉です。

ゾーイ・シファー：ええ。2012年には、AlexNetという畳み込みニューラルネットワークが登場しました。これは、それまでのAIでは不可能だった方法で画像を識別・分類することができました。人々を驚かせました。NvidiaのCEO、ジェンスン・フアンが、この発見がいかにして会社のAI化への方向性を転換させたかを語っています。まさに大きな転換点でした。そして2017年には、Googleの研究者たちがこの論文に取り組みました。これは現在「Attention（注目度）論文」として知られており、ChatGPTの「T」を構成する現代のトランスフォーマーを基本的に定義したものです。マイク、おっしゃる通り、この流れに乗ろうとするグループや企業がありました。OpenAIは当初から「私たちも間違いなくこの流れに乗りたいですが、他の企業よりも価値観が一致していると考えています」という姿勢でした。

マイケル・カロレ：彼らはすぐに、人工知能モデルを構築するには膨大な計算能力が必要だということに気づきました。しかし、彼らにはその能力を買う資金がありませんでした。これが変化をもたらしました。

ローレン・グッド：彼らはマイクロソフトに頼りました。

ゾーイ・シファー：そうですね、彼らは非営利団体として資金調達を試みたのですが、サムによるとうまくいかなかったそうです。それで別のモデルを採用せざるを得なくなり、非営利団体は営利目的の子会社を持つ別の組織へと変貌を遂げ始めました。OpenAIは設立当初から奇妙でフランケンシュタインのような姿をしていました。

ローレン・グッド：ええ。2020年代初頭までにサムはYコンビネーターを去りました。OpenAIは彼のフルタイムの仕事でした。彼らは営利部門を設立し、それがきっかけでマイクロソフト、そしてウォーバックスに移り、創業資金として10億ドルを調達することができました。

マイケル・カロル：では、サム自身はこの間どのような活動をしてきたのでしょうか？投資をしているのでしょうか？それとも、ただ会社を経営しているだけなのでしょうか？

ローレン・グッド：彼は瞑想している。

マイケル・カロル：彼は瞑想にとても熱心です。

ローレン・グッド：ただ瞑想しているだけ。

ゾーイ・シファー：典型的な創業者、ベンチャーキャピタリストのやり方で、彼は様々な企業に投資しています。投機的な核融合企業であるヘリオン・エナジーには3億7500万ドルを投じました。長寿と人々の長生きの方法を研究するレトロ・バイオサイエンスには1億8000万ドルを投資しました。彼はワールドコインのために1億1500万ドルを調達しました。ローレン、あなたは最近ワールドコインのイベントにも参加しましたよね？

ローレン・グッド：ええ。ワールドコインは非常に魅力的な企業で、ある意味、サムのアプローチ、野心、そして個性を象徴していると思います。というのも、彼らが作っているのは、アプリであると同時に、オーブ（球状の物体）でもあるからです。ボールのような物理的なオーブで、それを見つめることで虹彩を捉え、それをアイデンティティトークンに変換してブロックチェーン上に保存します。サムが表現したアイデアは、「ほら、そう遠くない将来、AIのせいで世界には偽物が溢れるようになる。私が作っているAIのおかげで、人々は簡単にあなたのアイデンティティを偽装できるようになる。だから、私は解決策を持っている」というものです。彼の解決策が、ワールドコイン（現在はワールドプロダクトと呼ばれています）です。AI開発を加速させながら、「潜在的な危険性はありますが、解決策も持っています」と言っているサムはまさに彼です。

ゾーイ・シファー:たくさんのパスワードを思い出さなくてもいいようにしてくれるものなら何でも賛成です。だから私の虹彩をスキャンしてください、サム。

ローレン・グッド：彼は他に何に投資していたのですか？

ゾーイ・シファー：この時期、彼は裕福になっていきました。高級車を買い、レースに出場し、結婚しました。すぐに子供が欲しいと言っています。サンフランシスコに2700万ドルの家を購入し、その後、OpenAIに多大なエネルギーを注ぎ込み、特にChatGPTを立ち上げました。これは、以前は非営利団体だったOpenAIの商業的な顔となるでしょう。

ローレン・グッド：ええ、まさに転換期です。2022年の終わりに、突如として人々がユーザーインターフェースを手にすることになります。舞台裏で機能しているのは、人々が完全に理解していない法学修士課程のようなものではありません。ノートパソコンやスマートフォンで入力するだけで、過去20年間私たちが慣れ親しんできた検索体験とは異なる、非常に会話的な検索体験が得られるのです。サムはまさにその象徴です。OpenAIが断続的に開催し始める製品イベントは、私たちテクノロジージャーナリストが取材する様子から、Appleのイベントのような雰囲気になり始めています。そして翌年の2023年、事態が急転する前に、サムは世界ツアーに出かけます。彼は首相や国家元首と会談し、AIのための非常に具体的な規制機関の設立を訴えています。 AIの影響力と力が拡大し続ければ、いずれ規制される可能性もあると彼は考えており、その議論に自ら参加したいと考えている。ただ参加するだけでなく、その枠組みがどのようなものになるかを自らコントロールしたいと考えているのだ。

ゾーイ・シファー：そうですね。先ほどもおっしゃっていましたが、汎用人工知能（AGI）について、そしてAIがいつか知覚を持つようになり、もしかしたら枠から抜け出して人間に反旗を翻すかもしれないという議論が続いています。サムは最近、これが実は一番の懸念事項ではないと言っていましたが、少し心配です。でも、彼が言っていたのは賢明なことだったと思います。それは、AGIに至らなくても、誤報やAIの政治的な悪用など、多くの害悪がもたらされるということです。非常に破壊的な力を持つためには、AIがそれほど賢くなくてもいいのです。

マイケル・カロレ：ええ、雇用が失われます。AIが労働に与える影響についても触れておくべきでしょう。多くの企業はコスト削減に躍起になり、これまで人間に頼っていた業務の一部を自動化するAIシステムを導入するからです。その結果、人間は職を失います。企業は、頼りにしていたAIツールが人間ほど優れていないかもしれない、あるいは実際にはAIのほうが仕事をうまくこなせるかもしれない、と気づきます。

ゾーイ・シファー：すでにある程度は見えています。Duolingoは翻訳者を大量に解雇し、AIに多額の投資をしているように感じます。

ローレン・グッド：それは本当に残念ですね。次の職業はDuolingoの翻訳者になると思っていたので。

ゾーイ・シファー：残念ですね。あなたの頭のすぐ後ろに Duolingo のフクロウがいるのを見て、あなたが Duolingo と一緒に寝ていることがわかっています。

ローレン・グッド：ここのスタジオに本当にあるの。Duolingoからフクロウの頭が送られてきたの。Duolingoが大好きなの。

Michael Calore: Duolingo が好きな人は誰か知っていますか?

ローレン・グッド：誰？誰？皆さん、あれはフクロウのジョークでしたね。このポッドキャストは終了です。ああ、大好きです。サム・アルトマンの話に戻りましょう。ゾーイ、その通りです。サムが世界中を回って政治家や国家元首とAIの規制方法について話し合う中で、最も興味深い点の一つは、AIが規制の方法として一つの包括的な解決策だと思い込んでいる点です。AIが実際にどのように機能するのかについて、様々な分野で何が起きるのか、そして私たちがどのようなニーズを持っているのかを見極めるのではなく。

ゾーイ・シファー：マーク・アンドリーセンのような人々から彼が受けた批判の一つは、彼が規制の掌握を目指しているという点です。彼らは、彼がAI規制の推進に加担しようとする努力を非常に疑っています。なぜなら、彼は明らかに規制の在り方を特定の形にすることに注力しているからです。彼がもう一つ、非常に興味深く、少し自己中心的だと思うのは、AIの安全性とは別個の、あるいは技術者が言うように「直交」しているように見えるものが、実際にはAIの安全性と非常に密接に関連しているということです。人間によるモデルの強化、つまり、プロンプトに対して2つの異なる応答が得られ、人間であるあなたがどちらがより役立つかを投票するという考え方です。これにより、モデルはより賢く、より高速になる可能性がありますが、理論的には、モデルを私たちの社会的な価値観により沿わせることもできるようになります。

マイケル・カロレ：それでは、冒頭でお話ししたサムが解雇された瞬間、そして4、5日後に復職したという状況にほぼ戻ってきました。サム・アルトマンがOpenAIの舵取りに復帰して約1年が経ちましたが、この1年は波乱に満ちた年でした。その理由の一つは、世界中の注目がOpenAIに集まっていることです。私たちはあらゆる活動に細心の注意を払っていますが、同時に、この会社が世界の様々なものに影響を与える、非常に影響力のある技術を生み出しているという事実も理由の一つです。サムが舵取りに復帰してからのこの1年がどのようなものだったか、簡単に振り返ってみましょう。

ゾーイ・シファー：ええ。ただ、OpenAIに注目が集まっていること、そして彼らが非常に影響力のある製品を開発していることが理由ではないと思います。それと、OpenAIは厄介な会社です。幹部が次々と辞めていきます。彼らはOpenAIよりもさらに安全意識の高い会社を次々と立ち上げています。

ローレン・グッド：辞めていく人たちの名前って、すごく面白いですよね。「新しいスタートアップを始める。全く新しい会社。OpenAIが決して受け入れなかった反OpenAIの安全対策会社っていう名前よ」って言うんです。

ローレン・グッド：ここが免責事項を記載する場所ですか？

マイケル・カロル：ああ、その通り。コンデ・ナストも含め。

ローレン・グッド：親会社であるコンデナストも含まれます。

マイケル・カロレ：親会社はOpenAIとライセンス契約を結び、私たちの発表した成果をモデルの学習に利用できるようになりました。安全性と企業文化に関する懸念があります。有名人のモノマネを軽々しく扱っているという問題もあります。一方で、業界関係者の多くが巨額の資金と多くの契約を投じて支え、その発展を可能な限り加速させようとしている、非常に重要な技術を開発している企業があります。ユーザーである私たちは、この企業を信頼できるのか、サム・アルトマン氏が私たちの未来を最優先に考えながら、この技術を世に送り出していると信頼できるのか、自問自答せざるを得ません。

Lauren Goode:このポッドキャストが OpenAI の将来の音声ボットのトレーニングに使用されることはよくわかっています。

マイケル・カロル：僕たち3人が混ざったような音になるだろうね。

ローレン・グッド：声がかすれてしまってごめんなさい。

ゾーイ・シファー：私はそれを聞きます。

ローレン・グッド：今、ChatGPTを使うだけでなく、ChatGPTにアクセスしてクエリを入力してモデルをトレーニングするだけでなく、様々な方法で方程式が作られつつあります。インターネット上にある私たちのデータが、多くの場合、誰の同意も得ずにこれらのモデルのトレーニングに利用されているのです。まさに今、まさにこの瞬間を感じているのです。この技術から得られるものが、実際に投入する価値に見合うだけの価値があるのか​​を考えるには、今まさにオンラインで生活している私たちにとって、非常に知的、あるいは実存的な体操が必要です。私自身、ChatGPTやGeminiなどのアプリを使っても、それほど大きな恩恵を受けていません。しかし、状況は変わるかもしれません。絶対に変わる可能性があります。今、日常生活で使っているAIの事例はたくさんあります。メールアプリやスマートフォンなど、実に素晴らしいものばかりで、私に大きな恩恵をもたらしてくれています。これらの新しい生成AIツールのモデルについては、まだ大きな未定ですが、私はすでにこれらの機械に多くのものを与えてきたと確信しています。サム・アルトマンは、私が頼りにし、「この人なら、私のためにその方程式を解いてくれると信頼できます」と思える唯一の人物でしょうか？いいえ。

マイケル・カロル：いいえ。ゾーイ、あなたはどうですか？

ゾーイ・シファー：いいえ、そうは思いません。彼は特に信頼できる人物だと証明したとは思えません。彼と親しく仕事をしていた人たちが、彼のもとを去り、自分たちでもっと信頼できると言って自分の会社を立ち上げているのであれば、それは私たちが少し懸念すべきことだと思います。同時に、この件を任せられる人が一人もいないのも無理はありません。一人の人間にこれほどの権力と責任を負わせるには、あまりにも大きな負担です。

ローレン・グッド：それでも、私は確かにテクノロジー起業家と会って取材した経験があり、彼らは非常に正しい道徳観を持っていて、自分が何を作るかについて非常に思慮深く、これまでずっと考え続けてきた人たちです。「ああ、テクノロジーは悪い」と言っているわけではありません。彼は間違いなくそういう人ではありません。いつかそういう人になる可能性はあるかもしれませんが、現時点ではそうではありません。

ゾーイ・シファー：ええ。彼は確かにとても思慮深いですね。衝動的に決断するイーロン・マスクとは違います。物事を本当によく考え、自分が持つ権力と責任をかなり真剣に受け止めているように見えます。

ローレン・グッド：彼はほんの1ヶ月ほど前に投資家から66億ドルを調達することに成功しました。つまり、業界には彼に一定の信頼を寄せている人がたくさんいるということです。彼がすべてのデータを最善の方法で処理してくれると信じているわけではありませんが、ChatGPTを通じて大きな利益を上げてくれると信じているのは確かです。

ゾーイ・シファー：あるいは、単に見逃すことをとても心配しているだけかもしれません。

ローレン・グッド：彼らはFOMO（取り残されることへの不安）を強く感じています。ChatGPTのサブスクリプション数に注目しているだけでなく、エンタープライズ事業にも大きな成長の可能性を見出しています。ChatGPTがAPIをライセンス供与したり、他の企業と連携して、企業が日常的なアプリケーションに様々なプラグインを作成し、従業員の生産性向上などを実現できるようにするなどです。そこには大きな可能性があり、投資家が今まさに注目しているのはまさにそこだと思います。

ゾーイ・シファー：ええ。AIの開発方法やガバナンスに関する決定において、誰もが発言権を持つべきだと語る際、彼は非常に一般的なことを言っていますね。失業についてお話された際に思い出したのですが、以前のポッドキャストでも触れましたが、サム・アルトマンはユニバーサル・ベーシックインカムの実験に関わっています。これは、人々に毎月一定額のお金を支給することで、他のプロジェクトで発生する失業を軽減しようとするものです。

ローレン・グッド：テクノロジーと社会全般において、私たちは今、過去数十年にわたって頼ってきた制度の一部を手放さざるを得ない状況にあると思います。技術者たちはしばしば、こうした状況に真っ先に飛びつき、「もっと良いアイデアがある。もっと良い解決策がある。政府についてももっと良いアイデアがある。人々がどのように報酬を得て、お金を稼ぐべきかについても、もっと良いアイデアがある。皆さんがどのように仕事をすべきか、どうすれば生産性を高めることができるかについても、もっと良いアイデアがある。私たちにはたくさんのアイデアがある」と言います。それらは必ずしも悪いアイデアというわけではなく、ある時点で手放さなければなりません。変化は起こります。それは避けられないものです。一体何でしょうか？それは死と税金ではありません。変化と税金です。それが避けられないものです。そして、死も。

ゾーイ・シファー:ローレンは DOGE 委員会の一員であり、あなたの機関に来ます。

ローレン・グッド：そうです。しかし、その変化をもたらす適切な人材も特定しなければなりません。それが、私たちが問うべき問いだと思います。「これらのアイデアは悪いのか？」と問うているのではありません。サム・アルトマンとは誰なのか？この変化を導くべき人物は彼なのか？もし彼でなければ、誰が？

ゾーイ・シファー：ローレン、反論させてください。彼はまさにその人物です。私たち3人のテクノロジージャーナリストがただ座って「サムがCEOになるべき？ ならないべき？」と話しているのは、ある意味幻想です。まあ、彼はそうしていますし、すぐに辞める気配もありません。なぜなら、取締役会は法的にはその権利があったにもかかわらず、彼を事実上追い出すことができなかったからです。彼はまだCEOです。

ローレン・グッド：ええ。彼は既に確固たる地位を築いていますし、会社も投資額の大きさから見て確固たる地位を築いています。この会社の成功を絶対に後押ししてくれるステークホルダーは間違いなくたくさんいます。しかし、他の革新的な技術が初期段階にあったように、生成型AIもまだ初期段階にあるとすれば、時には、新たに登場した企業で、実際にはより多くのことを実現する人物が出てくることもあるでしょう。

マイケル・カロル：私たちが期待しているのは是正力です。

ローレン・グッド：そうかもしれない。様子を見ましょう。

ゾーイ・シファー：分かりました。では、訂正させていただきます。誰が主導すべきかという議論は、おそらく価値があると思います。まだ初期段階のように感じます。時々、その点を見失ってしまうんです。

ローレン・グッド：大丈夫ですよ。あなたの言う通りかもしれません。

ゾーイ・シファー：彼が圧倒的な選手のように感じられるからです。

マイケル・カロレ：テクノロジーを報道する上で一番良い点は、常に何かの初期段階にいることです。

ローレン・グッド：そうだと思います。

マイケル・カロレ：わかりました。まあ、これで終わりにするのはいいでしょう。問題は解決しました。サム・アルトマンを信用すべきではありませんが、AI業界が自ら問題解決していくことを信じるべきです。

ゾーイ・シファー：ええ。サムが何年も前にブログに書いた言葉を思い出します。「大きな秘密は、驚くほどの割合で世界を自分の意志に従わせることができるということ。でも、ほとんどの人は試みもせず、ただ物事をあるがまま受け入れている」。これは彼について多くのことを物語っているように感じます。ローレン、おっしゃる通り、私も「サム・アルトマンが指揮を執っているだけで、それが現実だ」と受け入れてしまっているように思います。もしかしたら、世界は民主的な方法で、私たちの意志に少し従わせる必要があるのか​​もしれません。彼に新しい未来を先導させるのではなく。

ローレン・グッド：決して必然に屈してはいけない。

マイケル・カロル：さて、これで終わりにしましょう。今日の番組はこれで終わりです。来週はソーシャルメディアをやめるべきかどうかをテーマにしたエピソードをお届けします。「不気味の谷」をお聴きいただきありがとうございました。もし今日の番組が気に入っていただけたら、ぜひ番組をフォローして、お使いのポッドキャストアプリで評価してください。ご質問、ご意見、番組へのご提案など、私たちスタッフにご連絡を取りたい場合は、[email protected]までご連絡ください。今日の番組はキヤナ・モガダムがプロデュースしました。このエピソードのミックスはマクロサウンドのアマール・ラルが担当しました。エグゼクティブ・プロデューサーはジョーダン・ベルです。コンデ・ナストのグローバルオーディオ責任者はクリス・バノンです。

• 受信箱に届く：ウィル・ナイトのAIラボがAIの進歩を探る