サム・アルトマン氏、AIは人類のあらゆる問題を解決できない

OpenAIのCEO、サム・アルトマン氏が、人類の未来における人工知能のあり方についてどのような立場を取っているかは、既に周知の事実だ。それは変革をもたらし、歴史的かつ圧倒的な利益をもたらすだろう。彼は数え切れないほどのインタビューで一貫して主張してきた。しかし、なぜか今週、彼はその見解を簡潔なブログ記事にまとめる必要性を感じたようだ。彼が言うところの「知能時代」は、豊かさの時代となるだろう。「私たちは今日では想像もできないほどの繁栄を共有できるでしょう。未来には、誰もが今よりも豊かな生活を送ることができるでしょう」と彼は記している。「それは段階的に起こるでしょうが、気候の修復、宇宙コロニーの建設、そして物理学のあらゆる発見といった驚くべき偉業が、やがて当たり前のものとなるでしょう」

おそらく彼は、大規模言語モデルの見かけ上の利点を一種の幻想として否定する一連の考え方に反論するためにこれを発表したのだろう。いや、違う、と彼は言う。「ディープラーニングが機能するからこそ、私たちはこの大きなAIボーナスを得ているのだ」と彼は今週後半のインタビューで述べ、OpenAIのGPT4oのようなプログラムは単にキュー内の次のトークンを渡すだけの愚かなエンジンだと主張する人々を嘲笑した。「証明されていない数学的定理を証明できるようになると、私たちは本当に『ああ、でもそれはただ次のトークンを予測しているだけじゃないか』と議論したいのだろうか」と彼は言った。

サム・アルトマンについてどう思おうと、これが彼の真実であることは疑いようがありません。汎用人工知能（AI）、つまり人間の能力に匹敵し、さらにはそれを凌駕するAIは、人類を悩ませている諸問題を一掃し、黄金時代をもたらすでしょう。このデウス・エクス・マキナ的なコンセプトを、OpenAIによる最近の人工推論における画期的な成果のコードネームにちなんで「ストロベリー・ショートカット」と名付けてはどうでしょうか。ショートケーキのように、見た目は美味しそうに見えますが、食べると中身はそれほど充実していません。

アルトマン氏は、テクノロジーの進歩によって、かつては贅沢品だったものが一般の人々にもたらされたと正しく指摘しています。その中には、ファラオや領主でさえ手に入らなかったものも含まれています。カール大帝はエアコンを好んでいませんでした！労働者階級の人々、そして生活保護を受けている人々でさえ、食器洗い機、巨大スクリーンのテレビ、iPhone、そしてパンプキンラテやペットフードを自宅まで届けてくれるデリバリーサービスを利用しています。しかし、アルトマン氏は全体像を把握しているわけではありません。莫大な富があるにもかかわらず、誰もが豊かに暮らしているわけではなく、ホームレスや深刻な貧困に陥っている人もたくさんいます。ウィリアム・ギブソンの言葉を借りれば、「楽園はここにある。ただ、平等に分配されていないだけだ」ということです。それはテクノロジーが失敗したからではなく、私たちが失敗したからです。AGIが到来すれば、特に多くの仕事が自動化されるようになるため、同じことが当てはまるのではないかと私は考えています。

アルトマン氏は、現在の仕事の多くが18世紀のランプライターと同じ道を辿った後の生活がどうなるかについて、あまり具体的には語っていません。しかし、今週配信されたポッドキャストで、テクノロジー業界の著名人やセレブリティにSpotifyのプレイリストを共有してもらった際に、彼のビジョンを垣間見ることができました。Rüfüs du Solの「Underwater」を選んだ理由を説明する際、アルトマン氏は、自身が何度か参加しているバーニングマンへのトリビュートだと説明しました。バーニングマンは「人々が互いのために何かをすること、互いを思いやり、互いのために素晴らしい贈り物をすることに集中する、ポストAGIの姿の一つです」と彼は言います。

アルトマン氏はユニバーサル・ベーシック・インカムの大ファンで、賃金下落による打撃を和らげてくれると考えているようだ。確かに人工知能（AI）はそうした計画を実現できるだけの富を生み出すかもしれないが、巨額の富を築いた人々、あるいは今なお質素な暮らしを送っている人々でさえ、この構想を受け入れるかどうかは疑わしい。アルトマン氏はバーニングマンで素晴らしい経験をしたかもしれないが、プラヤ（プラヤ）に住む心優しい人々は、資産1億ドル以上の人々にのみ適用される、未実現キャピタルゲインの一部に課税するという提案に憤慨しているようだ。そうした人々、あるいはAI企業で大金持ちになった人々が、大衆の余暇活動のために財源を捻出するというのは、疑わしい前提だ。米国の主要政党の一つはメディケイド（低所得者向け医療扶助制度）に反対している。ポピュリストの扇動家たちがUBIをどう評価するかは想像に難くない。

同時に、あらゆる大きな問題が解決された時にもたらされるであろう、いわゆる「大儲け」にも警戒しています。AIが人類最大の難問を実際に解決するかもしれない、という可能性は認めざるを得ません。しかし、その解決策を実際に実行に移すには、私たち人間が自ら実践しなければなりません。そして、私たちはそこで何度も失敗してきました。戦争は地獄であり、殺し合うべきではないと教えるのに、巨大な言語モデルは必要ありません。それでも、戦争は起こり続けているのです。

AIが病気と闘う姿を想像するのは刺激的です。しかし、もしOpenAI、Google、あるいはAnthropicのモデルが明日、新型コロナウイルス感染症の注射剤を開発したら、何が起こるかは明らかです。多くの人々は、これは人類を滅ぼそうとする陰謀だと警告するでしょう。同様に、私たちは気候危機を緩和する方法を既に知っていますが、これまで以上に多くのエネルギーを消費しています。アルトマン氏は、クリーンな核融合発電所に数兆ドルを投じることを夢見ています。たとえAIがそれを実現する方法の青写真を提供したとしても、エクソンモービルとOPECはそれを阻止する方法を見つけ出すかもしれません。

アルトマン氏は自身の会社を例に挙げるだけで、綿密に練られた計画がどれほど失敗するかがよく分かる。今週、主要社員数名が突如として会社を去った。同社の11人の創業者のうち、アルトマン氏は残る2人のうちの1人となった。その一人がCTOのミラ・ムラティ氏で、「自身の探求のための時間と空間を作るため」に退社した。ムラティ氏は重要な仕事をした。OpenAIの最も重要なパートナーであるマイクロソフトの担当者に話を聞くと、ムラティ氏が共同事業を調整するために行ったあらゆる功績を熱く語るだろう。また今週、OpenAIが従来の営利企業へと組織形態を変更するとの報道も飛び込んできた。一方で、これは理にかなっている。OpenAIは非営利団体としてスタートしたが、後にモデルの構築と運用のための資金を得るために、一部（実際にはほぼ全て）を営利企業に指定した。これは厄介な妥協案だったが、その緊張は今や和らぐだろう。しかし、OpenAIが設立されたのは、営利企業が最終的にAGIを開発し、そして支配する可能性があるという可能性に対抗するためだったことを忘れてはならない。 2015年当時、アルトマン氏と共同創業者たちは、化石燃料企業のような状況を懸念していた。化石燃料企業は、何をすべきか分かっていながら、株主に対して責任を負っているため、ただ息をしている私たちのような人々に責任を負わないのである。

私はAIの敵ではないし、この驚異的な技術開発を「おどけ」と呼んで片付けるのは馬鹿げているというアルトマンの意見に賛成だ。アルトマンと同様に、私もAIが私たちの生活の多くの側面を向上させると期待している。そこが私たちの見解の相違点だ。アルトマンは、道のりにはいくつかの困難があり、人々の善良さが勝つと予測している。しかし、人類の物語、そしてその美しさの多くは、悲惨を生み出す強力な力に対する善の闘いである。醜いのは、善の側がどれほど頻繁に負けるかだ。だからこそ、アルトマンが「未来は非常に明るいので、今それを書こうとしても誰も正当に評価することはできない」と宣言するように、ストロベリー・ショートカットに頼るのは非常に矛盾している。アルトマンはヴォルテールを読むべきか、少なくともGPT-4oに、著者の超楽観的なパングロスという登場人物が賢明だったかどうかを尋ねるべきだ。彼が見つけたのは次のようなことだ。「世界を批判的に見ることを拒み、自分の哲学に盲目的に固執する彼は、尊敬されるどころか嘲笑の的となっている。」

AI科学者のダニー・ヒリスはかつて、自分の目標は自分を誇りに思うようなコンピューターを設計することだと語った。アルトマンの予測通り、もし私たちが数千日でAGIを開発したら、AGIは私たちを誇りに思うだろうか？むしろ、その日のニュースを一目見ただけで、シリコン版の嘔吐をするだろう。AIが決して解決できない人類の問題は、栄光と屈辱を共にする人類そのものだ。AGIが、知性の時代は人間を排除した時にのみ始まると決断しない限りは。

タイムトラベル

ダニー・ヒリスが、自分を誇りに思うようなコンピューターを設計する、と初めて言及した箇所は見つけられませんでした。しかし、私が司会を務めたヒリスと伝説のコンピュータービジョナリー、アラン・ケイとの対談の冒頭で、この言葉を引用しました。（実際には、私はただ傍観して、二人の優れた頭脳のやり取りを傍観していました。）この対談は30年前にWIREDに掲載されたもので、AIに関する現在の知識を踏まえると、非常に興味深く、予言的な内容です。

ヒリス：私がMIT人工知能研究所に初めて入った頃は、言語プログラムがなんとか機能していた黄金時代で、同じ方向へ進み続ければ、思考する何かを簡単に設計できるように見えました。しかし、複雑化するにつれて物事はより脆くなり、変更が困難になるという壁に突き当たり、実際、その先に進むことはできませんでした。今日の自然言語理解の状態は、パフォーマンスの面で当時と比べてそれほど進歩していません。人工知能は不可能だと結論付けることもできます。今でもAIの設計を夢見ているマービン[ミンスキー]は、脳は非常に複雑な寄せ集めの装置であるという結論に達しています。ですから、脳を作ることは決してできないと結論付けることもできます。しかし、AIにアプローチするために私たちが使っている技術が単に十分強力ではないだけだという結論も出せます。

ケイ：問題は、誰も逆のやり方を知らないことです。でも、だからといって試してみるべきではないというわけではありません。

ヒリス：もし思考する機械を作るとしたら、私たちが理解できるよりも複雑なものを作るという問題に直面することになります。つまり、工学以外の方法で物を作る必要があるということです。そして、私が知る限り、その候補として考えられるのは生物進化だけです。

一つだけ聞いてください

エライジャはこう尋ねます。「iPodの文化的影響について深く掘り下げた著書『The Perfect Thing』の出版から18周年を迎えようとしています。今日のスマートフォンの隆盛と、音楽業界がストリーミングサービスへと向かった方向性を考えると、この本をどう捉えていますか？時代遅れでしょうか、それとも予言的だったでしょうか？」

エライジャさん、質問ありがとうございます。特に、それほど重要な節目ではない記念日について触れてくださってありがとうございます。ちなみに、今年は私の著書『Hackers』の40周年、そしてMacintoshとそのインターフェースがいかにしてすべてを変えたかを描いた『Insanely Great』の30周年でもあります。どれもお近くのオンライン書店で入手可能です！iPodの本は私の他の本とは違っていて、それぞれ独立した内容の長いエッセイ集になっています。パーソナルミュージック（ソニーのウォークマンのミニヒストリー付き）、音楽やガジェットが私たちのアイデンティティとどのように結びついているか、クールさの意味、ポッドキャストの誕生、そしてもちろん、ユーザーを興奮させ、文化現象になるほどに満足させたガジェットの誕生秘話など、様々なテーマを扱っています。

iPodという単体のガジェットは時代遅れだと聞いても驚かないでしょう。しかし、この本はiPhoneだけでなく、クールなテクノロジーへの愛が私たちをどのように形作っていくのかを予見していると思います。予言的な観点から言えば、『パーフェクト・シング』は、今日のストリーミング体験における「天上のジュークボックス」的な問題を多く取り上げています。

そうした問題の 1 つは、膨大な数の曲をシャッフルするという操作性に関係しています。iPod で何千曲もの曲をシャッフルしたところ、Steely Dan の曲がコレクション全体よりもはるかに多く表示されたので困惑しました。このことについて最初にNewsweekに書き、その後本に書いたところ、多くの人が同様の体験を報告しました。この現象については学術研究さえありました。かつてスティーブ・ジョブズ本人が、iPod のシャッフルはランダムであると私に保証するためにエンジニアを呼んだことがあります。しかし、その話にうんざりした大衆の大きなうねりにより、最終的に Apple は、ユーザーがアーティストの間隔を空けて再生できる「スマートシャッフル」という設定を作り上げました。「ランダムかどうかを議論するよりも、ユーザーが望む結果を提供すればいいのです」とジョブズは私に語りました。変化をもたらしたジャーナリズムです!

ご質問は[email protected]までお送りください。件名に「ASK LEVY」とご記入ください。