レイ・カーツワイルが（再び）正しければ、クラウドで彼の不滅の魂に出会うことになるだろう

レイ・カーツワイルは死を否定する。76歳の科学者でありエンジニアである彼は、地球上での人生の大半を、人間は未だ発明されていない医療の進歩によって長生きできるだけでなく、最終的には機械と融合し、超知能化して永遠に生き続けることもできると主張し続けてきた。しかしながら、この春、カーツワイルとのインタビューには死が暗い影を落としていた。私たちが会う数分前に、ノーベル賞受賞心理学者であり、カーツワイルの知的な駆け引きのパートナーの一人であるダニエル・カーネマンが、死という運命を辿ったことを私たちは知ったのだ。

その数日前、SF作家のヴァーナー・ヴィンジも亡くなりました。ヴィンジの小説は、超知能AIが人間の能力を超え、凡人が生き残るためにハイテクな拡張を必要とする瞬間、すなわちシンギュラリティを初めて描きました。カーツワイルは自身の壮大なビジョンにこの名を冠し、2005年には『シンギュラリティは近い』というベストセラーを執筆しました。彼は当時、光学式文字認識、シンセサイザー技術、そしてアクセシビリティを向上させるハイテクツールにおいて画期的な進歩を遂げた、優れた発明家であり起業家でした。彼は数々の栄誉を受けており、アメリカ国家技術賞、賞金50万ドルのレメルソンMIT賞、グラミー賞などを受賞しています。2012年には、GoogleがAIラボの責任者に彼を採用しました。

当時、彼の予測は行き過ぎだと多くの人が考えました。2029年までにコンピューターが人間レベルの知能を達成する？早すぎる！生成AIの時代に、そのタイムラインは保守的とまでは言わないまでも、従来通りのものに思えます。ですから、今月発売されるカーツワイルの新著が『シンギュラリティは近い』というタイトルであることは驚くことではありません。最初の本のチャートに描かれていた点線の多くは、今では埋められており、驚くほど正確です。それでも、カーツワイルが正しく予測した技術の進歩には驚嘆する一方で、数百年後には私たちの肉体から切り離された脳が、ある種のクラウド意識の中で繁栄するという、彼の明るいシナリオを（拡張されていない）私の頭で理解するのは困難です。

カーツワイルは、自宅近くのマサチューセッツ州ニュートンにある公共図書館で会うことを提案していた。彼は派手なサスペンダーと驚くほど豊かな髪を身につけて現れた。まるでジェペットのような風貌で、人工生命体を人間の地位に押し上げようとする人物にふさわしい。私たちは、いつか意識を共有するロボットの資料となるであろう本の山をかき分けながら、彼が予約していた部屋へと向かった。話している間、カーツワイルは時折バックパックに手を伸ばし、いくつかのグラフを取り出した。どれも計算能力から世界の平均所得に至るまで、さまざまな分野で劇的な進歩を示している。私たちは午後中、不死とはどのようなものか、彼がGoogleで何をしているのか、そしてもちろん、迫り来るシンギュラリティについて話し合った。

スティーブン・レヴィ：悲しいお知らせがあります。ダニエル・カーネマンが亡くなったと聞きましたか？

レイ・カーツワイル：ええ。5分くらい前に聞いたんですが。彼とは何度か会ったことがあります。何歳でしたか？

90です。

へえ、本当ですか？今どき90代の人でも元気そうに見えることがあります。私の叔母を例に挙げましょう。彼女は心理学者で、定期的にたくさんの患者を診ていました。98歳なのに！彼女はまだユーモアのセンスがありました。一度電話をかけたら、「それで、何をしているんですか？」と聞かれました。私は「長寿脱出速度」についての講演をしたと答えました。科学の進歩が時間の経過を逆転させるということです。つまり、歳を取るにつれて時間は実際には消費されないのです。毎年1年ずつ消費しますが、科学の進歩によって少なくとも1年は取り戻せるのです。まだそこまでには至っていませんが、目指しているのはそういうことです。すると彼女は「早くしてもいいですか？」と言いました。それが実は私たちとの最後の会話でした。彼女は2週間後に亡くなったからです。

あなたは生物学と戦っているようですね。

生物学には多くの限界があります。多くの分析家は、死は避けられないものではないと考えており、私たちは死を阻止するための方法を模索しています。つまり、老化によって死をなくすことができるのです。

120 くらいだと人間は止まれないと考える人もいますが、あなたは違うと思いますか?

まったくその通りです。120で止まる理由はありません。

上限はいくらですか?

上限はありません。シンギュラリティ（技術的特異点）を越えれば、AI接続を脳内に組み込むことができるようになります。文字通り脳内ではなく、クラウドに接続することになります。クラウドの利点は、完全にバックアップされていることです。

あなたは76歳です。脱出速度を見るまで生きられると思いますか?

ええ。体調は良好です。実際に自分の状態を測っています。何かが落ち込んでいる時は、様々な処方薬や薬を服用して、長生きできる状態に戻れるようにしています。1日に80錠くらい飲んでいます。[ 2008年頃の約200錠から、実は減っています。]

前回お話しした時、スティーブ・ジョブズがスタンフォード大学の卒業式で行ったスピーチについて触れました。彼は死を「自然界最大の発明」と呼び、新しいものへの道を切り開いたと表現しました。あなたはそれを死を肯定する立場だとおっしゃいましたが、今でもそうお考えですか？

死なない方がいい。私たちは代替不可能な資源を消費しているわけではない。地球に降り注ぐ太陽光の量は、私たちが必要とするエネルギーの1万倍にもなる。食料などもAIで生産するだろう。だから、資源が枯渇しているわけではない。

もし私が300歳になったら、私の人生はどうなるでしょうか？私が育った環境はすべて違っているでしょう。

私たちがすでに経験してきた変化を見てください。確かに20年前にはスマートフォンはなく、コンピューターも非常に原始的だったでしょう。数百年後の話なら、生活は大きく変わるでしょう。今では不可能な新しい経験をすることになるでしょう。

でも、私の本当のアイデンティティ、つまり永遠に続いてほしい私という存在は、子供の頃に築いた強い絆によって形作られました。何世紀も経った今でも、そのことに向き合っているなんて、不思議な気がします。好きな曲は14歳の時に聴いた曲ばかりだと言われています。500歳になった時、ローリング・ストーンズを何十億回目に聴いていることになるのでしょうか？

新しい音楽が出る予定です。

今は新しい音楽がありますね。私は今でもローリング・ストーンズを聴きます。

ローリング・ストーンズも聴きます。でも、新しいアーティストも好きです。私たちの思考が拡張されるので、これまでできなかったことができるようになるでしょう。私たちは「大規模言語モデル」と呼ばれるものに縛られるようになるでしょう。この名前は好きではありませんが、大規模言語モデルは言語だけを扱うわけではないからです。私たちは基本的に知識をダウンロードして、それを理解できるようになるでしょう。

でも、人生には弧がある。150歳になっても300歳になっても、どんなに健康に感じていても、もう若くはなれない。だからこそ、90歳まで生きれば、死はそれほど怖くないのかもしれない。

そう言うこともできますが、いざその時が来たら、生き続けたいと願うものです。「99歳まで生きたくない」と言う人もいます。しかし、実際に99歳になると、考え方が変わります。死にたいと思ったら死ねますし、耐え難い痛みがない限りは死ねないのです。

ChatGPTが登場した時に驚かなかったのはあなただけでしょう。それはあなたが前世紀に描いたタイムラインに沿っています。

そうです。1999年にその予測をしました。スタンフォード大学の何人かはそれを驚きと受け止めてくれました。私の意見を議論するための会議が開かれるほど、私の意見は信用されていたのでしょう。当時のスピーチを見れば、皆が「人間レベルの知能は確かに実現するだろうが、30年後ではない。100年後には実現するだろう」と言っていました。最近になって、その予測は的外れになってきました。私は「わずか5年後だ」と言いますが、来年には実現すると言う人もいます。

AGI が来たことをどうやって知るのでしょうか?

とても良い質問ですね。つまり、文章力という点では、ChatGPTの詩は悪くないのですが、人間の最高の詩人に匹敵するものではありません。2029年までにそれが実現できるかどうかは分かりません。もしそれまでに実現できなくても、2032年には実現するでしょう。あと数年かかるかもしれませんが、AIはどんどん進化しているので、定義できることは何でも実現できるでしょう。

AIは人間よりも優れた小説を書くと信じている。しかし、人生を変えるほど素晴らしい小説を人々に与えた後に、それをロボットが書いたと告げたら、人々は騙されたと感じるだろう。小説を読んでいる間に感じた人間的な繋がりは、偽物だったのだ。

それに対して偏見があることは承知しています。しかし、小説を書くのは法学修士（LLM）や、あるいは何と呼ぶにせよ、学位を持つ人だけではありません。私たちも彼らと融合していくのです。人々は人間らしく、普通の人間の皮膚を持ちます。しかし、彼らは私たちが生まれながらに持っている脳とコンピューターの脳を融合させ、はるかに賢くなります。彼らが何かをすると、私たちは彼らを人間だとみなすでしょう。私たちは皆、脳の中に超人を抱えているのです。

あなたの本を読んだ後でも、クラウドとの繋がりがどうやって生まれるのか、少し曖昧です。もしあなたが脱出速度に達し、2050年に生きているとしたら、あなたの脳はどのようにしてクラウドと融合するのでしょうか？

これは大きな問題です。多くのことが頭に浮かびますが、それがどこから来たのかは意識していません。私たちが自分自身と繋がっているコンピューターの心についても、同じことが言えるでしょう。現在、自分の体とコミュニケーションできない人のために、脳の中に実際に情報を埋め込む技術の開発に取り組んでいる人たちがいます。これは今よりも速く実現する必要があります。そして、私はそれが2030年代までには実現すると信じています。

いつから子供をクラウドに接続し始めますか?

いい質問ですね。機械的にではなく、脳の内部に入り込む方法は他にもあります。

LLM の後継者はいわゆる意識を持つようになると思いますか?

何が意識的で何が意識的でないかを理解するには、哲学的な視点を取り入れる必要があります。50年間、マービン・ミンスキーは私の師でした。意識の話になると、彼はいつも「そんなことは話さないでくれ。それはナンセンスだ。科学的ではない」と言っていました。意識に科学的な定義がないというのは彼の言う通りでした。しかし、それはナンセンスではありません。なぜなら、それは実際には最も重要な問題だからです。

Googleであなたの研究室で働いていたというブレイク・ルモワン氏は、あなたが研究していた法学修士課程（LLM）のLaMDAには意識があったと主張しています。彼は間違っていたのでしょうか？

彼が間違っていると言ったことは一度もありません。彼は言語モデルを気に入っていると思います。言語モデルは意識を持っていると言えるでしょう。まだそこまでには至っていないと思いますが、いずれそうなるでしょう。意識があるかどうかは、哲学的な視点の問題です。100年後ではなく、数年後には、人間と同じように行動し、反応するようになるはずです。もし言語モデルに意識がないと言うなら、人間にも意識がないと言うことになるでしょう。

Googleでは何をしてきましたか？いつも少し謎めいた感じでした。

きっかけはビル・ゲイツと話したことでした。彼は私の著書『How to Create a Mind（心の創造）』を読んでいて、それを実際にコンピューターで実現したいと考えていました。しかし、私はその2週間前に起業したばかりでした。そんな時、ラリー・ペイジ（Google元CEO）がその会社に興味を示し、Googleと買収契約を結びました。そこで私はここに来て、Descartesというグループを立ち上げました。私たちは多くの研究を行い、最終的には大規模言語モデルの一部となりました。7年ほど前、20万冊の本を読み、あらゆる質問に答えるモデルを訓練しました。私は40人ほどの部下を率いるまでに成長しました。それは非常に官僚的な仕事でした。上司は「君が本当にやりたいのはアイデアを生み出すことだ」と言いました。それで今はAIに関するアドバイスをし、CEOをはじめとする関係者に自分のアイデアを提供しています。過去に私が発言したことが現実になったため、私の意見はより真剣に受け止められています。

先ほど、脳を機械にアップロードして、自分自身のバックアップを作成できるようになるとおっしゃっていましたね。その機械は私たちのレプリカントとなり、私たちが死んだときに代わりになるかもしれません。私自身が複数存在するというのは、不安なことです。

本当のあなたは、あなたの物理的な脳と電子的な脳の機能です。これはそのコピーに過ぎません。コピーを持つことに何の問題があるでしょうか？

おそらく、何枚もコピーを大量生産できるでしょう。そして、どちらの自分が先に家に帰って、配偶者と夕食をとるか競い合うのです。

ええ、対処しなければならない問題はいくつかあるでしょう。私には全ての答えがあるわけではありません。

ここでダニエル・カーネマンが登場します。あなたの著書には、私たちの世界とシンギュラリティの間の移行について、お二人が交わした会話が記されています。あなたは社会がその移行に対応できると考えていましたが、カーネマンはそれが混乱に満ち、暴力さえも伴うと主張しました。

ええ、彼は衝突があるだろうと考えていました。私はもっと楽観的でした。全てが完璧になると言っているわけではありませんが、例えば数百年前、寿命が30歳くらいだった頃に戻りたいですか？電子機器も何もなく、誰も何も覚えておらず、レコードプレーヤーも発明されていなかった時代です。生活は本当にひどいものでした。今はずっと幸せです。そして、私は全てが良くなったことを示す50枚のグラフを持っています。人々はそんなこと覚えていません。

より危険な時代に戻りつつあるのではないかと心配しています。AIが悪意ある者の手に渡れば、事態はさらに悪化するかもしれません。あなたの著書では、AIが第二次世界大戦よりも大きな混乱を引き起こす可能性があると認めていますね。

はい、危険性については話しました。しかし、それは起こりそうにないと思っています。AIに否定的な人たちは、これらの問題に対処する方法がないと言います。それは、私たちがまだそれらの問題に直面していないからです。私たちは、危険を回避する方法について考えるための知性を獲得するでしょう。

あなたの著書『シンギュラリティは近い』は、まさにその地平線に杭を打ち込んだと言えるでしょう。今回のタイトルは『シンギュラリティはより近い』です。シンギュラリティをどのように定義しますか？

私にとって、シンギュラリティとは、人間が他の人ができることを全てできるようになるだけでなく、例えば特定の種類の癌を治すなど、何か新しいものを生み出すことができるようになることです。AIはそれを実現するために不可欠です。なぜなら、癌を治す可能性のあるあらゆる組み合わせを実際に試すことができるからです。何十億もの治療法の中からどれを試すべきかと悩むのではなく、すべてを試し、数日でシミュレーションすることができます。シンギュラリティとは、私たちがそのような思考を通常の思考と実際​​に組み合わせることができる時であり、その時私たちは超人になるでしょう。

もし私たち全員が超知能システムと融合する段階に達したら、依然として巨額の個人資産が存在するのでしょうか、それともその時点で所得格差は緩和されるのでしょうか?

例えば、私たちと億万長者の違いは何でしょうか？彼らは会社を売却したり、その他もろもろできます。しかし、人生の果実を享受できるという点では、ほとんど同じです。

アメリカ国民の半数以上が、緊急時に500ドルを捻出することができません。社会保障網やユニバーサル・ベーシック・インカムといった制度によって、約束された豊かさが平等に分配されると確信できますか？

セーフティネットは飛躍的に拡大しました。数百ものプログラムが存在します。そして、今後もその勢いは続くでしょう。果たしてそれが保証されているのでしょうか？いいえ。それは私たちが下す決断と、どのような政治システムを採用するかにかかっています。AGI（汎用人工知能）が実現すれば、コンピューターは皿洗いから詩作まで、あらゆることが可能になります。つまり、あなたが言うことなら何でも、これらの機械が実行できるのです。

あなたの考え方はパングルス主義的だと感じます。人間は本質的に善良だとお考えですか？

ええ。こうした混乱から、私たちはテクノロジーを生み出しました。これは、脳と対向親指の組み合わせなしには決して実現できなかったでしょう。良いことは起こるものです。

私たちは地球を破壊していると主張することもできる。

いいえ、そうではありません。10年以内に二酸化炭素を排出しない再生可能エネルギーが開発されるでしょう。私たちは今、非常に大きな変化を経験しています。科学者や哲学者だけでなく、人々が「私たちはこれにどう対処していくのか」と問いかけています。こうした変化は今後も良い方向に進むと私は考えています。心配する必要はありません。

シンギュラリティの概念を初めて具体化したヴァーナー・ヴィンジも最近亡くなりました。彼とは連絡を取り合っていましたか？

彼とはずっと連絡を取り合っていました。最後に会ったのはたぶん10年前だったと思います。彼は何歳でしたか？

彼は80代だったと思います。[カーツワイルは携帯電話に手を伸ばす] そうだね、脳のその部分を調べてみろよ。

[画面を見ながら] ええ、彼は1944年生まれで、1924年に亡くなったばかりです。79歳。かなり若いですね。

2024年6月14日午前5時45分（東部標準時）更新：この記事は、カーツワイル氏のGoogleでの職務を明確にするために更新されました。

この記事についてのご意見をお聞かせください。 [email protected]までお手紙をお送りください。