ニック・ボストロムは世界にAIへの恐怖を植え付けた。そして今、彼は問いかける。「AIが全てを解決するとしたら？」

哲学者ニック・ボストロムは、人類が自滅する可能性について長年憂慮してきたにもかかわらず、驚くほど明るい。写真では、彼はしばしば非常に真剣な表情を浮かべている。おそらく、彼の脳裏を駆け巡る実存的危機に、まさにそのように悩まされているのだろう。Zoomで話す時、彼はリラックスした様子で、微笑んでいる。

ボストロム氏は、遠い未来の技術進歩と人類にとっての存在的リスクについて考察することを生涯の仕事としてきました。2014年に出版された最後の著書『スーパーインテリジェンス：道、危険、戦略』では、当時は異端だった考え、つまりAIが人類に敵対し、人類を滅ぼすほどの進歩を遂げるという考え方を世間に知らしめました。

AI研究の内外を問わず、多くの人々にとってこのアイデアは空想的なものに思えたが、イーロン・マスクをはじめとする影響力のある人物たちはボストロムの著作を引用した。この本は、AIに関する終末論的な懸念をくすぶらせ、ChatGPTの登場をきっかけに最近になって再燃した。AIリスクへの懸念は、主流派だけでなく、政府のAI政策関係者の間でも議論の的となっている。

ボストロムの新著は、全く異なるアプローチをとっている。悲観的なテーマを繰り返すのではなく、『ディープ・ユートピア：解決された世界における人生と意味』は、人類が超知能機械の開発に成功し、災害を回避した未来を描いている。あらゆる病気が根絶され、人類は無限の豊かさの中で永遠に生きられる。ボストロムの著書は、テクノユートピアにおける人生にどのような意味があるのか​​を考察し、それがむしろ空虚なものになる可能性を問いかける。彼はZoom経由でWIREDのインタビューに応じた。会話は、長さと明瞭さを考慮して若干編集されている。

ウィル・ナイト：超知能 AI が人類を脅かすという記事を書く代わりに、AI が善行のために使われる未来について考えるようになったのはなぜですか?

ニック・ボストロム： AI開発に伴う様々な問題が、今や以前よりも多くの注目を集めています。これは過去10年間で大きな変化です。現在、あらゆる最先端のAI研究機関が、スケーラブルなアライメント手法の開発に取り組む研究グループを擁しています。また、ここ数年では、政治指導者もAIに注目し始めています。

こうした落とし穴に陥らなければ、物事はどうなるのかという考察は、まだ相応の深さと洗練度を増していません。この問題に関する考察は、かなり表面的なものにとどまっています。

『スーパーインテリジェンス』を執筆した当時、AIの実存的リスクがこれほど急速に主流の議論になるとは誰も予想していなかったでしょう。あなたの新著に書かれている問題について、人々が考えるよりも早く懸念する必要が生じるのでしょうか？

自動化の展開が始まり、進歩が続くと仮定すると、こうした会話が始まり、最終的には深まっていくと思います。

ソーシャルコンパニオンアプリはますます普及していくでしょう。人々は様々な考え方を持つようになり、ちょっとした文化戦争を繰り広げる絶好の場となるかもしれません。普通の生活に満足感を見出せない人にとっては素晴らしいかもしれませんが、もしそのような人たちに虐待することに喜びを感じる層がいたらどうでしょうか？

政治や情報の分野では、政治キャンペーン、マーケティング、自動プロパガンダシステムなどにAIが活用される可能性があります。しかし、私たちが十分な知恵を持っていれば、これらの技術は、政策提案があなたにとってどのような意味を持つのかを個別にアドバイスすることで、建設的な民主的な市民となる能力を真に高めてくれるでしょう。社会には様々なダイナミクスが生まれるでしょう。

AI が気候変動、病気、労働の必要性など多くの問題を解決する未来は本当にそんなに悪いのでしょうか?

結局のところ、物事がうまくいけばどうなるかについては楽観的です。しかし、それは人間の生命とは何か、そして何に価値があるのか​​という、かなり深い再考の裏側にあるのです。私たちは超知能を持ち、それがあらゆることをできるようになるかもしれません。そうなると、私たちがもはやする必要のないことがたくさんあり、現在私たちが人間の存在のすべてだと考えていることの多くが揺らぎます。もしかしたら、この未来にはデジタルマインドも含まれるかもしれません。

デジタルマインドとの共存は、それ自体が大きな変化となるでしょう。私たちはこれらの存在をどのように扱うべきか、慎重に考える必要があるのでしょうか？

私の見解は、知覚、つまり苦しむ能力は、AI システムが道徳的地位を持つための十分な条件ではあるが、必要条件ではないということです。

意識を持たないAIシステムであっても、私たちが様々なレベルの道徳的地位を与えているようなAIシステムが存在するかもしれません。時間を通して存在する自己の概念、安定した嗜好、そしておそらく達成したい人生の目標や願望を持ち、人間と相互的な関係を築くことができる洗練された推論システム。もしそのようなシステムであれば、それを扱う方法には間違ったものが存在する可能性が高いと思います。

AIがもっと意志を持ったり、自己意識を持つようにならなければどうなるでしょうか。その方が安全ではないでしょうか？

現時点では、AIの発展を後押しする非常に強力な要因があります。経済効果は莫大で、今後ますます顕著になるでしょう。そして、科学の進歩、新薬、クリーンエネルギー源など、様々な要素が当然あります。さらに、AIは国家安全保障においてますます重要な要素となり、この技術を推進する軍事的インセンティブが生まれるでしょう。

次世代AIシステム、特に真に革新的な超知能システムの開発の最前線にいる人々が、重要な段階で一時停止できる能力を持つことが望ましいと思います。これは安全性の向上に役立つでしょう。

AIが永久に禁止されるリスクを生じさせるような提案には、私はもっと懐疑的になるでしょう。他の選択肢に比べれば可能性ははるかに低いように思いますが、2年前よりは可能性は高くなっています。結局のところ、AIが開発されず、私たちが困窮と貧困と病気に苦しむ類人猿のような存在に閉じ込められていたとしても、それはとんでもない悲劇ではないでしょう。私たちは100万年もこんなことを続けるつもりなのでしょうか？

ここで、AI の実存的リスクについてお話ししますが、それに対処する取り組みには概ね満足していますか?

そうですね、議論は散漫ですね。差別、プライバシー、知的財産など、もっと差し迫った問題にも注意を払う必要があります。

自社の取り組みの長期的な影響に関心を持つ企業は、AIの安全性向上に投資し、政策立案者との連携に努めてきました。今後、ハードルは段階的に引き上げられる必要があると考えています。

いわゆるAI悲観論者とは対照的に、AIへの不安を減らし、AIの加速を主張する人もいます。こうした動きについて、あなたはどうお考えですか？

人々は、ある種の集団に分かれて激しい争いを繰り広げます。私には、特定の側面において何が物事を良くし、何が悪くするのかを理解するのは非常に複雑で難しいように思えます。

私は30年間、これらのことについて真剣に考え続けてきました。具体的な事柄についてはいくつかの見解を持っていますが、全体としては、まだ完全に暗闇の中にいるように感じています。もしかしたら、他の人々は明るい洞察への近道を見つけたのかもしれません。

おそらく彼らは、テクノロジーに対する反射的な否定的な考え方に反応しているのかもしれない。

それも真実です。何かが別の方向に行き過ぎると、自然とこういう状況が生まれます。個々には非合理的な人が多く、それぞれが強く自信を持って反対の方向へ向かうとしても、それが何らかの形でバランスを取り、世界全体として健全な状態になることを願っています。

大きなフラストレーションが蓄積されているように思います。是正措置としては彼らの主張も一理あるかもしれませんが、最終的には何らかの統合が必要だと思います。

2005年から、ご自身が設立されたオックスフォード大学の人類の未来研究所で働いていらっしゃいます。先月、同研究所は大学の官僚機構との摩擦により閉鎖すると発表されました。何が起こったのですか？

数年かけて準備してきた、いわば地元の官僚機構との闘いの末に実現したのです。採用凍結、資金調達凍結、そして数々の押し付けがましい結果、研究所をダイナミックで学際的な研究機関として運営することが不可能になってしまいました。正直なところ、私たちは哲学部の中で常に少し場違いな存在でした。

あなたにとって次は何ですか？

しばらくの間、学部とのやり取りにうんざりしていたので、大きな解放感を感じています。明確な目的を持たずに、ただ周りを見回し、物事を考える時間を過ごしたいのです。自由な人間になるという考えは、とても魅力的に思えます。