AIが人類を滅ぼすかどうか、愚かなロボットに聞かないように

今月初め、複数の有名メディアが、人工知能は人類に危険を及ぼさないというニュースを報じました。この安心材料となるニュースの出所は？シンプルなチャットボットに接続された、ヒューマノイドロボットの頭部群です。

これらのニュースは、ジュネーブで開催された国連会議「AI for Good」のパネルディスカッションから生まれた。このパネルディスカッションでは、複数のヒューマノイドロボットがそれぞれの開発者と共に登場した。記者たちはロボットたちに質問する機会が与えられ、その中にはハンソン・ロボティクス社製のソフィアも含まれていた。ソフィアはトークショーに登場したことで有名で、サウジアラビアでは奇妙なことに人間としての法的地位まで得ている。

質問には、AIが人類を滅ぼすのか、あるいは雇用を奪うのかといったものが含まれていました。回答は、ChatGPTの基盤となるものと似たチャットボット技術によって可能になりました。しかし、こうしたボットにはよく知られた限界があるにもかかわらず、ロボットの回答は、まるで自律的で知的な存在による有意義な意見であるかのように報告されました。

なぜこのようなことが起こったのでしょうか？人間の表情を視覚的に模倣できるロボットは、見る人の感情的な反応を引き起こします。なぜなら、私たちはそのような手がかりを察知する能力に長けているからです。しかし、高度な操り人形に過ぎないロボットが、現在のAIの限界を覆い隠してしまうと、AI技術を理解しようとする人々や、AIが引き起こす可能性のある問題への懸念を理解しようとする人々を混乱させてしまう可能性があります。私はジュネーブ会議に招待されましたが、ソフィアをはじめとするロボットが「講演者」としてリストアップされているのを見て、興味を失いました。

より信頼できる専門家たちがAIがもたらす現在および将来のリスクについて警告している時に、このようなナンセンスを見るのは苛立たしい。機械学習アルゴリズムは既に社会的な偏見を悪化させ、偽情報を流布し、世界有数の企業や政府の権力を増大させている。AIの第一線の専門家たちは、この進歩のペースが速すぎると、数年のうちに制御が困難なアルゴリズムが生み出されるのではないかと懸念している。

ソフィアをはじめとするリアルなロボットを開発するハンソン・ロボティクス社は、人間の表情を模倣する機械の開発に驚くほど長けています。数年前、私は香港にある同社の本社を訪れ、創業者のデイビッド・ハンソン氏（元ディズニー勤務）と朝食を共にしました。同社の研究室はまるで『ウエストワールド』や『ブレードランナー』の世界を彷彿とさせる雰囲気で、電源プラグを抜かれたロボットが悲しげに遠くを見つめ、しわくちゃの顔が棚にずたずたと置かれ、試作品が同じ言葉を無限ループで繰り返して繰り返していました。

ハンソン氏と私は、これらの刺激的な機械に真の知能を組み込むというアイデアについて話し合いました。著名なAI研究者であり、SingularityNETのCEOであるベン・ゲルツェル氏は、ハンソン氏のロボットに搭載されたソフトウェアに機械学習の進歩を適用し、人間の言葉に反応できるようにする取り組みを主導しています。

Sophiaの背後にあるAIは、時にはまずまずの回答を返すこともありますが、その技術は、ChatGPTの最新版を支えるGPT-4のようなシステムほど高度ではありません。GPT-4は開発に1億ドル以上を費やしています。そしてもちろん、ChatGPTやその他の最先端のAIプログラムでさえ、AIの未来に関する疑問に的確に答えることはできません。これらのAIプログラムは、驚くほど高度な推論能力を持ちながらも、深刻な欠陥を抱え、世界に関する「知識」が限られている、並外れた知識と才能を持つ模倣者と捉えるのが良いかもしれません。

ソフィアとその仲間たちがジュネーブで行った誤解を招くような「インタビュー」は、AIシステムを擬人化することでいかに私たちが誤った方向に導かれるかを改めて思い起こさせる。AIの歴史には、人間がAI分野の新たな進歩から過剰な推測をしてしまう例が数多くある。

1958年、人工知能の黎明期に、ニューヨーク・タイムズ紙は、コーネル大学の心理学者フランク・ローゼンブラットが米海軍向けに開発した、初期の機械学習システムの一つである粗削りの人工ニューラルネットワークについて報じました。「海軍は、歩行、会話、視覚、書字、自己複製、そして自らの存在を意識できるようになると期待される、今日の電子計算機の萌芽を明らかにした」とタイムズ紙は報じました。これは、400ピクセルのパターンを学習して見分けることができる回路に関する大胆な発言でした。

IBMのチェスマシン「Deep Blue」、DeepMindの囲碁チャンピオン「AlphaGo」、そしてローゼンブラットのマシンから直接派生した過去10年間のディープラーニングの飛躍的進歩の多くに関する報道を振り返ってみると、多くの点で共通していることに気づくだろう。つまり、人々はそれぞれの進歩を、より深く、より人間に近い知性の兆候であるかのように受け止めているのだ。

これらのプロジェクト、あるいはソフィアの誕生自体が、驚くべき偉業、あるいはより知的な機械への可能性を秘めた一歩ではなかったと言っているわけではありません。しかし、この強力な技術の進歩を評価するには、AIシステムの能力を冷静に把握することが重要です。AIの進歩を理解するために、私たちにできる最低限のことは、アニマトロニクスの人形にくだらない質問をするのをやめることです。