感情表現豊かなチャットボットに操られる準備をしよう

しかし、Googleは擬人化を避け、アシスタントはより控えめでロボット的な口調を採用した。先月、同社のAI部門であるDeepMindの研究者たちは、「高度なAIアシスタントの倫理」と題された長文の技術論文を発表した。この論文は、人間のような行動をとるように設計されたAIアシスタントが増えることで、新たなプライバシーリスクや新たな形のテクノロジー依存、より強力な誤情報や操作の手段に至るまで、様々な問題を引き起こす可能性があると主張している。多くの人々はすでにチャットボットの仲間やAIの恋人と多くの時間を過ごしており、この技術は今後さらに魅力的なものになりそうだ。

Googleのイベントに先立ち、AI部門を率いる幹部デミス・ハサビス氏に話を聞いたところ、彼はこの研究論文がProject Astraがもたらす可能性に着想を得たものだと語っていた。「私たちが開発している技術を考えれば、これらすべてを先取りする必要がある」と彼は語った。月曜日にOpenAIから発表されたニュースを受けて、その言葉はこれまで以上に真実味を帯びてきた。

OpenAIはデモ中にそのようなリスクを認めなかった。より魅力的で説得力のあるAIヘルパーは、人々の感情に訴えかけ、説得力を高め、時間の経過とともに習慣化させる可能性がある。OpenAIのCEO、サム・アルトマン氏は月曜日、スカーレット・ヨハンソンへの言及を強調し、「彼女」とツイートした。OpenAIはコメント要請にすぐには応じなかったが、同社は同社の統治憲章において「安全で有益なAIの開発を優先する」ことが求められていると述べた。

私たちの日常生活を覗き込む、まるで人間そっくりのコンピュータインターフェースがもたらす影響について、立ち止まって考える価値は確かにあるように思える。特に、それが企業の利益追求というインセンティブと結びついている場合はなおさらだ。電話で話しているのが本当に人間なのかを見分けるのは、今後はるかに難しくなるだろう。企業はきっと、商品を売るために、魅力的なボットを利用したがるだろうし、政治家はボットを大衆を動かす手段と見なすだろう。もちろん、犯罪者もボットを改造して、新たな詐欺を仕掛けるだろう。

魅力的なフロントエンドを持たない、高度な「マルチモーダル」AIアシスタントでさえ、技術に新たな不具合をもたらす可能性が高くなります。オリジナルのChatGPTのようなテキストのみのモデルは、「ジェイルブレイク」によって不正な動作が解除される可能性があります。音声や動画も取り込めるシステムには、新たな脆弱性が存在します。これらのアシスタントが、不適切な動作、さらには不快な、あるいは不適切な性格の癖を誘発する、独創的な新しい方法で騙されるのを目にすることになるでしょう。