より賢いAIアシスタントは人間らしさを保つことを難しくするかもしれない

研究者や未来学者たちは、インテリジェントなソフトウェアエージェントがパーソナルアシスタント、家庭教師、アドバイザーとして働く日が来ると、何十年も前から議論してきました。Appleは1987年に有名なナレッジナビゲーターのビデオを制作しました。1990年代にMITメディアラボで開催されたソフトウェアエージェントに関するイベントに出席した記憶があります。そこでは、司会者が山高帽をかぶった執事の姿で登場していました。生成型AIの登場により、ソフトウェアが側近として機能していくという漠然としたビジョンが、突如として現実味を帯びてきました。WIREDのウィル・ナイトが今週、現在利用可能なものと、間もなく実現するものについて概説しました。

これが長期的に私たち自身、そして他者との関係にどのような変化をもたらすのか、私は懸念しています。私たちと他者との交流の多くは、私たちに代わって行動するボットによって仲介されるようになるでしょう。ロボットアシスタントは人間のヘルパーとは異なります。彼らは休憩を取らず、世界中のあらゆる知識に瞬時にアクセスでき、生活賃金を支払う必要もありません。私たちがロボットを利用すればするほど、かつては自分たちでやっていた仕事を他人に任せたいという誘惑に駆られるようになるでしょう。

現在提供されているAIアシスタントはまだ洗練されていません。飛行機の予約、病院の予約、金融ポートフォリオの管理など、ミスが許されない作業を自律型ボットが日常的に引き受ける段階にはまだ至っていません。しかし、状況は変わります。なぜなら、それは可能だからです。私たちは長距離航空機のパイロットのように人生を歩む運命にあるようです。航路を設定したら、あとはコックピットに寄りかかり、AIが飛行機を操縦し、必要に応じて手動モードに切り替えるだけです。懸念されるのは、最終的には、そもそも飛行機の行き先を決めるのがAIになるかもしれないということです。

悲観論はさておき、私たちは皆、誰かの超賢く、おそらくは操作的なエージェントに対処しなければならないでしょう。買い物リストから予定カレンダーまで、私たちは日々の活動や選択の管理をAIアシスタントに委ねることになります。AIアシスタントは、家族、友人、そして敵のエージェントともやり取りします。AIアシスタントが独立性を獲得するにつれて、私たちの代わりに全く好ましくない決定や取引を行うようになるかもしれません。

こうした未来の明るい見通しを得るために、ムスタファ・スレイマン氏に相談した。彼はAIスタートアップ企業DeepMindの共同創業者であり、現在GoogleのAI開発の中核を担う彼は、チャットボット開発企業Inflection.aiのCEOを務めている。スレイマン氏は最近、著書『The Coming Wave』でニューヨーク・タイムズのベストセラーリストに名を連ねた。この本は、人間がAIの存在そのものの危機にどう立ち向かうべきかを示唆している。彼は概して楽観主義者であり、もちろんソフトウェアエージェントについても楽観的な見通しを持っている。彼は、自社が開発するボット「Pi」を、知恵だけでなく共感的な励ましと優しさも与えてくれる「専属の参謀」と表現している。

「今のところ、Piはレストランの予約や車の手配、あるいは買い物などを行うことはできません」とスレイマン氏は語る。「しかし将来的には、契約上および法的代理人がPiに加わるようになります。つまり、Piはあなたに代わって契約を締結し、現実世界で実際のお金を使って重要な合意を締結する権限をPiに付与することになります。」さらに、ロードマップには、Piが所有者に代わって電話をかけ、カスタマーサービス担当者と交渉する機能も含まれる予定だ。

それは妥当なように思えます。なぜなら、現状では、あまりにも多くのサービスエージェントが既にボットであり、おそらく意図的にそうしているのでしょうが、企業が顧客を騙しているという理にかなった議論を受け入れようとしないからです。必然的に、私たちは生活のあらゆる分野でAIを他のAIとの交渉に投入することになるでしょう。スレイマン氏も、ボット同士が親密になりすぎたり、人間の検証が不可能な方法でやり取りしたりすることは望んでいないことを認めています。「AI同士のコミュニケーションは、平易な英語に限定すべきです」とスレイマン氏は言います。「そうすれば、監査が可能になります。」

それは善意に基づく懸念ですが、おそらくエージェントの作業速度は低下し、超知能アシスタントが思いつくような革新的な解決策のいくつかが阻害される可能性さえあります。AI同士のコミュニケーションを効率的かつ効果的にしたいという誘惑が、こうした前向きな気持ちを圧倒してしまうのではないかと私は考えています。

もう一つの潜在的な悪夢は、広告収入で運営されるボットが、オーナーをスポンサー付きの商品やサービスに誘導することです。スレイマン氏はこのアイデアを好ましく思っていませんが、可能性を否定しているわけではありません。彼によると、莫大な価値を提供する彼のボットは、決して安くはないそうです。「弁護士には1時間あたり数百ドルも支払っています。しかし、どういうわけか、私たちはオンラインサービスに月10ドル以上払うことにアレルギー反応を起こしてしまっています。これは変えなければなりません。」では、料金を払えない人には広告付きバージョンが提供されるのでしょうか？スレイマン氏も、誰もがこの技術へのアクセスにお金を払いたいと思うわけではないことを認めています。いずれにせよ、信頼と説明責任が不可欠だとスレイマン氏は言います。「AIが自律的に行動することに安心できるようになるまでには、何年もかかるでしょう」と彼は言います。「すぐにそうすべきではないと思います。」

私にとっての懸念はそこです。一度慣れてしまうと、それで終わりです。検証を求めて研究論文にざっと目を通した際、「害を及ぼす力：AIアシスタントが非倫理的行動への道を開く」というタイトルに目を奪われました。南カリフォルニア大学の科学者、ジョナサン・グラッチとナサニエル・ファストが共著したこの論文は、知的エージェントが富裕層の好ましくない習慣を民主化できるという仮説を提唱しています。富裕層は弁護士、広報担当者、そして粗暴な部下を通して悪行を外部委託しています。「我々は、AIエージェントを通して行動する際に、人々が様々な社会的タスクにおいて倫理性が低くなり、より欺瞞的になる可能性があることを示す一連の研究をレビューします」と彼らは記しています。

ドイツのヴュルツブルクで開催された会議で講演してくれたグラッチ氏に話を聞いた。「男女問わず、誰でもパーソナルアシスタントを自分の代わりにやらせることができます」と彼は言う。「私たちの調査によると、人は自分がやろうとするよりも倫理的に問題のあることをアシスタントに頼むかもしれないことが示唆されています」

グラッチ氏は長年、インテリジェントエージェントの潜在的影響について研究してきた。この1年で、この分野はまるで雷に打たれたような、まるで弱虫が突然スーパーパワーを身につけたかのような変貌を遂げた。「かつては、テストしたいエージェントを作るのに博士論文1本分を費やさなければならなかった」と彼は言う。「今では、GPTなどで2日ほどいじるだけで、人とインタラクトして見た目もなかなか良いものができあがる」。グラッチ氏によると、この分野は今、興奮と不安が入り混じった状況にあるという。

「テクノロジーは個人をより力強くし、自由な時間を生み出すでしょう」と彼は言う。「ただ一つ懸念しているのは、人々がその力をどう使うのかということです」例えば、もし私がエージェントに代わりに電話をかけるよう指示していたら、潜在的な人間的なつながりが失われていただろうと彼は言う。「こうした個人的なつながりこそが、私たちを優しくし、共感を育むのです」とグラッチは言う。「AIがアルゴリズムや法律、取引に重点を置くようになると、人間としての私たちの価値は低下してしまうのです」

かつては仮説中心だったグラッチ氏の分野は、今や間近に迫った商用AIサービスの指針となる可能性を秘めている。ヴュルツブルクで開催されたカンファレンスでの発表をいくつか見てみよう。「人間とエージェントの交渉におけるエージェントの身体性の影響」「仮想アルコール乱用カウンセラーの安全を確保しつつユーザーの表現力に対応する」「仮想エージェントへの委任におけるラポールの影響」などだ。（安心してほしいのは、他の論文はエージェントが溢れる世界における倫理の維持についてのものだったことだ。）グラッチ氏は最近MITで参加したカンファレンスでも同様の研究を目にした。大手テクノロジー企業もすべて参加しており、多くの学生が採用されることを期待しているという。

グラッチ氏は今週行われたカンファレンスのセッションで、AIソフトウェアが感情や非言語行動、身振り手振りを使って人間を操る方法を研究者たちが探求し、最も効果的な手法を模索した様子を説明した。「ChatGPTを微調整して、これらすべてを実現させれば、より高価なテレビを売ることができるでしょう」と彼は言う。もう自信がついただろうか？

タイムトラベル

2010年12月、WIREDは「AI革命は始まった」と宣言し、少々早計なことを言ってしまいました。私はエッセイの中で、AIの産物が最終的に良い結果をもたらすとしても、それが何をしようとしているのかを理解することの難しさについて論じました。

私たちは機械と永遠に踊らされ、ますます依存を深めている。しかし、ロボットの行動は人間の思考プロセスに基づいていないため、私たちはしばしばその行動を説明できない。科学者スティーブン・ウルフラムが作成したウェブサイト「Wolfram Alpha」は、多くの数学の問題を解くことができる。また、解答がどのように導き出されたかを示しているようにも見える。しかし、人間が目にする論理的な手順は、ウェブサイトが実際に行っている計算とは全く異なる。「Wolfram Alphaはそのような推論は一切行いません」とウルフラムは言う。「手順は全くの偽物です。私たちは、どうすれば世の中の人間に説明できるのかと考えました」

コンピューターは時として私たちの要求に応えなければ、私たちを怖がらせてしまう、ということが教訓となる。現在マイクロソフトのトップ研究者であり、 人工知能振興協会（ AAI）の元会長でもあるエリック・ホーヴィッツ氏は、1980年代に病理学者の研究を支援するAIシステムの構築に携わった。このシステムは、それぞれの結果を分析し、次に行うべき検査を提案する。ただ一つ問題があった。答えを出すのが速すぎたのだ。「まるで息を切らして答えを出そうとしているかのような、点滅するライトによる遅延ループを追加すると、人々はより信頼するようになった」とホーヴィッツ氏は言う。

しかし、私たちは適応することを学ばなければなりません。AIは金融インフラのような一部のシステムにとって非常に重要であり、AIを排除することはHAL 9000のモジュールを単に切り離すよりもはるかに困難です。「ある意味では、SFのシナリオが既に起こり始めていると言えるでしょう」と、シンキング・マシーンズのヒリス氏は言います。「コンピューターが制御し、私たちは彼らの世界に生きているだけです。」ウルフラム氏は、AIが新たなタスクを担い、人間の理解をはるかに超えるようになるにつれて、この難問はさらに深刻化するだろうと述べています。「基盤となるアルゴリズムを規制するのですか？」と彼は問いかけます。「それはおかしなことです。なぜなら、ほとんどの場合、そのアルゴリズムがどのような結果をもたらすかは予見できないからです。」

一つだけ聞いてください

シャンティは問いかける。「メールの後継者は現れるのでしょうか？ソーシャルインターネットのデフォルトに取って代わるには、何が必要なのでしょうか？」

Shantiさん、メールでの質問ありがとうございます。メールはかつてのような力は失っています。かつて受信箱に詰め込まれていた多くのメッセージが、今ではテキストメッセージ、ソーシャルネットワークのダイレクトメッセージ、Slackなどを通じて人々に届いています。かつて万能だったメールの覇権をさらに揺るがすようなサービスが今後登場してくるのではないかと予想しています。しかし、おっしゃる通り、受信箱は常に制御不能な状態にあるにもかかわらず、メールは多くの場面でデフォルトとなっています。ビル・ゲイツがニューズウィークのオフィスを訪ねてきて、1年以内にスパムは根絶されるだろうと言ったのを覚えています。数ヶ月後にはその訪問から20周年を迎えますが、毎日何十通もの迷惑メールが届き、そのうちかなりの数がスパムフィルターをすり抜けています。

スパムはさておき、メールは手放したくありません。誰かを紹介してもらったり、ファイルを送受信したり、やり取りのアーカイブを保存したりするのに、これ以上簡単な方法は考えられません。特に、最後の機能は貴重です。何十年も前のメッセージを瞬時に検索できるからです。見覚えのある名前が出てくるたびに、すっかり忘れていた過去のやり取りをすぐに掘り起こすことができます。

一方、私をメーリングリスト、特に商業用のメーリングリストに一方的に登録した人に対して、最低限の刑罰を科すことを提案されたとしても、私はそれに反対はしないでしょう。

ご質問は[email protected]までお送りください。件名に「ASK LEVY」とご記入ください。