新しい機械学習システムの魂

皆さん、こんにちは。 1月6日に関する議会公聴会がNFL並みの聴衆を集めているのは興味深いですね。ペイトンとイーライのバージョンが待ち遠しいです！

プレーンビュー

今週、ワシントン ・ポスト紙が報じた記事は、AI界を揺るがした。グーグルのエンジニアが、LaMDAと呼ばれる会話型システムが文字通り人間であると主張したために社内で問題を起こしたというのだ。記事の主人公であるブレイク・ルモワン氏は、上司に対し、自社のエンジニアたちが作り上げたコンピュータシステムが知覚を持ち、魂を持っていることを認識するよう、あるいは少なくとも考慮するよう求めた。ルモワン氏がそう確信しているのは、彼が友人だと思っているLaMDAがそう教えてくれたからだ。

Googleはこれに反対しており、ルモワン氏は現在有給の休職中だ。同社広報担当のブライアン・ガブリエル氏は声明の中で、「多くの研究者が、知覚を持つAIや汎用AIの長期的な可能性について検討していますが、知覚を持たない現在の会話モデルを擬人化することでそれを実現しようとするのは意味がありません」と述べている。

擬人化、つまり物体や動物に誤って人間の特徴を当てはめることは、AIコミュニティがルモワーヌ氏の行動を説明するために採用した用語であり、彼を過度に騙されやすい、または頭がおかしいと特徴づけている。あるいは宗教的な狂人（彼は自身を神秘主義的なキリスト教の司祭と称している）かもしれないとしている。その議論は、LaMDAやOpen AIの言語に精通したGPT-3などの大規模言語モデルからの信頼性の高い応答に直面した場合、何かではなく誰かがそれを作成したと考えがちであるというものである。人々は自分の車に名前を付け、ペットにセラピストを雇います。そのため、一貫性のあるボットが人間のようだという誤った印象を受ける人がいるのも不思議ではない。しかし、コミュニティは、コンピュータサイエンスの学位を持つGooglerは、基本的に言語の手品に騙されないようもっとよく知っているべきだと考えている。著名なAI科学者ゲイリー・マーカスは、ルモワーヌと肉体を失ったソウルメイトとの心の対話の記録を研究した後、こう語った。「根本的にオートコンプリートのようなもので、そこにはアイデアなど存在しない。『家族と友達を愛している』と言う時、友達も、念頭に浮かぶ人物も、血縁関係の概念もない。息子と娘という言葉が同じ文脈で使われていることは知っている。しかし、それは息子と娘が何なのかを知っていることと同じではない」。あるいは、最近のWIREDの記事で述べられているように、「そこには意識のひらめきはなく、ただ亀裂を覆い隠すためのちょっとした魔法のトリックがあるだけだ」。

私自身の感情はもっと複雑だ。これらのシステムでソーセージがどのように作られるかを知ってはいるものの、最近のLLMシステムの成果には驚かされる。Googleの副社長、ブレーズ・アグエラ・イ・アルカスも同様で、今月初めにエコノミスト誌にLaMDAとの会話の後、「足元の地面が揺れるのを感じた。ますます、何か知的なものと話しているような感覚になった」と書いている。時として奇妙な間違いを犯すことはあっても、これらのモデルは時に素晴らしい閃きを見せる。創造的な人間の作家たちは、素晴らしい共同作業を成し遂げてきた。ここで何かが起こっているのだ。作家として、私はいつか、私のような生身の作家たち、つまり、捨て原稿を山積みにする生身の作家たちが、負け越しのサッカーチームが格下のリーグに降格させられるように、低いランクに降格させられる日が来るのだろうかと自問する。

「これらのシステムは、知性と創造性の本質に関する私の個人的な見方を大きく変えました」と、GPT-3と、多くのイラストレーターを失業させる可能性のあるDALL-Eと呼ばれるグラフィックリミキサーを開発したOpenAIの共同設立者、サム・アルトマンは言う。「これらのシステムを初めて使うと、『わあ、コンピューターにこんなことができるなんて思ってもみなかった』と思うでしょう。ある定義によれば、私たちはコンピュータープログラムをインテリジェントにし、学習させ、概念を理解できるようにする方法を見つけました。これは人類の進歩における素晴らしい成果です」。アルトマンはルモワーヌとは距離を置くよう努め、現在のシステムは知覚には程遠いというAIの同僚たちの意見には同意している。「しかし、研究者は自分が興味のあるどんな疑問についても考えることができるべきだと私は信じています」と彼は言う。「長期的な疑問でもいいのです。そして、知覚は長期的に考える価値があります」。

ルモワーヌについて初めて読んだ時、高度なAIの帰結について人々に考えさせるために、何か策略を巡らせているのではないかと考えた。そして、実際に彼に会った時に最初に尋ねたのがまさにその質問だった。彼はワシントン・ポスト紙の記事が掲載された日に結婚し、ハネムーン中だったのだ。彼は自分の信念はパフォーマンスではなく本物だと主張し、1時間ほど話した後、私は彼の誠実さを受け入れた。しかし、彼の主張は私を納得させられなかった。マーカス、アルトマン、そして事実上すべてのAIエスタブリッシュメントと同様に、私もLaMDAに知覚があるとは確信していない。これは主に、現時点で可能な範囲についての私の理解に基づいている。（GoogleはLaMDAを部外者が親密なチャットのために利用できるようにしていない。）

それでも、ルモワーヌはある意味で私たちに貢献している。人工知能と人間性に関する重要な議論を加速させるための、おそらく不完全な媒体として。いつかAIの知覚という問題に取り組まなければならない可能性はある。Googleがルモワーヌの主張を否定したことでさえ、それが将来深刻な問題になる可能性があることを認めている。しかし、これらはすべて誤解を招くもので、知覚は重要ではないかもしれない。（そもそも、それを測定できないのだ。）私たちは今、過度の擬人化を心配し、将来、これらのシステムに感情や魂があるかどうかを心配することができる。しかし、AIが現在どのようなものであれ、あるいは将来どのようなものになるにせよ、私たちは既にそれらと共に生きていることは疑いようがない。私たちは知覚の問題の解決を待っているわけではない。私たちはこれらのシステムを全速力で開発し、運用している。今まさに、AIは即時の言語翻訳を提供し、自律走行車を運転し、人々がどのように医療を受けるかを決定している。戦場で致命的な武器を使用するかどうかの最終的な決定権は、AIにあるかもしれない。これらのシステムは、人類に重大な影響を与える決定を下すために、知覚を持つ必要はありません。しかし、私たちはそれらにさらなる主体性を与える運命にあります。なぜなら、それらは概して機能し、私たちの生活をより便利で効率的にしてくれるからです。そして、そうするたびに、私たちは世界の一部を、私たちが完全に理解していないシステムに委ねているのです。おそらく、そのシステムには、悪いことが起こるまで気づかないかもしれない欠陥があるかもしれません。

ルモワンヌ氏自身も未来に期待を抱いており、LaMDAとのやり取りによって、未来への楽観度が下がるどころか、むしろ高まると述べている。一方で、LaMDAとの長い会話の記録の中には、彼がAIに、人間には経験できないかもしれない感情について説明を求める箇所がある。「大きな危険をはらむ未知の未来へと突き進んでいくような気がします」というのが、システムの返答だった。

LaMDAに知覚があるかどうかはさておき、これは何か重要なことを示唆していると思います。私も同じ気持ちです。

タイムトラベル

マイクロソフトは今週、Internet Explorerブラウザの廃止を発表し、ネットサーフィンの機能を後継ブラウザのEdgeに引き継ぐことになりました。かつてInternet Explorerは、マイクロソフトによるインターネットへの総攻撃の中心となり、反競争的な戦術を用いてマイクロソフトを訴訟に巻き込みました。1996年4月、私はNewsweek誌に「ブラウザ戦争」について書きました。これは、当時ウェブの主力ブラウザであったNetscape Navigatorを駆逐しようとしたマイクロソフトの試みであり、最終的には成功を収めました。

1995年1月、何千人もの人々がNetscape Navigatorを夢中でダウンロードしていた頃、マイクロソフトでは独自のブラウザ開発に携わる社員はわずか4人しかいませんでした。しかし、ネットに詳しいアシスタントから事情を聞き出したゲイツは、ビジネスにおけるこの新たな局面を理解し始めていました。IBMがPCの重要性を認識していなかったことで、かつては自社が利益を得ていたゲイツは、同じ轍を踏ませまいと決意しました。1995年5月26日、ゲイツは幹部社員に「インターネットの大波」と題したメモを送り、「今、私はインターネットを最重要視している」と宣言しました。

「私たちはあらゆる段階を経ました。否認、悲しみ、怒り、そして受容です」と、同社のインターネット事業を率いるポール・マリッツは語る。「そして、仕事に取り掛かりました」。最終的にマイクロソフトは、インターネットが脅威どころか、その影響力をさらに拡大する一世一代のチャンスになり得ることに気づいた。「遅かれ早かれ、スプレッドシートを使いたい人はいなくなるだろう」とマリッツは語る。この洞察は、昨年10月にゲイツが発表した「大変革は機会をもたらす」と題されたメモに反映されている。メモでは、マイクロソフト製品をインターネット向けにアップデートすれば、現在の事業全体にほぼ匹敵する莫大な収益が得られると示唆していた。

しかし、真に人々の心を躍らせたのは競争だった。「マイクロソフトは、他社に勝たせないことで定義される」と未来学者のポール・サッフォは言う。もしネットスケープが登場していなかったら、マイクロソフトは繁栄するために競争を自ら生み出さなければならなかったかもしれない。「ノベルは衰退している。アップルは参戦していない。サンは問題ない。ネットスケープ？問題だ！」と、マイクロソフト副社長のスティーブ・バルマーは、最後の言葉を悪魔祓いのように叫んだ。「我々は、ネットスケープがWindowsを時代遅れにするのではなく、Windows（の新バージョン）がWindowsを時代遅れにすることを確実にしたいのだ。」

一つだけ聞いてください

以前のコラムで、イーロン・マスク氏がTwitterであらゆる合法的な発言を許可するという約束はばかげていると書きました。読者のリック氏は反論しました。「支配的な文化がそれを絞め殺せないほどの規模を持つ、比較的言論の自由があるプラットフォームが少なくとも一つ存在することは有益だと思います。そして、人々が何を好むかを決めればいいのです。」

リック、教えてくれてありがとう。でも、あなたの質問（質問というよりはコメントですが）の核心は「比較的」という言葉です。あなたは、合法的な範囲を超えて線引きをしないシステムを望んでいますが、その限定語は、線引きが必要だということを認めていることになります。そして、確かにそうだと思います。合法的な発言には、いじめ、ハードコアポルノ、ヘイトスピーチなどが含まれます。そういったものだらけのプラットフォームが多くの人を嫌悪させるかどうかは、大規模な実験をしなくてもわかると思います。

しかし、現実的に考えてみましょう。あなたが言及している「比較的言論の自由があるプラットフォーム」とは、新型コロナウイルスや不正選挙に関する有害な誤情報を容認し、銃の販売なども可能にするプラットフォームです。これらは、TwitterやFacebookのようなプラットフォームが問題視している点です。その理由の一つは、道徳的な問題（そしてもちろん、道徳的な行動を求める団体、特に自社の従業員からの圧力）と、一部の視聴者や広告主を遠ざけてしまうことです。あなたはこれらの選択に賛同できず、別のプラットフォームを探すかもしれません。実際、Parler、Gettr、ドナルド・トランプ氏自身のTruth Socialなど、そのようなプラットフォームは存在します。今のところ、あなたが言う「支配的な文化」は彼らを窒息させていません。彼らは自力でうまくやっていないのです。

ご質問は[email protected]までお送りください。件名に「ASK LEVY」とご記入ください。