テクノロジー企業への不信感でAIの力を見失わないように

人工知能に関する最初の会議（当時、この分野のリーダーたちは10年以内に課題が完了すると示唆していた）から約70年が経ち、今やこの分野は私たちの生活に変革をもたらす準備が整っていることは明らかだ。これが起こるためには、人工汎用知能（AGI）に到達する必要はない。それが何を意味するにせよ。私はこのコラムで3週間前に同じことを書き、ChatGPTをもたらした大規模言語モデルの驚異的な飛躍の後、一部の批評家が非難しているように進歩は「停滞」していなかったという証拠を挙げた。また、OpenAIのGPT-4、AnthropicのClaude 3、MetaのLlama 3、そしてMicrosoft Copilotsの大群が素晴らしく見えたものは、単にカードトリックの言語的バリエーションに過ぎないと主張する懐疑論者の波にも反対した。私は、誇大宣伝には正当性があると主張した。

結局、その結論は多くの人にとって全く明白ではないことが判明しました。反発は即座に起こり、激しいものでした。このコラムに関する私の比較的中立的なツイートは2900万回以上閲覧され、多くの視線が私に殺意のレーザーを照射しました。何百ものコメントが寄せられ、同意する人も少なからずいましたが、大多数は否定的で、失礼な態度で反対を表明するものでした。

攻撃は複数の陣営から寄せられました。まず、AIの進歩そのものを軽蔑する人たちがいて、テクノロジー企業がAIを推進しているという偽りの物語を盲目的に信じている私を、ひどいジャーナリストだと非難しました。「これはサクラでしかない」とあるコメント投稿者は言いました。別のコメント投稿者は「あなたは詐欺師たちの嘘をそのまま繰り返しているだけだ」と書きました。GoogleがAI概要検索機能をリリースした後、驚くべきエラーが発生しやすく、私の投稿への反応者たちはそのエラーを、生成AIが存在しない証拠だと言い張りました。「ピザに接着剤を多めに入れて食べなさい」とアドバイスされた人もいました。

私が気に入った反応は、私が使った法学修士課程の学生が高得点で司法試験に合格した例を引用した人からのものでした。「司法試験に合格するのは、Jeopardy! で良い成績を収めていた頃の DeepMind ならできたことだ」とこの批判者は言いました。Jeopardy! のコンピューターは実は IBM の Watson で、DeepMind は当時まだ生まれたばかりのスタートアップ企業であり、そのテレビゲームをプレイするために注意深く最適化されていました。司法試験は、受験者が問題を提示して答えを提供する形式ではないため、Watson が合格できたと考えるのはばかげています。この文章の間違いは、最も幻覚的な法学修士課程の学生でさえ、なかなか真似できないものです。私が数人の法学修士課程のモデルに Watson コンピューターが司法試験に合格できたかどうかを尋ねたところ、全員が慎重かつ正確に、なぜ合格できないのかを説明しました。これはロボットの功績と言えるでしょう。

失礼な口調の返答はさておき（Xではよくあることですが）、この反応は理解できるものの、的外れだと思います。今はAI企業が生み出す素晴らしい製品の活用方法をユーザーがようやく理解し始めたばかりの、いわば「潜伏期」です。AI Overviewsやその他のLLM（法学修士）が出すような的外れな回答はさておき（ただし、Googleが幻覚を独占しているわけではないことは忘れてください）、大手テクノロジー企業は、完成度が低い製品を市場に投入するという意識的な決断を下しました。それは、製品の改善方法を見つけるための最良の方法であると同時に、競争が激化し、どの企業もペースを緩める余裕がないからです。

一方、目に見えない形ではありますが、AIは既に教育、商業、そして職場環境を変えつつあります。ある友人が最近、彼が勤めている大手IT企業について教えてくれました。その企業には、ソリューションの設計、製品のコーディング、そして展開のエンジニアリングといった、大規模なプロジェクトを立ち上げるための、長年確立されたプロトコルがありました。構想から実行に移すまでには数ヶ月かかっていました。しかし彼は最近、最先端のAIを典型的なソフトウェアプロジェクトに適用したデモを目にしたそうです。「数ヶ月かかっていたことが、たった数時間で実現したんです」と彼は言います。「あなたのコラムに共感しました。私たちを取り巻く多くの企業が、今や動く死体と化しているんです」。人々が不安になるのも無理はありません。

AIに対する激しい怒りの火種となっているのは、AIを開発・推進する企業への不信感だ。偶然にも、今週、非営利研究機関アレンAI研究所のCEO、アリ・ファルハディ氏と朝食を共にすることになった。彼はAIの誇大宣伝は正当だと100%確信しているが、同時に、AIを受け入れない人々の気持ちも理解している。なぜなら、AI分野を支配しようとする企業は、世間から疑いの目で見られるからだと彼は言う。「AIは、誰も知らないブラックボックスのようなものとして扱われてきました。そして、非常に高価なため、わずか4社しかAIを扱えません」とファルハディ氏は語る。AI開発者たちが急速にAI開発を進めていることも、この不信感をさらに煽っている。「私たちは皆、AIを理解していないのに、AIを実際に導入しているんです」と彼は言う。「AIに反対しているわけではありませんが、これらのシステムは予測不可能な動作をし、人々はそれに反応するでしょう」オープンソースAIの支持者であるファハディ氏は、少なくとも大企業はモデルのトレーニングにどのような素材を使用しているかを公表すべきだと述べている。

問題をさらに複雑にしているのは、AI構築に関わる多くの人々がAGI（汎用人工知能）の創出にも尽力すると誓っていることだ。多くの主要研究者は、これが人類にとっての恩恵となると信じている（OpenAIの設立理念でもある）にもかかわらず、彼らは公にその主張を表明していない。「AGIが明日、1年後、あるいは6ヶ月後に実現するという考えに人々は不満を抱いています」と、この概念に賛同しないファルハディ氏は言う。彼は、AGIは科学用語ではなく、AIの普及を阻害する曖昧な概念だと指摘する。「私の研究室では、学生がこの3文字を使うと、卒業が6ヶ月遅れるだけです」と彼は言う。

個人的には、AGI問題については懐疑的です。AGIの瀬戸際にいるとは思っていませんが、長期的に何が起こるかは分かりません。AIの最前線にいる人たちと話をすると、彼らも分かっていないことが分かります。

私には確かに明らかなことがいくつかあり、そしてそれらはいずれすべての人に明らかになるだろうと思っています。Xについて私に批判的な意見を投げかけている人たちでさえも。AIはさらに強力になるでしょう。人々はAIを活用して仕事や私生活を楽にする方法を見つけるでしょう。また、多くの人が職を失い、企業全体が崩壊するでしょう。AIブームによって新たな雇用や企業が生まれるとしても、それはわずかな慰めにしかならないでしょう。なぜなら、職を失った人々の中には、依然として失業保険の列に並んだり、ウォルマートのレジ打ちをしたりしている人もいるからです。それまでの間、私のようなコラムニストを含め、AI業界のすべての人は、人々がなぜこれほど激怒しているのかを理解し、彼らの正当な不満を尊重すべきです。

タイムトラベル

1956年にダートマスで開催されたAI会議を思い出すと、忘れられない人間の知性を持つマービン・ミンスキーを思い出す。2016年に彼が亡くなった時、どんなに高度なAIでも彼の脳の中身に匹敵できるのだろうかと疑問に思った。恐ろしい考えだ。

マービン・ミンスキーには大きな矛盾がありました。ジョン・マッカーシーと共に人工知能の創始者の一人として、彼は1950年代という早い時期から、コンピューターは人間のような認知能力を持つと信じていました。しかし、マービン自身はあまりにも豊かで予測不可能、そして崇高な知性を持つ人物でした。たとえ100万の特異点があっても、彼に匹敵する知性を持つ機械を生み出すことは到底不可能だ、と。少なくとも私には、そんなことが起こるとは想像もつきません。しかし、マービンなら想像できたかもしれません。彼の想像力には国境などありませんでした…。

私はミンスキーに魅了された。明らかに重要な人物である、いたずら好きな男。彼の発言の一つ一つが、深遠さと不可解さの迷宮だった。1958年からMITの教授を務め、ヘッドマウントディスプレイなどを発明し、AI以外にもニューラルネットやロボット工学の先駆的な研究を行っていた。しかし、たとえ彼が何もしていなかったとしても、彼の会話のまばゆいばかりの輝きは、軽快なボルシチベルト・コメディアンのユーモアで和らげられ、確固たる遺産となっただろう。彼はあらゆることに疑問を投げかけ、彼の観察は風変わりで革新的、そしてあまりにも理にかなっていて、なぜ誰も思いつかなかったのかと不思議に思うほどだった。彼と数時間過ごすと、自分の世界観が一変した。何年も経ってから、彼の日常的なミンスキーらしさが、ある基本的な教訓を与えていたことに気づいた。もしあなたが他の人と同じように世界を見ているなら、あなたは本当にどれほど賢いと言えるだろうか？

一つだけ聞いてください

マークは「トランプ政権が再び発足したら、テクノロジー企業は何を心配しなければならないのか？」と問う。

マーク、質問ありがとう。トランプ氏の再任期で皆が何を心配しているかについて、一般的な発言は避け、目の前の問題に集中したいと思います。トランプ氏の勝利後のテクノロジー業界の状況は、シリコンバレーの超富裕層テクノロジー企業が、重罪での有罪判決にもかかわらず、前大統領を支持していることで、より複雑になっています。今週、テクノロジー界の大富豪チャマス・パリハピティヤ氏とデビッド・サックス氏が主催したトランプ氏の資金調達イベントは完売しました。「主催委員会」への参加と夕食への参加に30万ドル、レセプションへの参加だけで5万ドルの参加費がかかりました。イーロン・マスク氏は、トランプ氏の再任期でテクノロジーアドバイザーに就任したいと狙っていると報じられています。

明らかに、一部のテック関係者はトランプ氏を心配していない。実際、ホワイトハウスへの復帰は、一部の大企業にとって短期的な恩恵となるかもしれない。トランプ氏は、規制と独占禁止法に基づく訴追に対するバイデン政権の強硬路線をほぼ確実に覆すだろう。（ネット中立性はさようなら。テクノロジー企業による巨大買収がやってくる。）

しかし、テクノロジー業界にも懸念すべき点は山ほどある。トランプ氏は支持者には報奨を与え、屈服しない者には罰を与えてきたことで知られる。彼がTikTokを、自身を後押しするラリー・エリソン氏が率いるオラクルに買収させようとしたのを覚えているだろうか？テクノロジー業界は実力主義が最も機能する。縁故資本主義は業界にとって逆効果となるだろう。

トランプ政権は大規模なインフラ投資に踏み切れなかった。今になって、バイデン政権が半導体製造に与えた巨額の補助金を撤回するだろうか？テクノロジー政策にも変化が見られるかもしれない。バイデン政権は、AIに関する詳細な命令を発令し、この技術の潜在的な欠点やセキュリティリスクを綿密に精査することを盛り込んでいる。トランプはそれを全て撤回するのだろうか？（彼は選挙運動中にAIについてあまり語っていない。）最終的には、大企業の最も優秀なテクノロジー幹部たちが、トランプをなだめる方法を見つけ出すだろう。しかし、長期的には、公共投資と研究の減少、そして縁故主義的なシステムの台頭が、米国のテクノロジー産業を弱体化させる可能性は高い。

ああ、トランプはすべての政府広報をTruth Socialで行うことを要求するだろうね。冗談だよ。たぶん。

ご質問は[email protected]までお送りください。件名に「ASK LEVY」とご記入ください。