AIについて愚かにならない方法（ヤン・ルカン氏）

ヤン・ルカンに悲観的な見方を説くのはやめよう。現代AIのパイオニアであり、MetaのチーフAIサイエンティストであるルカンは、AI技術の最も声高な擁護者の一人だ。彼は、同業者が描く、過剰な誤情報によるディストピア的シナリオ、ひいては人類絶滅さえも嘲笑する。彼は、恐怖を煽る者たちを糾弾するために、悪意のあるツイート（あるいはXの世界では何と呼ばれているかは知らないが）を投稿することで知られている。かつての共同研究者であるジェフリー・ヒントンとヨシュア・ベンジオが、AIを「社会規模のリスク」と呼ぶ声明の冒頭に名を連ねた時も、ルカンは参加しなかった。その代わりに、彼はジョー・バイデン米大統領宛ての公開書簡に署名し、オープンソースAIの採用を促し、「AIは少数の特定の企業体の支配下に置かれるべきではない」と宣言した。

ルカン氏の見解は重要だ。ヒントン氏、ベンジオ氏とともに、同氏はAIのレベルアップに不可欠となったディープラーニング手法の開発に貢献し、この功績により後に3人はコンピューター業界最高の栄誉であるチューリング賞を受賞した。メタ氏は、2013年に同社（当時はFacebook）からFacebook AIリサーチラボ（FAIR）の創設ディレクターに採用され、大成功を収めた。同氏はニューヨーク大学の教授でもある。最近では、CEOのマーク・ザッカーバーグ氏を説得してメタ氏のAI技術の一部を世界に公開した。同社はこの夏、オープンソースの大規模言語モデル「Llama 2」を発表した。これは、バイデン氏への書簡で示唆された「選ばれた少数の法人」であるOpenAI、Microsoft、GoogleのLLMと競合する。批評家たちは、このオープンソース戦略によって、悪意のある人物がコードを変更し、LLMからの人種差別的なゴミやその他の有害な出力を最小限に抑えるガードレールを外す可能性があると警告している。 AI界の最も著名なパングロスであるルカン氏は、人類はこれに対処できると考えている。

今秋、私はニューヨーク市ミッドタウンにあるMetaのオフィスの会議室で、ルカン氏と対談しました。オープンソース、AIの危険性が過大評価されていると考える理由、そしてコンピューターがチャーリー・パーカーのサックスソロのように人間の心を動かすことができるかどうかなどについて語り合いました。（パリ郊外で育ったルカン氏は、ニューヨークのジャズクラブによく出没します。）12月にも、ルカン氏がニューオーリンズで開催される影響力のある年次カンファレンスNeurIPSに出席した際に、再び対談を行いました。このカンファレンスでは、ルカン氏は神格化されています。インタビューは、長さと分かりやすさを考慮して編集されています。

スティーブン・レヴィ：最近の講演で「機械学習はダメだ」とおっしゃっていましたね。AIのパイオニアであるあなたが、なぜそんなことをおっしゃるのですか？

ヤン・ルカン：機械学習は素晴らしい。しかし、今ある技術をスケールアップすれば人間レベルのAIに到達できるという考えは間違っている。人間や動物のように機械が効率的に学習できるようにするには、何か大きなものが欠けている。それが何なのか、まだ分かっていないのだ。

これらのシステムを批判したり、役に立たないと言ったりするつもりはありません。私自身、キャリアをかけてこれらのシステムに取り組んできました。しかし、これをスケールアップすればすぐに人間の知能が得られるだろうと一部の人々が抱いている興奮を抑えなければなりません。決してそんなことはありません。

あなたは、このことを指摘するのがあなたの義務であるかのように振る舞います。

ええ。AIは世界に多くの恩恵をもたらすでしょう。しかし、人々はテクノロジーに対する恐怖心を煽り、人々を遠ざけてしまうリスクを冒しています。これは、世界に革命をもたらした他のテクノロジーで私たちが犯した過ちです。15世紀の印刷機の発明を考えてみましょう。カトリック教会はそれを嫌っていましたよね？人々は聖書を自分で読めるようになり、司祭と話す必要がなくなるからです。権力構造を変えることになるため、ほぼすべての権力層が印刷機の普及に反対しました。彼らの言う通り、印刷機は200年にわたる宗教紛争を引き起こしました。しかし、同時に啓蒙主義ももたらしました。[注：歴史家は、教会が実際に印刷機を独自の目的のために利用していたと指摘するかもしれませんが、それはさておき]

なぜテクノロジー業界の著名人の多くが AI に対して警鐘を鳴らしているのでしょうか?

注目を集めたい人もいれば、今何が起こっているのかについて無知な人もいます。彼らは、AIがヘイトスピーチ、誤情報、選挙制度を腐敗させようとするプロパガンダといった危険を実際に軽減していることに気づいていません。Metaでは、AIをこうした問題に活用することで大きな進歩を遂げてきました。5年前、Facebookがプラットフォームから削除したヘイトスピーチのうち、約20～25%は、誰にも気づかれる前にAIシステムによって事前に削除されていました。昨年は95%にまで増加しました。

チャットボットについてどうお考えですか？人間の仕事を奪うほどの力を持っているのでしょうか？

素晴らしいですね。大きな進歩です。ある程度、創造性を民主化してくれるでしょう。非常に流暢で、優れたスタイルで文章を書けます。しかし、退屈で、生み出されるものは完全に間違っている可能性もあります。

あなたが働いている会社は、それらを開発し、製品に組み込むことにかなり熱心に取り組んでいるようですね。

長期的な未来では、デジタル世界とのあらゆるやり取り、そしてある程度は私たち同士のやり取りも、AIシステムによって仲介されるようになるでしょう。今はそこまでには至りませんが、その方向へ向かっているものを、私たちは実験していく必要があります。例えば、WhatsAppで話せるチャットボット。あるいは、日常生活を助け、リアルタイムのテキストや翻訳など、何かを生み出すのを助けてくれるボット。あるいは、メタバースの世界でもそうなるかもしれません。

マーク・ザッカーバーグはMetaのAI推進にどの程度関与しているのでしょうか？

マークは非常に熱心に関わっています。今年の初めにマークと話し合い、先ほどお話ししたように、私たちのあらゆるやり取りがAIによって仲介される未来が来ると彼にも伝えました。ChatGPTは、AIが私たちの予想よりも早く新製品に役立つ可能性があることを示してくれました。人々がその機能に、私たちが考えていた以上に魅了されていることを実感しました。そこでマークは、生成AIに特化した製品部門を設立することを決定しました。

なぜ Meta は Llama コードをオープンソース スタイルで他の人と共有することを決定したのでしょうか?

多くの人が貢献できるオープンプラットフォームがあれば、進歩は加速します。最終的に得られるシステムはより安全で、パフォーマンスも向上します。デジタル世界とのあらゆるやり取りがAIシステムによって仲介される未来を想像してみてください。そのAIシステムが米国西海岸の少数の企業によって制御されることは望ましくないでしょう。アメリカ人は気にしないかもしれませんし、米国政府も気にしないかもしれません。しかし、ヨーロッパでは、彼らはそれを気に入らないでしょう。彼らはこう言うでしょう。「なるほど、これは英語を正しく話します。でも、フランス語はどうですか？ドイツ語はどうですか？ハンガリー語はどうですか？オランダ語はどうですか？何でトレーニングしたのですか？それが私たちの文化をどう反映しているのですか？」

スタートアップ企業に自社製品を使ってもらい、競合他社を出し抜く良い方法のように思えます。

誰かを足手まといにする必要はありません。これが世界の進むべき道です。プラットフォームがコミュニケーションの不可欠な要素になりつつある今、共通のインフラが必要なため、AIはオープンソースでなければなりません。

これに反対している企業の一つが OpenAI ですが、あなたは OpenAI のファンではないようですね。

彼らが創業した当初、AI研究を行う非営利団体を設立し、業界の研究を独占していたGoogleやMetaのような悪党に対抗しようと考えていました。私はそれは全くの間違いだと言いました。そして実際、私の考えは正しかったことが証明されました。OpenAIはもはやオープンではありません。Metaは常にオープンであり、今もそうです。私が次に言ったのは、資金を調達する方法がなければ、実質的なAI研究を進めるのは難しいということです。最終的に彼らは営利部門を設立し、Microsoftから投資を受ける必要がありました。つまり、ある程度の独立性はあるものの、今では彼らは基本的にMicrosoftの委託研究機関のような存在です。そして3つ目、彼らはAGI（人工知能）はすぐそこまで来ており、誰よりも先に開発を進めるだろうと信じていました。しかし、彼らはそうはしません。

サム・アルトマン氏がCEOを解任され、その後別の役員会に報告するために復帰したOpenAIのドラマをどう見ていますか？研究コミュニティや業界に影響を与えたと思いますか？

研究界はもはやOpenAIをあまり気にしていないと思います。なぜなら、彼らは論文を発表しておらず、何をしているのか明らかにしていないからです。私の元同僚や学生の中にはOpenAIで働いている人もいますが、そこで起こった不安定な状況に同情しました。研究は安定性の上に成り立つものであり、今回のような劇的な出来事が起こると、人々は躊躇してしまいます。また、研究者にとってもう一つ重要な側面はオープン性ですが、OpenAIはもはや完全にオープンではありません。つまり、OpenAIは研究コミュニティへの貢献者としてあまり見られなくなったという意味で変化したのです。その責任はオープンプラットフォームに委ねられています。

OpenAIの人事異動は、AI「加速主義」の勝利と評されています。これはドゥーマー主義とは正反対の考え方です。あなたはドゥーマーではないことは承知していますが、加速主義者ですか？

いいえ、そういうレッテルは好きではありません。私はそういった学派や、場合によってはカルトにも属していません。こういった考えを極端に押し進めないよう、細心の注意を払っています。なぜなら、簡単に純潔のサイクルに陥ってしまい、愚かなことをしてしまうからです。

EUは最近、一連のAI規制を発表しましたが、その中でオープンソースモデルはほぼ例外となりました。これはMetaをはじめとするAIにどのような影響を与えるでしょうか？

Metaにもある程度影響はありますが、どのような規制があろうとも、それを遵守できるだけの力はあります。AIシステムをゼロから構築するための独自のリソースを持たない国にとって、これははるかに重要です。オープンソースプラットフォームを活用することで、自国の文化、言語、関心に合ったAIシステムを構築できます。おそらくそう遠くない未来に、デジタル世界とのやり取りのほとんど、あるいは全てがAIシステムによって仲介されるようになるでしょう。そうしたものがカリフォルニアの少数の企業によって管理されるのは望ましくありません。

あなたは規制当局がその結論に達するのを支援することに関与しましたか?

はい、ありましたが、規制当局とは直接ではありませんでした。様々な政府、特にフランス政府と話し合ってきましたが、間接的に他の政府とも話しました。そして基本的に、彼らは国民のデジタルデータが少数の人々によって支配されることを望まないというメッセージを受け取りました。フランス政府はかなり早い段階でそのメッセージを受け入れました。残念ながら、私はEUレベルの人たちと話をしていませんでした。彼らは破滅の予言に影響を受け、起こりうる大惨事を防ぐためにあらゆるものを規制したいと考えていました。しかし、フランス、ドイツ、イタリアの政府によって、オープンソースプラットフォームには特別な規定が必要だと主張され、その試みは阻止されました。

しかし、オープンソースの AI は制御や規制が非常に難しいのではないでしょうか?

いいえ。安全性が本当に重要な製品については、既に規制が存在します。例えば、AIを使って新薬を開発する場合、その製品の安全性を確保するための規制が既に存在します。それは理にかなっていると思います。人々が議論しているのは、AIの研究開発を規制することに意味があるかどうかです。そして、私はそうは思いません。

大企業が公開する高度なオープンソースシステムを誰かが利用して、世界征服に利用してしまう可能性はないでしょうか？ ソースコードや重みにアクセスできれば、テロリストや詐欺師がAIシステムに破壊的なドライブを組み込むことも可能です。

誰にも検出されない場所にある 2,000 台の GPU へのアクセス、十分な資金、そして実際に仕事をこなすのに十分な才能が必要になります。

一部の国では、そうした種類のリソースに十分アクセスできます。

実際のところ、中国でさえそうしていません。禁輸措置があるからです。

彼らは最終的には独自の AI チップを作成する方法を見つけ出すことができると思います。

確かにそうです。しかし、それは最先端技術から数年遅れることになります。これは世界の歴史です。技術が進歩しても、悪意のある者がそれにアクセスするのを阻止することはできません。つまり、私の良いAIとあなたの悪いAIが戦うことになります。先頭に立つには、より速く進歩することです。より速く進歩するには、研究を公開し、より広いコミュニティがそれに貢献できるようにすることです。

AGI をどのように定義しますか?

私はAGIという用語が好きではありません。なぜなら、汎用知能など存在しないからです。知能は測定できる線形的なものではありません。異なる種類の知的存在は、それぞれ異なるスキルセットを持っています。

コンピューターが人間レベルの知能に到達したとしても、そこで止まることはないでしょう。深い知識、機械レベルの数学的能力、そしてより優れたアルゴリズムを駆使すれば、超知能が生まれるのではないでしょうか？

ええ、機械が最終的に人間よりも賢くなることは間違いありません。それがどれくらいの時間がかかるかは分かりませんが、数年かかるかもしれませんし、数世紀かかるかもしれません。

その時点で、私たちはハッチを閉めなければならないのでしょうか?

いいえ、違います。私たちは皆、AIアシスタントを持つようになり、まるで超賢いスタッフと一緒に働いているような気分になるでしょう。ただ、彼らは人間ではないだけです。人間はこれに脅威を感じますが、私はワクワクするべきだと思います。私が一番ワクワクするのは、自分よりも賢い人たちと一緒に働くことです。自分の能力が増幅されるからです。

しかし、コンピューターが超知能化したら、なぜ人間が必要になるのでしょうか?

AIシステムが知能を持っているからといって、人間を支配しようとすると考える理由はありません。AIシステムが人間と同じ動機を持つと考えるのは間違いです。AIシステムは人間と同じ動機を持つはずがありません。私たちはAIが人間と同じ動機を持たないように設計するのです。

もし人間にそうした衝動が備わっていなくて、超知能システムがひたすら目標を追い求めることで人間を傷つけてしまうとしたらどうなるでしょうか？哲学者ニック・ボストロムが例に挙げたように、どんな状況でもペーパークリップを作るように設計されたシステムは、ペーパークリップをもっと作るために世界を支配してしまうのです。

システムを構築する際にガードレールを一切作らないのは、極めて愚かな行為です。それは、1,000馬力のエンジンを搭載しながらブレーキのない車を作るようなものです。AIシステムに駆動力を与えることが、制御可能かつ安全なシステムを実現する唯一の方法です。私はこれを「目的駆動型AI」と呼んでいます。これは一種の新しいアーキテクチャであり、現時点では実証実験を行っていません。

それが今取り組んでいることなのですか？

はい。機械には満たすべき目的があり、その目的を満たさないものを生成することはできないという考え方です。その目的には、危険なものを防ぐためのガードレールなどが含まれるかもしれません。これがAIシステムの安全性を確保する方法です。

自分が生み出した AI の結果を、一生後悔し続けることになると思いますか?

もしそう思うなら、私は今やっていることをやめます。

あなたは大のジャズファンですね。AIが生み出す音楽は、これまで人間だけが生み出してきたような、卓越した陶酔感あふれる創造性に匹敵するでしょうか？魂のこもった作品を生み出すことはできるのでしょうか？

答えは複雑です。AIシステムが最終的には人間と同等、あるいはそれ以上の技術的品質の音楽、あるいは視覚芸術などを生み出すという意味では、その通りです。しかし、AIシステムには、人間による気分や感情の伝達に依存する即興音楽の本質は備わっていません。少なくとも今のところは。だからこそ、ジャズは生で聴くべき音楽なのです。

その音楽に魂があるかどうかという質問には答えてくれませんでした。

魂のない音楽は既に存在します。レストランでBGMとして流れているような。それらはほとんど機械によって生産された製品です。そして、それに対する市場があるのです。

でも、私が話しているのは芸術の頂点についてです。もし私がチャーリー・パーカーの最高傑作を上回る音源を聴かせて、それをAIが生成したとしたら、あなたは騙されたと感じますか？

はい、そしていいえ。音楽は単なる聴覚体験ではなく、文化的な側面も大きいので、その通りです。演奏者への敬意です。例えばミリ・ヴァニリのような人ですね。誠実さは芸術体験の重要な要素です。

もし AI システムがエリートの芸術的業績に匹敵するほど優れていて、その背景を知らなければ、市場にはチャーリー・パーカーレベルの音楽が溢れ、私たちはその違いを区別することができなくなるでしょう。

それに何の問題もありません。何百年もの歴史を持つ文化から生まれた300ドルの手作りボウルを、たとえ5ドルでほとんど同じものが買えたとしても、私はオリジナルを選びます。たとえ模倣できるものであっても、私たちは大好きなジャズミュージシャンのライブを聴きに行きます。AIシステムでは、同じ体験は得られません。

最近、マクロン大統領から、発音できない名誉を授与されましたね…

レジオンドヌール勲章シュヴァリエ。ナポレオンによって創設されました。イギリスの騎士階級のようなものですが、革命があったので「サー」とは呼びません。

武器は付属しますか？

いいえ、彼らは剣とかそういうものは持っていません。でも、持っている人は襟に小さな赤いストライプを付けることができます。

AI モデルがその賞を受賞することはあり得るでしょうか?

すぐには無理。いずれにしても、それは良い考えではないと思う。

この記事についてのご意見をお聞かせください。 [email protected]までお手紙をお送りください。