FacebookのAI部門責任者は、AI分野はまもなく「壁にぶつかる」と語る

ジェローム・ペセンティ氏は、世界で最も影響力があり、かつ物議を醸す企業の一つで、人工知能（AI）開発を率いています。Facebookの人工知能担当副社長として、彼は数百人の科学者やエンジニアを統括し、彼らの仕事が会社の方向性と世界への影響を形作っています。

AIはFacebookにとって根本的に重要です。人々の注意を引きつけ、維持する方法を学習するアルゴリズムは、Facebookとその姉妹製品であるInstagramやWhatsAppのユーザー体験を向上させ、中毒性を高めています。パーソナルアシスタント「M」のようなAIの失敗作はいくつかありましたが、FacebookはInstagramのフィルターから拡張現実アプリまで、AIを活用した新しい機能や製品の開発を続けています。

マーク・ザッカーバーグは、ヘイトスピーチ、フェイクニュース、そしてネットいじめ（今のところ成果は限定的）を取り締まることで、同社が抱える最大の課題の解決にAIを活用することを約束した。最近では、ディープフェイク動画という形でAIを活用した欺瞞行為をいかに阻止するかという課題に直面している。ディープフェイク動画は、偽情報を巧妙に拡散させるだけでなく、新たな形のハラスメントも可能にする可能性がある。

ペセンティ氏は2018年1月にFacebookに入社し、この分野の巨匠の一人であるヤン・ルカン氏が設立した研究所を引き継ぎました。それ以前は、IBMのWatson AIプラットフォームや、この技術を医療に応用する企業Benevolent AIに勤務していました。

ペセンティ氏は、ニューヨークにあるWIREDのオフィス近くで、同社のシニアライター、ウィル・ナイト氏と会談した。会話の内容は長文のため編集されている。

ウィル・ナイト： AIはフェイクニュースやオンライン虐待への解決策として提示されてきましたが、その力は過大評価されているかもしれません。AIに関しては、実際にどのような進歩を遂げているのでしょうか？

ジェローム・ペセンティ： Facebookのような規模で、自動モデレーション、あるいは人間とコンピューターの連携によるモデレーションを行うのは、非常に困難な課題です。しかし、私たちは大きな進歩を遂げてきました。

この分野は初期から視覚、つまりシーンや画像の理解において進歩を遂げてきました。ここ数年で、私たちはそれをヌードの認識、暴力の認識、そして画像や動画の中で何が起こっているかの理解に応用できるようになりました。

最近、言語の分野で大きな進歩があり、人々が使う言語を通して、より精密な相互作用の理解が可能になりました。いじめをしようとしているのか、ヘイトスピーチなのか、それとも単なる冗談なのかを理解できるようになりました。完全に解決された問題ではありませんが、明らかに進歩が見られます。

WK:ディープフェイクについてはどうですか?

JP：私たちはこれを非常に真剣に受け止めています。実際に、ディープフェイク動画を制作し、ディープフェイク検出技術をテストしてもらえるようにしました。これは非常に重要な課題であり、積極的に取り組んでいます。現時点ではプラットフォーム上ではそれほど重要ではありませんが、非常に大きな力を持つ可能性があると認識しています。私たちは常に先手を打つよう努めており、業界やコミュニティと連携しています。

WK： AIについてもっと一般的な話をしましょう。DeepMindやOpenAIといった企業は、「汎用人工知能」の開発を目指していると主張しています。Facebookもまさにそれを目指しているのでしょうか？

JP：私たちの研究室の目標は、人間の知能に匹敵することです。まだその実現には程遠いですが、素晴らしい目標だと考えています。しかし、ヤンを含め、研究室の多くの人は「AGI」という概念はあまり面白くなく、あまり意味がないと考えているようです。

AGIは人間の知能だと思い込んでいる人もいます。しかし、それは少し不誠実だと思います。人間の知能を本当に考えると、それほど普遍的なものではないからです。また、AGIにシンギュラリティ（特異点）の考え方を投影する人もいます。AGIがあれば、自らを進化させ、進化し続ける知能が得られる、と。しかし、それを裏付ける真のモデルは存在しません。人間は自らの知能を高めることはできないのです。人々は、ある目的を追求するために、それを都合よく持ち出しているだけだと思います。

WK： FacebookのAIラボは、ディープラーニングのパイオニアの一人であり、この分野での功績により最近チューリング賞を受賞したルカン氏によって設立されました。ディープラーニングは真の知能をもたらさないと主張する、ディープラーニングへの批判について、あなたはどうお考えですか？

JP：正直に言えば、ディープラーニングと現在のAIには多くの限界があります。人間の知能には程遠く、正当な批判もいくつかあります。人間のバイアスが蔓延する可能性がある、説明が難しい、常識がない、堅牢な意味理解というよりはパターンマッチングのレベルにとどまっている、といった批判です。しかし、これらの問題のいくつかに対処するための進歩は見られており、この分野は依然として急速に進歩しています。ディープラーニングは数学やタンパク質の理解にも応用でき、様々な用途に活用できます。

WK： AIの専門家の中には、「再現性の危機」、つまり画期的な研究を再現することが難しいという問題に言及する人もいます。これは大きな問題だとお考えですか？

JP: FacebookのAIはまさにこの分野に情熱を注いでいます。再現不可能なことを人間が行うと、多くの課題が生じます。再現できなければ、多大な投資が無駄になります。

再現性は、この分野に大きな価値をもたらすと私たちは考えています。結果の検証に役立つだけでなく、より多くの人が何が起こっているかを理解し、それに基づいて研究を進めることを可能にします。AIの優れた点は、究極的にはコンピューターによって実行されるシステムであるということです。そのため、科学の分野として、AIは再現性を持つことが最も重要視される分野です。AIの未来は、ほぼデフォルトで再現可能なものになると考えています。私たちは、AI分野で作成するコードのほとんどをオープンソース化するよう努めています。そうすることで、他の人々がその上に構築できるようになります。

WK： OpenAIは最近、高度なAIに必要な計算能力が3ヶ月半ごとに倍増していると指摘しました。これについて懸念はありますか？

JP:とても良い質問ですね。ディープラーニングはスケールすると、動作が改善され、より広範なタスクをより効率的に解決できるようになる傾向があります。つまり、スケールアップにはメリットがあるということです。しかし、その進歩の速度は明らかに持続可能ではありません。トップレベルの実験を見てみると、毎年コストが10倍に増加しています。今のところ、1回の実験のコストは7桁かもしれませんが、9桁や10桁になることはまずありません。それは不可能ですし、誰もそんな余裕はありません。

つまり、私たちはいずれ壁にぶつかるということです。多くの点で、すでに壁にぶつかっています。すべての分野がスケーリングの限界に達しているわけではありませんが、ほとんどの分野で、最適​​化、費用対効果の観点から真剣に考え、利用可能なコンピューティング能力を最大限に活用する方法を真剣に検討する必要がある段階に達しつつあります。これが、私たちがこれから向かう世界なのです。

WK： IBMでWatsonを使ってAIを商業化したことで、何を学びましたか？Facebookでは、何を模倣しようとし、何を避けようとしましたか？

JP: Watsonは本当に楽しかったですね。IBMは、これは商用市場であり、実際にアプリケーションが存在すると強調しました。これは本当に素晴らしいことだと思います。ただ、少し誇大宣伝が行き過ぎた感がありました。IBMにとってあまり良い結果にはならなかったと思います。

Facebookのような組織では、組織内でのAIの利用率は驚異的です。Facebook社内でAIを利用する開発者の数は、現在毎年倍増以上しています。ですから、AIの有用性を説明することは必要ですが、過大評価は避けるべきです。AIでできないことができると主張しても意味がありません。私自身も、チームの存在意義を証明するためにAIを過大評価する必要はありません。

WK: Facebook は、M のように AI 研究を商業的に成功させることに苦労することがあります。研究とエンジニアリングをより効果的に結び付けるために、どのような取り組みを行っていますか?

JP：技術移転について語り始めるということは、すでに戦いに負けていることを意味します。ただ研究を選んで、他の人にそれを製品化するよう頼むことはできません。ただ単にフェンス越しに放り投げるわけにはいきません。技術移転を実現する最善の方法は、基礎研究を行う人々と、製品により近い人々と協力させることです。これは組織的な課題です。科学者が一方にいて、彼らが研究をフェンス越しに放り投げるような境界線を設けるのではなく、時間をかけて成熟し、人々を巻き込む一連のプロジェクトを確実に構築することです。

WK:では、近い将来、Facebook からはどのような新しい AI 製品が期待できるのでしょうか?

JP: FacebookにおけるAIの現在の2つの主要な用途は、プラットフォームをユーザーにとってより安全なものにすることと、ユーザーにとって価値のある情報を提供することです。しかし、私たちが取り組んでいる最もエキサイティングな取り組みは、AIによってのみ実現可能な新しい体験の創造です。拡張現実（AR）と仮想現実（VR）はどちらもAIがあってこそ実現できます。最近では、手を使ってVRを操作できるようになりましたが、これはヘッドセットの周囲にあるものを非常に繊細に理解することを必要とします。VRはカメラ1台だけでシーン全体を解析し、手をコントローラーとして使えるようにします。また、人々の創造性を高めることにも大きな可能性があると考えています。TikTokのような競合サービスにもその兆候が見られます。多くの人が、専門家や動画編集者、アーティストになるのではなく、メディアと自然にインタラクションすることで動画やコンテンツを作成しています。

WK:ディープフェイクの技術は、そのような創造的な目的に利用できるのでしょうか?

JP:まさにその通りです。私たちは両方の側面を認識する必要があります。人々の創造性を高め、力を与える可能性は大いにあります。しかし、ここ数年で学んだように、テクノロジーは責任を持って使用し、予期せぬ結果が起こる前にそれを認識する必要があります。

WK： AI輸出規制についてどうお考えですか？技術は制限される可能性がありますか？そうなれば、AI分野に悪影響が出るでしょうか？

JP:私の個人的な意見としては、これは非常に非現実的に思えます。しかし、それ以上に、研究の進歩に悪影響を与え、再現性を高めるどころか、むしろ低下させる可能性があります。AIの進歩を推進するには、オープン性と協働が重要であり、基礎研究の成果の公開やオープンソース化を制限することは、この分野の進歩を遅らせるリスクがあると考えています。

とはいえ、そのような管理が実施されるかどうかにかかわらず、責任ある研究者として私たちは、AI を進歩させる私たちの研究が可能な限りオープンで再現可能であることを保証しながら、潜在的な誤用のリスクと、それらを軽減するために私たちがどのように貢献できるかを引き続き検討する必要があります。

WIREDのその他の素晴らしい記事

• アマゾンに挑戦した移民たち
• 素晴らしいメモアプリで考えを書き留めましょう
• エイリアンハンターは静かにするために月の裏側を必要としている
• 銀行の未来は…あなたは破産している
• 競走馬の安全を守るために最適化されたダート
• 👁 より安全にデータを保護する方法と、AIに関する最新ニュース
• 💻 Gearチームのお気に入りのノートパソコン、キーボード、タイピングの代替品、ノイズキャンセリングヘッドホンで仕事の効率をアップさせましょう