大手IT企業によるAI研究への資金提供のダークサイド

先週、グーグルの著名な人工知能（AI）研究者ティムニット・ゲブル氏は、経営陣から研究論文の撤回または削除を求められ、異議を唱えたため解雇されたと述べた。グーグルはゲブル氏が辞任したと主張しており、アルファベットのサンダー・ピチャイCEOは水曜日の社内メモで、この件について調査すると述べた。

この出来事は、テクノロジー企業がそれぞれの分野において持つ影響力と権力を如実に物語っています。AIは、Googleの検索エンジンやAmazonのバーチャルアシスタントAlexaといった収益性の高い製品の基盤となっています。大企業は影響力のある研究論文を次々と発表し、学会に資金を提供し、トップクラスの研究者の採用を競い合い、大規模なAI実験に必要なデータセンターを所有しています。最近の調査によると、資金源を公表している4つの有名大学では、終身在職権を持つ教員の大多数が大手テクノロジー企業からの支援を受けていたことが明らかになりました。

カリフォルニア大学バークレー校の准教授で、グーグルの客員教授を務めた経験を持つベン・レヒト氏は、同僚研究者たちが、企業の関心が科学への愛着から生まれるだけではないことを忘れていることがあると指摘する。「企業の研究は素晴らしいもので、ベル研究所、パロアルト研究所、そしてグーグルからは素晴らしい成果が生まれてきました」とレヒト氏は言う。「しかし、学術研究と企業の研究を同じものだと決めつけるのはおかしなことです」

サンフランシスコ大学応用データ倫理センターの研究員、アリ・アルカティブ氏は、グーグルによるゲブル氏への対応によって生じた疑問は、同社の研究全体を揺るがす恐れがあると指摘する。「彼らが語ることができなかった裏事情が、後になって明らかになるかもしれないので、引用するのは不安です」と彼は言う。

かつてマイクロソフトの研究部門に勤務していたアルカティブ氏は、企業研究には制約がつきものだと理解している。しかし、グーグルが社内外の研究者からの信頼を取り戻すために目に見える変化を起こし、例えばグーグルの研究グループを他の部門から隔離するなど、変化を起こせることを期待している。

ゲブル氏がGoogleを退職するきっかけとなった論文は、言語を扱うAI技術がもたらす倫理的な問題を浮き彫りにした。Googleの研究責任者であるジェフ・ディーン氏は先週の声明で、この論文は「我々の出版基準を満たしていない」と述べた。

ゲブル氏は、経営陣が彼女の研究をグーグルのビジネス上の利益を脅かすものと見なしたか、あるいは同社のAIグループにおける多様性の欠如を批判したことを理由に彼女を解雇する口実と考えた可能性があると述べている。他のグーグル研究者たちは、グーグルが社内の研究審査プロセスを利用して彼女を処罰したようだと公に述べている。多くのAI研究者を含む2,300人以上のグーグル従業員が、研究の取り扱いに関する明確なガイドラインを同社が策定することを求める公開書簡に署名している。

ニューヨーク大学AIナウ研究所のファカルティディレクター、メレディス・ウィテカー氏は、ゲブル氏に起きた出来事は、グーグルのような企業は研究者に独立した学者として自覚を持つよう奨励しているものの、企業は学術的規範よりも利益を優先しているという事実を改めて認識させるものだと述べている。「忘れられがちですが、企業はいつでもあなたの研究を妨害したり、公共の利益のための知識生産というよりも広報活動として機能させるように改変したりする可能性があるのです」と彼女は言う。

ウィテカー氏はグーグルで13年間勤務したが、2019年に退職した。セクハラを理由にストライキを組織したこと、そしてAIに関する倫理的懸念を提起した自身の仕事に悪影響を与えたことで報復されたとしている。彼女は国防総省とのAI関連契約に反対する従業員の抗議活動の組織化を支援したが、同社は最終的にこの契約を破棄した。しかし、同社は他の防衛関連契約を引き継いでいる。

記事画像

超スマートなアルゴリズムがすべての仕事をこなせるわけではありませんが、これまで以上に速く学習し、医療診断から広告の提供まであらゆることを行っています。

2012年頃まで、機械学習は学術界では目立たない分野だったが、その頃からGoogleや他のテクノロジー企業が、コンピューターによる音声や画像の認識能力を大幅に向上させる画期的な技術に強い関心を示すようになった。

検索・広告企業のアップルは、Facebookなどのライバル企業に追随され、一流の学者を雇用・買収し、社内システムの開発作業の合間にも論文を発表し続けるよう促した。従来は口を閉ざしていたアップルでさえ、AI分野の優秀な人材を引きつけるため、研究内容をよりオープンにすることを約束した。企業関係者による論文や企業バッジをつけた参加者が、この分野の主要な発表の場である会議に殺到した。

今週オンラインで開催される世界最大の機械学習カンファレンス「NeurIPS」の参加者は、2012年には2,000人未満だったのに対し、2019年には13,000人を超えた。近年、このカンファレンスは大手テクノロジー企業の採用チームの狩猟場となっており、彼らは豪華なディナーやパーティーで博士号取得者を誘い込んでいる。

7月に発表された調査によると、アルファベット、アマゾン、マイクロソフトは2004年から2018年の間に52人の終身在職権を持つAI教授を採用した。

企業のAI研究は、大手IT企業の広報戦略の定番ともなっている。レヒト氏によると、このことが研究者の間でどの研究が注目されるかを歪め、本来であればそれほど注目に値するとは思えない企業の研究を、著名な学術誌が受け入れてしまう原因になっているという。データベースやグラフィックスといったコンピューティングの他の分野では、企業の影響力をうまくコントロールできていると彼は指摘する。例えば、カンファレンスで産業界と学術界の研究を別々のトラックで扱うなどだ。

以前GoogleでAI関連の広報を担当していたウィリアム・フィッツジェラルド氏は、社内の研究者から新しい研究について相談を受けるのは日常茶飯事だったと語る。「Googleがその研究に光を当てて見せびらかしたいということもある」と彼は言う。「研究者が何かを発表した時に、私が電話で『そんなことはすべきじゃない』と言わなければならないこともありました」

レヒト氏は今週、NeurIPSで共同執筆した論文に対し、ビデオチャットを通じて「Test of Time」賞を受賞した。彼は「企業カンファレンスは相変わらず最悪」と書かれたTシャツを着ていた。

レヒト氏をはじめとする企業の誇大宣伝に警戒感を抱く人々は、産業AI研究が巨大データセンターにアクセスできる人だけが実行可能なプロジェクトへの非科学的な執着につながっていると指摘する。今週NeurIPSで発表された賞の一つは、営利目的の人工知能研究所OpenAIが開発した言語生成モデルGPT-3だった。GPT-3は驚くほど流暢な言語処理能力を備えているが、OpenAIはそれを実現するために、マイクロソフトに専用スーパーコンピュータの構築を依頼した。

アレンAI研究所のポスドク研究員であるジェシー・ダッジ氏は、このプロジェクトは素晴らしいものの、膨大なリソースを必要とするため、大企業以外では再現が不可能であり、学術的価値は限られていると述べています。OpenAIはマイクロソフトと共同でGPT-3を商用化しており、モデルへのアクセスを販売していますが、まだ公開していません。

トランプをする人間とロボットのシルエット

「これは科学の常識を覆すものです。科学では、広く採用され、時間の経過とともに様々な側面から評価されるモデルを公開するのが一般的です」とドッジ氏は言います。彼は、会議主催者に対し、賞をより慎重に活用し、より明確な基準に照らして永続的な科学的利益をもたらす可能性のある研究を強調することを提案しています。

OpenAIは、コンピューティング能力の継続的な進歩は通常、新たなAIの発明が他の人によってすぐに簡単に再現できるようになることを意味すると述べている。

ゲブル氏の予定外の退職につながった論文は、AI開発者に対し、言語処理のための強力なAIシステムの構築においてより慎重になるよう求めていた。これらのシステムは目覚ましい成果を上げている一方で、オンラインで学習したステレオタイプを繰り返す傾向も示している。彼女は、GoogleでAI研究の倫理的影響の調査に取り組む著名なチームの共同リーダーを務めていた。同社は、この研究を、競合他社よりもAIに対してより慎重に取り組んでいる証拠として宣伝していた。

AI Nowのウィテカー氏は、AIの社会的影響を真に調査することは、企業の研究室とは根本的に相容れないと述べている。「AIの力と政治性を検証するこの種の研究は、この技術から利益を得ている企業にとって、本質的に敵対的なものでなければなりません」と彼女は言う。「企業がその研究を乗っ取ろうとした時、このような状況は避けられませんでした。」

ゲブル氏は、金曜日に開催されるNeurIPSワークショップで講演する予定で、企業のAIプロジェクトがもたらす緊張関係について議論する。Resistance AIのウェブサイトでは、AI研究は「権力を政府や企業に集中させ、疎外されたコミュニティから奪ってきた」と指摘している。議題は最近変更され、ゲブル氏は「Ethical AI @Googleの共同リーダー」ではなく「著名な倫理的AI研究者」と記載された。

WIREDのその他の素晴らしい記事