著名なAI倫理研究者がGoogleに解雇されたと語る

先月、Googleの人工知能研究者ティムニット・ゲブル氏は、上級管理職から衝撃的な知らせを受けた。社内調査で内容に問題があると判断されたため、共同執筆した研究論文を撤回するか、論文から彼女の名前を削除するよう指示されたという。

この論文は、言語を扱うAI技術の近年の進歩がもたらす倫理的問題について議論しており、グーグルはこれを自社の将来にとって重要だと述べている。ゲブル氏は、このプロセスが学術的ではないため異議を唱えたと述べている。水曜日に彼女は解雇されたと発表。グーグルの広報担当者は、彼女は解雇されたのではなく辞職したと述べ、それ以上のコメントを控えた。

ゲブル氏が水曜夜にこの件についてツイートしたことを受け、グーグル社内のみならず、一流大学やマイクロソフト、チップメーカーのエヌビディアといった企業を含むAI研究者から、惜しみない支持が寄せられた。多くの人が、グーグルは重要なAI分野における同社の評判を傷つけたと批判した。サンダー・ピチャイCEOは、この分野こそが同社の事業の基盤だと述べている。木曜日遅くには、200人以上のグーグル社員が公開書簡に署名し、ゲブル氏の論文の取り扱いに関する詳細を公表し、「研究の公正性と学問の自由」を確約するよう求めた。

この論争は、AI開発が人間と倫理に及ぼす影響と、多くの先進的なAI研究が、その技術の利益追求を動機とする企業によって資金提供されているという事実との間の緊張関係を浮き彫りにしています。ゲブル氏は、AI技術の倫理的・社会的影響を検討するという、近年のAI研究における動きのスーパースターです。彼女は、GoogleのAI研究グループ内で倫理研究に専念するコンピューター科学者と社会科学者からなる小規模チームの結成とリーダーを務めました。

ゲブル氏は、GoogleにおけるAI倫理研究の将来と、その研究に携わる人々の将来を懸念し、自身の研究論文の扱いに異議を唱えたと述べている。「会社を常に満足させ、問題点を指摘しない論文などあり得ません」と彼女は言う。「それは、そうした研究者であることの本質とは正反対です」

黒人女性のゲブル氏は、グーグル社内で従業員の多様性の欠如やマイノリティ従業員の待遇について声を上げてきたことが、解雇の一因になったのではないかと疑っている。グーグルの従業員は近年、女性やマイノリティへの待遇、そしてAI技術に対する倫理的姿勢をめぐり、抗議活動やストライキを繰り返している。

ゲブル氏が突然グーグルの元社員になったというニュースは、全米労働関係委員会（NLRB）が昨年、グーグルが労働組合活動に関わっていた2人の従業員を不当に解雇したと発表したのと同じ日に報じられた。そのうちの1人は水曜日にゲブル氏を支持するツイートを投稿し、NLRBが「ティムニット氏に何が起こっているのかをもっと早く認める」ことを期待した。

2018年にGoogleに入社する以前、ゲブル氏はMITの研究者ジョイ・ブオラムウィニ氏と共に「ジェンダー・シェード」と呼ばれるプロジェクトに携わり、IBMとMicrosoftの顔認識技術が白人男性に対しては非常に高い精度を示す一方で、黒人女性に対しては非常に不正確であることを明らかにし、米国の議員や技術者が顔認識技術の精度を様々な人口統計データで検証するきっかけを作りました。また、Microsoft、IBM、Amazonが今年中にこの技術の販売を停止すると発表したことに貢献しました。ゲブル氏はまた、AI分野に貢献する研究者の多様性を高めることを目的とした、影響力のあるカンファレンス「Black in AI」の共同設立者でもあります。

ゲブル氏の辞任は、彼女がグーグル内外の研究者らと共同で、AI言語ソフトウェアの最近の進歩によって生じた倫理的問題を議論する論文を執筆したときに始まった。

記事画像

超スマートなアルゴリズムがすべての仕事をこなせるわけではありませんが、これまで以上に速く学習し、医療診断から広告の提供まであらゆることを行っています。

研究者たちは、膨大な量のオンラインテキストを学習させた巨大な機械学習モデルを作成することで、テキスト生成や質問への回答といった問題において飛躍的な進歩を遂げてきました。Googleは、この技術によって同社の収益性の高い検索エンジンがより強力になったと述べています。しかし、研究者たちは、これらの強力なモデルの作成には膨大な計算リソースが必要となるため、大量の電力を消費することを示し、これらのモデルがオンライン上で見られる性別や人種に関する偏った表現を再現できることを実証しました。

ゲブル氏によると、自身の論文草稿ではこれらの問題について議論し、言語モデルの作成に使用したデータの文書化など、技術の責任ある使用を強く求めていたという。上級管理職が、彼女と他のGoogleの著者に対し、論文から名前を削除するか、論文を完全に撤回するよう強く求めた時、彼女は困惑した。特に、草稿の査読プロセスを知ることができなかったためだ。「まるで検閲されているように感じ、これは倫理的なAI研究全体に影響を及ぼすと思いました」と彼女は語る。

ゲブル氏は、上級管理職を説得して論文の問題点を解決させることはできなかったと述べ、管理職は彼女の名前を削除するよう強く求めたという。火曜日、ゲブル氏はメールで返信し、取引を提案した。何が起こったのかを詳細に説明され、研究チームが経営陣と面談し、今後の研究を公正に扱うためのプロセスについて合意すれば、論文から自分の名前を削除する。そうでなければ、後日会社を退職し、会社との提携関係を持たずに論文を発表する権利を得る、という内容だった。

ゲブル氏は、グーグルのAI研究グループ内のより広範なリストに宛てたメールの中で、管理職による多様性向上の取り組みは効果がなかったと訴えた。彼女は、言語に関する論文をめぐる自身の論争を、グーグルの管理職がいかにして社会的に疎外されたグループの人々を黙らせることができるかの例として挙げた。Platformerは木曜日にこのメールのコピーを公開した。

ゲブル氏によると、水曜日に直属の部下から、彼女がグーグルを退職し、その辞職が受理されたと伝えられたという。そして、企業アカウントが停止されていることを知った。

マネージャーがゲブル氏の個人アドレスに送ったメールには、彼女が「Googleのマネージャーとして期待される行動に反する」メールを送ったため、辞任は即時発効すべきだと書かれていた。ゲブル氏はツイッターでこの件を批判し、ネット上のAI研究者の間で怒りが爆発した。

トランプをする人間とロボットのシルエット

社内外からグーグルを批判する多くの人々は、同社がAI人材の多様性を一気に損なうとともに、その多様性向上の有力な支持者を失ったと指摘した。ゲブル氏は、彼女の処遇は、彼女が多様性について率直に発言してきたことと、グーグルが社会的に疎外されたグループの人々に対して行った扱いが一因になっていると考えている。「私たちは多様性の確保を訴えてきましたが、グーグルリサーチに黒人はほとんどいません。私の見るところでは、リーダーシップ層には全くいません」と彼女は言う。

グーグルの研究責任者ジェフ・ディーン氏は木曜日、ゲブル氏の論文が「当社の出版基準を満たしていない」とし、社内審査に提出したのが会社が求めるよりも遅かったと主張するメールを同社の研究者らに送った。

ディーン氏のメッセージは、問題の論文がGoogle経営陣に過度に否定的に受け止められていることを示唆していた。ディーン氏は、論文は大規模AIモデルの環境への影響については議論しているものの、それらをより効率的にできることを示す研究については触れておらず、偏った表現が懸念材料となっているものの、その緩和策については考慮されていないと述べた。GoogleのAI研究者の中には、Twitterでディーン氏の発言に異議を唱える者もおり、ある研究者はディーン氏が「誤情報と誤解」を拡散していると非難した。別のGoogle研究者は、自身の論文は社内で機密情報の開示のみを審査対象としており、引用文献の内容は審査対象としていないと指摘した。問題の論文はGoogleとは独立した学術会議による査読を受けており、何らかの形で出版される可能性もある。

ディーン氏の介入は、ゲブル氏の主張に同情的な一部のAI研究者の怒りをかき立てた。これは、すべての大手テクノロジー企業が熱心に追い求めている優秀なAI人材を確保し雇用するGoogleの能力に損害を与える可能性がある。

「論文の検閲を脇に置いておいても、研究者をこのように解雇するのは恐ろしいことです」と、ユニバーシティ・カレッジ・ロンドンの名誉准教授で、かつてアルファベット傘下のロンドンAI研究所DeepMindに勤務し、ゲブル氏の窮状についてグーグル内外のAI研究者と話し合ってきたジュリアン・コルネビーズ氏は語る。「信じられない思い、驚き、そして憤りを感じています」

WIREDのその他の素晴らしい記事