多くのトップAI研究者は大手IT企業から資金援助を受けている

人工知能を研究する大学院生のモハメド・アブダラは、おそらく高給取りの業界職に就くこともできただろう。しかし彼は、巨大IT企業の巨額の資金が、自身の分野に対する見方を歪めている可能性に目を向けたいと考えている。

トロント大学で博士号取得を目指すアブダラ氏は、AIがもたらす倫理的問題を研究する研究者を含む、トップクラスのAI研究者の多くがテクノロジー企業から資金提供を受けていることを浮き彫りにした論文を共同執筆した。企業AIシステムがアルゴリズムの偏り、軍事利用、顔認識プログラムの公平性や精度に関する疑問といった倫理的問題を引き起こす場合、特に問題になり得ると彼は指摘する。

アブダラ氏は、資金源を開示している4つの著名な大学で、終身在職権を持つAI教員の半数以上が大手IT企業から何らかの形で支援を受けていることを発見した。アブダラ氏は、これらの教員が非倫理的な行動をとっているとは考えていないものの、資金提供によって研究にバイアスがかかっている可能性があると指摘する。たとえ無意識であってもだ。彼は、大学に対し、潜在的な利益相反への意識を高めるための規則を導入することを提案している。

もちろん、産業界による学術研究への資金提供は目新しいものではありません。企業と大学間の資金、アイデア、そして人材の流れは、活気に満ちたイノベーション・エコシステムの一部です。しかし、大手テクノロジー企業は今やかつてないほどの力を持ち、最先端のAIアルゴリズムがビジネスにとって重要であることから、優秀な人材を求めて学術界に目を向けるようになりました。

AIの専門知識を持つ学生はテクノロジー企業で高額な給与を得られるだけでなく、企業は助成金やフェローシップといった形で重要な研究や若手研究者を支援しています。多くのトップクラスのAI教授陣がテクノロジー企業に誘い出されたり、パートタイムで働いたりしています。大企業は資金に加え、ほとんどの大学では提供できない計算資源やデータセットを提供することができます。

記事画像

超スマートなアルゴリズムがすべての仕事をこなせるわけではありませんが、これまで以上に速く学習し、医療診断から広告の提供まであらゆることを行っています。

ロチェスター大学と中国の長江商学院の研究者らが7月に発表した論文によると、グーグル、ディープマインド、アマゾン、マイクロソフトは2004年から2018年の間に52人の終身在職権を持つ教授を採用した。この「頭脳流出」は、AI企業を立ち上げる学生の数の減少と一致していると結論づけている。

巨大テック企業の影響力と影響力が拡大するにつれ、アブダラ氏はそれがより微妙な形で自身の分野にどのような影響を与えているのか疑問に思うようになった。

アブダラ氏は、同じく大学院生である弟とともに、スタンフォード大学、MIT、カリフォルニア大学バークレー校、トロント大学のAI研究者のうち、キャリアを通じて大手IT企業から資金提供を受けてきた人数を調べた。

アブダラ研究員らは、4校でAI研究に携わるコンピュータサイエンスの教員135人の履歴書を調べ、研究者が1社以上のテクノロジー企業から資金提供を受けていた兆候がないか調べた。そのうち52人については、判断できなかった。残りの83人のうち、48人（58％）が、アルファベット、アマゾン、フェイスブック、マイクロソフト、アップル、エヌビディア、インテル、IBM、ファーウェイ、サムスン、ウーバー、アリババ、エレメントAI、オープンAIの14の大手テクノロジー企業のいずれかから助成金やフェローシップなどの資金提供を受けていたことがわかった。AI倫理に取り組んでいる少数の教員についても、58％が大手テクノロジー企業から資金提供を受けていたことがわかった。兼任、インターンシップ、長期休暇など、資金源を含めると、33人中32人（97％）がテクノロジー企業と金銭的なつながりがあった。「大手テクノロジー企業と何らかのつながりを持たない人はほとんどいない」とアブダラ氏は言う。

アドバラ氏は、産業界からの資金提供は必ずしも妥協を意味するものではないとしながらも、研究者が特定のプロジェクトに取り組む意欲を削いだり、テクノロジー企業が提案する解決策に同意するよう促したりするなど、ある程度の影響を与える可能性を懸念している。アブダラス氏の論文は、AI研究への大手テクノロジー企業の資金提供と、1950年代にタバコ会社が喫煙の健康影響に関する研究に資金を提供した方法との類似点を指摘し、挑発的な論調を呈している。

「研究者の大多数は気づいていないと思います」と彼は言う。「彼らはどちらかの議題を積極的に推進しようとはしていないのです。」

AI分野の研究者の中には、産業界の資金の影響力に懸念を抱く者もいる。今年最大のAI研究者の集まりでは、「AIにおける抵抗」と題された新たなワークショップが開催され、AIが「いかにして政府や企業の手に権力を集中させ、疎外されたコミュニティから権力を奪ってきたか」を検証する。

しかし、業界とのつながりは広範囲に及んでおり、AIの倫理的利用を検討する団体にはしばしば見られる。例えば、AIの社会への影響を検討する著名なイベントである「公平性、説明責任、透明性に関する会議」の共同議長3人のうち2人は、アルファベット傘下の企業に勤務している。

非営利団体「人権データ分析グループ」の統計学者で、会議の実行委員会メンバーでもあるクリスチャン・ラム氏は、この会議は他のイベントと同様に企業からのスポンサーシップを受けていると述べている。しかし、会議のポリシーではスポンサーは内容や講演者をコントロールできないと規定されているという。ラム氏によると、会議関係者は利益相反の可能性について慎重に開示しているという。

「大手テック企業は確かに大きな力を持っています」と、財団からの資金援助を受けているラム氏は言う。「人々がそのことにますます気づき始めていると思います」

この問題はもっと複雑だと主張する人もいる。

ニューヨーク大学の研究科学者であるメレディス・ウィテカー氏は、以前Google社で同社と学術研究を結びつけるプロジェクトに携わっていました。また、2018年には、性的不正行為と監視に関する同社の方針に反対する社内抗議活動を主導しました。

「みんな、誰が自分に給料を払っているか知っています」と彼女は言う。しかし、企業から資金提供を受けている人が大手IT企業に批判的になれないと考えるのは不公平だと彼女は言う。彼女によると、IT企業で働く研究者の中には、雇用主の技術に批判的な人も多いという。そして、企業内での反発は、彼らの権力を抑制するのに役立つ可能性があると彼女は言う。「この技術の地位がますます明らかになるにつれて、労働者の組織化や反対運動はますます増加しています」と彼女は言う。

Googleの広報担当者は、同社のポリシーでは職員が学術研究に影響を与えようとすることを禁じていると述べています。「Googleと学術研究機関との連携は、いかなる形であれ政策的な影響によって推進されているわけではありません」と広報担当者は述べています。「私たちは学術研究を強く支持しています。なぜなら、学術研究を通して、私たちと同じ課題の解決を目指す学者と協力できるからです。」

カリフォルニア大学バークレー校のベン・レヒト教授は以前、研究者が大学と企業の両方で同時に働くという考えを批判したことがある。しかし、企業によるAIへの資金提供が本質的に悪いと捉えられるべきではないと考えている。「企業が倫理的な技術を追求するのは良いことだという資本主義的な主張は成り立つ」と彼は言う。「多くの企業がまさにそれを実現しようと努力していると思う」

レヒト氏はまた、産業界からの資金提供がなくても、研究者は倫理的に問題のある研究を生み出す可能性があると指摘する。例えば、顔認識を支えるアルゴリズムや、ソーシャルメディアプラットフォームをエコーチェンバーや誤情報の発信源に変えてしまうようなアルゴリズムなどだ。また、軍を含む政府機関から流入する資金も研究の方向性に影響を与える可能性があると指摘する。

一方、アブダラ氏は、巨大テック企業と学術界のつながりに注目が集まることで、就職の見通しに影響が出るのではないかと懸念している。教授陣は資金獲得に貢献することが期待されることが多いからだ。「この件については、押し付けないようにと言われました」と彼は言う。

WIREDのその他の素晴らしい記事