フェイフェイ・リーが人工知能を人類にとってより良いものにする方法

昨年6月のある暖かい夜、午前1時頃、フェイフェイ・リーはワシントンD.C.のホテルの部屋でパジャマ姿で座り、数時間後に行うスピーチの練習をしていた。就寝前に、限られた時間で最も重要なポイントをしっかりと伝えられるよう、メモから1段落を丸々カットした。目が覚めると、身長163cmの人工知能の専門家である彼女は、いつものTシャツとジーンズという制服から一転、ブーツと黒と紺のニットドレスを身につけた。そして、Uberに乗って、米国議会議事堂のすぐ南にあるレイバーン・ハウス・オフィスビルへと向かった。

米国下院科学宇宙技術委員会の議場に入る前に、彼女は携帯電話を掲げて巨大な木製の扉の写真を撮った。（「科学者として、この委員会には特別な思いがあります」と彼女は言った。）それから、彼女は巨大な部屋に入り、証言台へと歩み寄った。

その日の午前中に行われた「人工知能 ― 大いなる力には大いなる責任が伴う」と題された公聴会には、米国会計検査院（GAO）の主任科学者ティモシー・パーソンズ氏と、非営利団体OpenAIの共同創設者兼最高技術責任者（CTO）グレッグ・ブロックマン氏が出席した。しかし、AI分野における画期的な業績を主張できるのは、この公聴会に出席した唯一の女性、リー氏だけだった。コンピューターが画像を認識するのに役立つデータベース「ImageNet」を構築した研究者である彼女は、AIの近年の目覚ましい進歩を担う、ごく少数の科学者グループ――おそらくキッチンテーブルを囲めるほどの規模――の一人である。

その年の6月、リー氏はGoogle CloudのチーフAIサイエンティストを務めており、スタンフォード大学人工知能研究所の所長を休職していた。しかし、彼女は女性や有色人種を人工知能開発者として採用することに注力する非営利団体の共同設立者でもあったため、委員会に出席した。

その日、議員たちが彼女の専門知識を求めたのも当然のことでした。驚くべきは、彼女の講演の内容でした。彼女が愛する分野がもたらす深刻な危険性についてです。

発明からその影響が出るまでの時間は、短い場合があります。ImageNetのような人工知能ツールの助けを借りれば、コンピューターは特定のタスクを学習し、人間よりもはるかに速く行動するように訓練することができます。この技術がより洗練されるにつれ、データのフィルタリング、分類、分析、そして世界的および社会的に重要な意思決定を担うようになっています。これらのツールは、何らかの形で60年以上前から存在していましたが、ここ10年で、人々の人生の軌跡を変えるようなタスクに活用されるようになりました。今日、人工知能は、病気の人にどのような治療法を用いるか、誰が生命保険に加入できるか、どれくらいの刑期を務めるか、どの求職者が面接を受けるかを決定するのに役立っています。

もちろん、こうした力は危険をはらむ可能性がある。Amazonは、「女性」という言葉を含む履歴書をペナルティの対象とするように学習したAI採用ソフトウェアを廃止せざるを得なかった。また、Googleが2015年に写真付き身分証明書の認証ソフトウェアで黒人をゴリラと誤認した大失態や、MicrosoftのAI搭載ソーシャルチャットボットが人種差別的なツイートをし始めた事件も忘れてはならないだろう。しかし、これらは説明がつき、ひいては覆すことができる問題だ。リー氏は、ごく近い将来、軌道修正が不可能になる瞬間が訪れると考えている。それは、この技術があまりにも急速に、そして広範囲に普及しているからだ。

リー氏はその朝、レイバーンビルで証言していた。自身の分野の再調整が必要だと強く主張していたからだ。著名で影響力を持つ、そしてほとんどが男性のテクノロジーリーダーたちは、人工知能（AI）主導のテクノロジーが人類にとって実存的な脅威となる未来について警告してきた。しかし、リー氏はこうした懸念が過度に重視されていると考えている。彼女は、それほど大げさではないがより重大な問題、つまりAIが人々の働き方や生活様式にどのような影響を与えるかという問題に焦点を当てている。AIは人間の経験を必ず変えてしまうだろうが、必ずしも良い方向へは向かわないだろう。「時間はある」とリー氏は言う。「しかし、今行動を起こさなければならない」。AIの設計方法、そして誰が設計するかを根本的に変えれば、AIは良い方向へ変革をもたらす力になるとリー氏は主張する。そうでなければ、私たちは多くの人間性をこの方程式から取り残してしまうことになる。

公聴会で最後に発言したのはリーだった。夜遅くまで練習していた頃の緊張感は微塵も感じさせず、彼女は話し始めた。「AIに人工的なものは何もありません」。声に勢いがついた。「AIは人間にインスピレーションを受け、人間によって作られ、そして何よりも、人間に影響を与えるのです。AIは私たちが理解し始めたばかりの強力なツールであり、それは私たちの重大な責任です」。周りの人々の顔が明るくなった。出席管理の女性は「ええ、そうですね」と、はっきりと同意した。

画像には車両、自動車、交通機関、自動車、スポーツカー、帽子、衣類、アパレル、タイヤが含まれている場合があります

フェイフェイ・リーは、中国南部の工業都市、成都で育った。彼女は孤独で聡明な子供で、読書家でもあった。彼女の家族はいつも少し変わっていた。ペットを大切にしない文化の中で、彼女の父親は彼女に子犬を買ってきてくれた。知識階級の出身である彼女の母親は、彼女に『ジェーン・エア』を読むように勧めた（「ブロンテの中ではエミリーが一番好きです。『嵐が丘』も好きです」とリーは言う）。リーが12歳のとき、彼女の父親はニュージャージー州パーシッパニーに移住し、彼女と母親は数年間父親に会わなかった。彼らが父親のもとに合流したのは、彼女が16歳のときだった。アメリカに来て2日目に、リーの父親は彼女をガソリンスタンドに連れて行き、整備士に車を修理するように伝えるように頼んだ。彼女はほとんど英語が話せなかったが、ジェスチャーで問題を説明する方法を理解した。2年のうちに、リーは翻訳者、通訳者として、また、基本的な英語しか知らなかった両親の代弁者として役立つほどに英語を習得した。「私は両親の言いなりにならなければなりませんでした」と彼女は言う。

彼女は学校の成績も非常に優秀だった。ガレージセールを物色するのが好きだった父親が関数電卓を見つけてくれた。彼女はそれを数学の授業で使っていたが、計算ミスを見た教師がファンクションキーが壊れていることに気づいた。リーは高校時代の数学教師ボブ・サベラ氏に、学業と新しいアメリカ人としてのアイデンティティを切り開いていく上で助けてもらったと感謝している。パーシッパニー高校には上級微積分学の授業がなかったため、サベラ氏は特別に授業を作り、昼休みにリーに教えた。サベラ氏と妻はリーを家族の一員として迎え入れ、ディズニー旅行に連れて行ったり、両親が経営するドライクリーニング店を立ち上げるために2万ドルを貸したりした。1995年、彼女はプリンストン大学で学ぶための奨学金を獲得した。在学中は、ほぼ毎週末帰省して家業を手伝った。

大学時代、リーの興味は多岐にわたりました。物理学を専攻し、コンピュータサイエンスと工学を学びました。2000年には、カリフォルニア工科大学パサデナ校で博士課程を開始し、神経科学とコンピュータサイエンスの交差点で研究を行いました。

一見異なる分野の間につながりを見出し、育む能力こそが、Li 氏が ImageNet を考案するきっかけとなった。当時、コンピュータービジョン分野の同僚たちは、コンピューターが画像を認識、デコードするためのモデルの開発に取り組んでいたが、それらのモデルは適用範囲が限られていた。つまり、研究者は犬を識別するアルゴリズムと猫を識別するアルゴリズムを別々に作成するといった具合だ。Li 氏は、問題はモデルではなくデータにあるのではないかと考え始めた。子供が幼少期に無数の物体や風景を観察することで視覚の世界を体験し、ものを見ることを学んでいくのであれば、コンピューターも同じように、多種多様な画像とその関係性を分析することで学習できるのではないかと考えたのだ。この気づきは Li 氏にとって大きなものだった。「これは、世界の視覚的概念全体を体系化する手段だったのです」と Li 氏は語る。

しかし、あらゆる物体のありとあらゆる写真を一つの巨大なデータベースにタグ付けするという途方もない作業を行うことが合理的であることを、同僚たちに納得させるのは難しかった。さらに、リーは、このアイデアが成功するには、一般的な（「哺乳類」）から非常に具体的な（「ホシハジロモグラ」）まで、幅広いラベルが必要だと考えていた。2007年にプリンストン大学に戻り、助教授に就任したリーがImageNetのアイデアを語ったとき、教員の協力を得るのに苦労した。ようやく、コンピュータアーキテクチャを専門とする教授が協力してくれることになった。

彼女の次の課題は、巨大なものを作ることだった。それは、多くの人が写真にタグを付けるという退屈な作業に多くの時間を費やさなければならないことを意味した。リーはプリンストン大学の学生に時給10ドルを支払おうとしたが、進捗は遅かった。そんなとき、ある学生が彼女にAmazon Mechanical Turkについて聞いたことがあるかと尋ねた。突如、彼女はほんの一部のコストで、多くの労働者を集めることができるようになった。しかし、労働力を少数のプリンストン大学の学生から数万人の目に見えないタークに拡大することは、独自の課題を伴った。リーは労働者が持つであろう偏見を考慮に入れなければならなかった。「オンライン労働者にとって、一番簡単な方法でお金を稼ぐことが目標ですよね？」と彼女は言う。「100枚の画像からパンダを選ぶように頼んだら、なんで全部クリックしてしまうのを止めるものがないですよね？」そこで彼女は、すでに犬であると正しく識別されているゴールデンレトリバーの写真など、特定の画像を埋め込み、追跡し、対照群として機能させた。タークがこれらの画像に適切にラベルを付ければ、彼らは誠実に働いていることになる。

2009年、Li氏のチームは、320万枚という膨大な画像セットが十分に活用できると判断し、データベースと共に論文を発表しました（後に1500万枚にまで拡大しました）。当初、このプロジェクトはあまり注目されませんでした。しかし、チームはあるアイデアを思いつきました。翌年ヨーロッパで開催されるコンピュータービジョンコンテストの主催者に連絡を取り、競技者がImageNetデータベースをアルゴリズムの学習に利用できるように依頼したのです。これがImageNet大規模視覚認識チャレンジ（Large Scale Visual Recognition Challenge）の始まりです。

同じ頃、リーはスタンフォード大学に助教授として着任した。彼女は当時、ロボット工学者のシルヴィオ・サヴァレーゼと結婚していた。しかし、彼はミシガン大学に勤務しており、遠距離であることは大きな負担だった。「シリコンバレーの方が二体問題を解くのが容易だと分かっていました」とリーは語る。（サヴァレーゼは2013年にスタンフォード大学の教授に就任した。）「それに、スタンフォードはAI発祥の地の一つであることも特別なんです」

2012年、トロント大学の研究者ジェフリー・ヒントン氏は、ImageNetコンペティションにエントリーし、データベースを使ってディープニューラルネットワークと呼ばれるAIの一種をトレーニングした。その結果、それまでのどのAIよりもはるかに精度が高く、ヒントン氏は優勝した。リー氏はヒントン氏の受賞式を見に行く予定はなかった。彼女は産休中で、授賞式はイタリアのフィレンツェで行われていたからだ。しかし、彼女は歴史的な出来事が起ころうとしていると感じた。そこで彼女は土壇場で航空券を購入し、夜間飛行で真ん中の席にぎゅうぎゅう詰めになった。ヒントン氏のImageNetを利用したニューラルネットワークがすべてを変えた。コンペティションの最終年である2017年までに、画像内の物体を識別するコンピューターのエラー率は、2012年の15%から3%未満に減少した。少なくともある尺度では、コンピューターは人間よりも視覚的に優れているのだった。

ImageNet はディープラーニングの大きな進歩を可能にしました。これは、自動運転車、顔認識、物体を識別できる（そしてそれが販売されているかどうかを教えてくれる）携帯電話のカメラの最近の進歩の根幹を成しています。

ヒントン氏が受賞して間もなく、リー氏はまだ産休中だったが、同僚に女性がいかに少ないかについて深く考えるようになった。その瞬間、彼女はそれを痛感し、この格差が今後ますます問題になるだろうと悟った。AIアルゴリズムを開発している科学者のほとんどは男性で、それも似たような経歴の男性が多かった。彼らには独特の世界観があり、それが彼らが追求するプロジェクトや、彼らが思い描く危険性にさえも影響を与えていた。AIの開発者の多くはSFに憧れ、『ターミネーター』や『ブレードランナー』のシナリオを思いついた少年だった。そんなことを心配するのは何も悪いことではないとリー氏は思った。だが、そうした考えはAIの潜在的な危険性に対する見方を狭めていた。

ディープラーニングシステムは、リー氏の言葉を借りれば、「バイアスが入り、バイアスがなくなる」システムです。リー氏は、人工知能を駆動するアルゴリズムは中立的に見えるかもしれませんが、それらのアルゴリズムの結果を形作るデータとアプリケーションはそうではないことを認識していました。重要なのは、それを構築する人々と、彼らがなぜそれを構築するのかということです。リー氏はその日、国会議事堂で、多様性のあるエンジニア集団がいなければ、偏ったアルゴリズムが不公平な融資申請の判断を下したり、白人の顔だけでニューラルネットワークを訓練し、黒人の顔にはうまく機能しないモデルを生み出したりする可能性があると指摘しました。「20年後、私たちが目を覚まして、テクノロジー、リーダー、そして実践者たちの多様性の欠如を目の当たりにしたら、それが私にとっての終末シナリオになるでしょう」と彼女は言いました。

リーは、AI開発を人間の経験を支援することに焦点を絞ることが極めて重要だと信じるようになった。スタンフォード大学での彼女のプロジェクトの一つは、院内感染などの問題を減らすため、医学部と提携してAIをICUに導入することだった。手洗い場を監視し、医療従事者が適切な手洗いを忘れた場合に警告を発するカメラシステムの開発も含まれていた。このような学際的な連携は異例だった。「コンピュータサイエンスの分野で私に声をかけてきたのは他に誰もいませんでした」と、スタンフォード大学臨床優秀研究センターを率いる医学教授アーノルド・ミルスタイン氏は語る。

この研究は、リー氏にAIの進化の可能性への希望を与えた。AIは人間のスキルを単に置き換えるのではなく、補完するものとして構築できる可能性がある。エンジニアが他分野の人々（現実世界の人間でさえも！）と協力すれば、例えば買い物体験を自動化しレジ係の仕事をなくすようなAIを開発するのではなく、時間のかかる作業を自動化してICUの看護師が患者と過ごす時間を増やすなど、人間の能力を拡張するツールを開発できるだろう。

AI が猛スピードで発展していることを考慮して、Li 氏はチームができるだけ早くメンバー構成を変更する必要があると判断しました。

画像にはフェイフェイ・リーの人物、家具、テーブル、椅子、机が含まれている可能性があります

リー氏は常に数学に興味を持っていたため、女性や有色人種をコンピューターサイエンスの分野に取り込むには途方もない努力が必要であることを認識しています。全米科学財団によると、2000年にはコンピューターサイエンスの学士号取得者のうち女性の割合は28%でした。2015年にはその数字は18%にまで下がりました。リー氏自身の研究室でさえ、マイノリティである有色人種や女性の採用に苦労しています。典型的なAI研究室よりも歴史的に多様性に富んでいるとはいえ、依然として男性が大部分を占めていると彼女は言います。「研究室に来るパイプラインでさえ、女性、特にマイノリティである人材がまだ十分にいません」と彼女は言います。「学生がAIカンファレンスに行くと、90%が同じ性別の人しか見ません。そして、アフリカ系アメリカ人は白人の少年ほど多く見られません。」

オルガ・ルサコフスキーは、リーが指導教官になった時、この分野をほぼ諦めかけていました。ルサコフスキーは既に優秀なコンピュータ科学者で、スタンフォード大学で数学の学士号とコンピュータサイエンスの修士号を取得していましたが、博士論文の執筆は停滞していました。研究室で唯一の女性だったため、同僚との疎外感を感じていました。リーがスタンフォード大学に着任したことで状況は一変しました。リーはルサコフスキーが研究を成功させるために必要なスキルを習得するのを助けてくれましたが、「同時に、私の自信も高めてくれました」と、現在プリンストン大学でコンピュータサイエンスの助教授を務めるルサコフスキーは言います。

4年前、ルサコフスキーは博士号取得を終えようとしていた頃、少女たちにAIに興味を持ってもらうためのサマーキャンプの企画をリーに手伝ってほしいと頼みました。リーはすぐに賛同し、二人はボランティアを集め、高校2年生を募集する広告を出しました。1ヶ月も経たないうちに、24人の定員に対して200件もの応募がありました。2年後、彼らはプログラムを拡大し、非営利法人AI4Allを設立しました。これは、少女、有色人種、経済的に恵まれない環境にある人々など、マイノリティの若者たちをスタンフォード大学とカリフォルニア大学バークレー校のキャンパスに呼び込むことを目的としています。

AI4Allは、カリフォルニア州オークランドのダウンタウンにあるカポア・センターの小さな共同オフィスから、成長を遂げようとしています。現在、6つの大学キャンパスでキャンプを開催しています（昨年は、新たに開設されたカーネギーメロン大学のキャンプに、20の定員に対して900件の応募がありました）。AI4Allの学生の1人は、コンピュータービジョンを用いた眼疾患の検出に取り組みました。別の学生は、AIを使って911番通報の緊急度をランク付けするプログラムを作成しました。彼女の祖母は、救急車が間に合わず亡くなったのです。これは、個人の視点がAIツールの未来に違いをもたらすことを裏付けていると言えるでしょう。

スタンフォード大学で3年間AIラボを運営した後、リーは2016年にGoogleに入社し、同社のエンタープライズコンピューティング事業であるGoogle CloudのAI担当チーフサイエンティストに就任しました。リーは、業界の仕組みを理解し、新しいツールの導入を切望する顧客との接点を持つことで、自身の学際的な研究領域に変化をもたらすかどうかを探りたいと考えていました。Facebook、Google、Microsoftといった企業は、AI技術を自社のビジネスに活用する方法を模索し、AIに資金を投入していました。そして、企業は大学よりも多くの、そして質の高いデータを保有していることが多いのです。AI研究者にとって、データは燃料なのです。

当初の経験は刺激的なものでした。彼女は自身の研究成果を実社会で活用している企業と面会し、誰でもコードを一行も書かずに機械学習アルゴリズムを作成できる一般向けAIツールの展開を主導しました。中国に新たな研究所を開設し、医療の向上に役立つAIツールの開発に貢献しました。ダボスで開催された世界経済フォーラムで講演を行い、各国首脳やポップスターと交流を深めました。

しかし、民間企業で働くことには、新たな、そして不快なプレッシャーが伴った。昨年春、リー氏は国防総省とのプロジェクト・メイブン契約をめぐり、グーグルが公然と非難を浴びる事態に巻き込まれた。このプログラムは、ドローン攻撃の標的となり得る映像をAIで解析するものだ。グーグルによると、これは「AIを用いた低解像度の物体識別」であり、「人命救助が最大の目的」だったという。しかし、多くの従業員は、自分たちの研究成果が軍用ドローンに利用されることに反対した。約4,000人の従業員が、「グーグルとその請負業者が決して戦争技術を開発しないという明確な方針」を求める嘆願書に署名した。抗議のため、数名の従業員が辞職した。

リー氏はこの取引に直接関与していなかったものの、彼女が勤務していた部署はMavenの管理を担当していた。そして、会社に不祥事の責任を負わせようとしたかのようなメールがニューヨーク・タイムズ紙にリークされたことで、彼女はこの論争の表舞台に立つこととなった。彼女は業界では倫理観を体現する人物として知られていたため、世間的には混乱を招いたようだ。しかし実際には、世論の反発が起こる前は、彼女はこの技術を「かなり無害」だと考えており、従業員の反乱を引き起こす可能性など考えていなかった。

しかし、リー氏はこの問題がなぜ爆発的に広がったのかを認識している。「問題そのものが問題だったわけではありません。重要なのは、今この瞬間、つまり、私たちの責任に対する共通の切迫感、AIの台頭、そしてシリコンバレーが関与すべき対話です。Mavenは、そうした状況が収束する場になったのです」と彼女は言う。「邪悪になるな」という姿勢だけでは、もはや十分な力にはならなかったのだ。

GoogleがMavenとの契約を更新しないと発表したことで、論争は沈静化した。リー氏を含むGoogleの科学者や幹部のグループは、GoogleのAI研究を社会貢献を目的とした技術に集中させ、ツールにバイアスを組み込まず、人々に害を及ぼす可能性のある技術を回避することを約束する（公開）ガイドラインも作成した。リー氏はスタンフォード大学に戻る準備をしていたが、ガイドラインを最後までやり遂げることが不可欠だと感じていた。「すべての組織が一連の原則と責任ある審査プロセスを持つ必要があることを認識することが重要だと思います。ベンジャミン・フランクリンが憲法が制定された時、完璧ではないかもしれないが、今のところはこれが最善だと言ったのを覚えています」と彼女は言う。「人々は依然として意見を持ち、異なる立場が対話を続けることができます。」しかし、ガイドラインが公開された日は、彼女にとって1年で最も幸せな日の一つだったと彼女は言う。「個人的に、関わり、貢献することがとても重要でした。」

6月、私はスタンフォード大学のキャンパス内の袋小路にある質素なスプリットレベルの自宅、リーを訪ねた。夜の8時過ぎ、私たちが話している間、彼女の夫は2階で幼い息子と娘を寝かしつけていた。両親は下の階の義理の両親用の部屋に泊まっていて、私たちはリビングルームに座った。棚には壊れた1930年代の電話が置いてあり、あらゆる場所に家族写真が飾られていた。「移民の両親ね！」と尋ねると、彼女は言った。彼女の父親は今でもガレージセールに行くのが好きらしい。

話している間、リーの携帯にテキストメッセージが鳴り始めた。両親が、母親の薬に関する医師の指示を翻訳してほしいと頼んでいたのだ。リーがグーグルプレックスで会議中であろうと、世界経済フォーラムで講演中であろうと、議会公聴会前のグリーンルームにいようと、両親はすぐに助けを求めてテキストメッセージを送ってくる。彼女は考えを中断することなく返信する。

リーは人生の大半において、一見相反する二つのことに同時に焦点を合わせてきました。彼女は芸術について深く考えてきた科学者であり、中国系アメリカ人でもあります。そして、人間と同じくらいロボットにも強い関心を抱いています。

7月下旬、リーは家族旅行の準備をしながら娘の手洗いを手伝っている最中に電話をかけてきた。「シャノン・ヴァラーの発表を見ましたか？」と彼女は尋ねた。ヴァラーはサンタクララ大学の哲学者で、新興科学技術の哲学と倫理を研究しており、Google Cloudのコンサルティング倫理学者として働く契約を結んだばかりだった。リーはこの人事を強く訴え、ワシントンでの証言でもヴァラーの言葉を引用して「機械に独立した価値はありません。機械の価値は人間の価値なのです」と述べていた。この人事に前例がないわけではない。他の企業も、自社のAIソフトウェアの使用方法や使用者についてガードレールを設け始めている。マイクロソフトは2016年に社内倫理委員会を設立した。同社は、委員会から提起された倫理上の懸念により、潜在的な顧客との取引を断ったと述べている。また、顔認識の一部アプリケーションを禁止するなど、AI技術の使用方法にも制限を設け始めている。

しかし、企業内部から倫理について発言するということは、ある意味では、鶏小屋の番はできても、実際にはキツネであることを認めることになる。7月に話をした時点で、リーはすでにGoogleを去ることを決意していた。2年間の長期休暇が終わりに近づいていたのだ。Project Mavenの失態の後、彼女の辞任については様々な憶測が飛び交っていた。しかし、スタンフォード大学に戻った理由は、学術的地位を失いたくなかったからだ、と彼女は言った。彼女は疲れているようにも聞こえた。Googleでの激動の夏を過ごした後、自分が策定に関わった倫理ガイドラインは「トンネルの出口の光」だったと彼女は言う。

そして、彼女はスタンフォード大学で新たなプロジェクトを始めることに熱心だった。今秋、彼女とスタンフォード大学の前学長ジョン・エチェメンディは、AIと人間性を融合させ、ハードサイエンス、デザイン研究、そして学際研究を融合させる学術センターの設立を発表した。「新しい科学であるAIは、これまで人文科学者や社会科学者を巻き込む分野横断的な取り組みがありませんでした」と彼女は言う。こうしたスキルセットは長らくAI分野にとって重要ではないと考えられてきたが、リーはそれがAIの未来にとって鍵となると断言する。

李氏は根っからの楽観主義者だ。6月の公聴会で、彼女は議員たちにこう語った。「消火活動から捜索救助、自然災害の復旧まで、現在、人間にとって危険で有害な仕事について深く考えます」。彼女は、可能な限り人々を危険にさらすことを避けるだけでなく、まさにこうした仕事こそがテクノロジーが大きな助けとなることが多いと考えている。

もちろん、たとえ著名な機関であっても、一つのプログラムが一つの分野全体に大きな変化をもたらすには限界がある。しかし、リー氏は、多様な背景を持つ研究者たちが、利益よりも理念を重んじ、倫理学者のように考えることができるよう、できる限りのことをしなければならないと強く主張する。

電話でリー氏に、AIを別の方法で開発すれば、おそらくこれまで見てきたような問題も発生しなかったかもしれない、と尋ねた。「想像するのは難しいと思います」と彼女は答えた。「科学の進歩と革新は、何世代にもわたる退屈な作業と試行錯誤の積み重ねによってもたらされるものです。私たちがそうした偏見に気づくまでには時間がかかりました。私が『ああ、私たちは危機に瀕している』と気づいたのは、つい6年前のことでした」

キャピトル・ヒルで、リー氏は次のように述べた。「科学者として、AIという科学がいかに初期段階にあるかに、私は恐縮しています。AIは誕生してまだ60年しか経っていない科学です。物理学、化学、生物学といった、人々の生活を日々より良くしている古典科学と比べると、AIが人々を助ける可能性を実現するには、まだまだ長い道のりがあります。」さらに、「適切な指導があれば、AIは生活をより良くするでしょう。しかし、適切な指導がなければ、この技術は富の格差をさらに拡大し、テクノロジーをさらに排他的なものにし、私たちが何世代にもわたって克服しようとしてきた偏見を強めてしまうでしょう。」リー氏は、今こそ発明とその影響力の間にある時だと私たちに信じさせようとしている。

ヘア＆メイク：エイミー・ローソン（メイクアップ・フォーエバー）

ジェシ・ヘンペルは、 第26.05号でUber CEOの ダラ・コスロシャヒ について執筆しました。グレゴリー・バーバーが追加レポートしました。

この記事は12月号に掲載されます。 今すぐ購読をお願いします。

この記事とその他のWIREDの特集は、 Audmアプリで聞けます。

この記事についてのご意見をお聞かせください。 [email protected]までお手紙をお送りください。

WIREDのその他の素晴らしい記事