フェイフェイ・リーはアルゴリズムのように見ることでAI革命を起こした

パンデミックの初期、あるエージェント（ソフトウェアではなく文学的なエージェント）がフェイフェイ・リーに本を書くよう提案した。このアプローチは理にかなったものだった。彼女は、2006年に開始したImageNetというプロジェクトを率いて人工知能の分野に消えることのない足跡を残した。このプロジェクトは何百万枚ものデジタル画像を分類し、今日の世界を揺るがすAIシステムの重要なトレーニングの場となった。リーは現在、スタンフォード大学人間中心AI研究所（HAI）の創設共同所長を務めている。同研究所の名前自体が、人間と知能機械の共進化とまではいかなくても、協力を訴えるものだ。エージェントの提案を受け入れたリーは、ロックダウン中の1年を原稿書きに費やした。しかし、HAIの共同設立者である哲学者のジョン・エチェメンディがそれを読んだとき、彼は彼女にもう一度やり直すように、今度はこの分野での彼女自身の旅も含めてとアドバイスした。「AIの本を読める技術者はたくさんいる、と彼は言った」とリーは言う。「しかし、若い移民や女性、多様な背景を持つ人々全員に、自分たちも実際にAIを活用できるということを理解してもらう機会を逃していたのです。」

リーは自分のことを話すのをためらう、人見知りの強い人物だ。しかし、彼女は16歳で言葉も話せないまま米国に移住した移民としての経験をどう融合させるかを果敢に考え出し、困難を乗り越えてこの極めて重要な技術の重要人物になった。現在の地位に至るまでに、彼女はスタンフォードAIラボの所長や、Google CloudのAIおよび機械学習担当チーフサイエンティストも務めた。リーによると、彼女の著書『私が見る世界』は、彼女の個人的な探求とAIの軌跡が螺旋状に絡み合った二重らせん構造になっているという。「私たちは、自分が何者であるかという反映を通して、自分自身を見続けています」とリーは言う。「反映の一部はテクノロジーそのものです。最も見るのが困難な世界は、私たち自身です。」

これらの要素が最もドラマチックに融合するのは、ImageNet の作成と実装に関する彼女の物語の中である。Li は、クッションからバイオリンまで、膨大なカテゴリのリストごとに少なくとも 1,000 個の例がある何百万もの画像にラベルを付けて分類することは不可能だと考える同僚を含む人々に抵抗する決意を語る。この取り組みには、技術的な不屈の精神だけでなく、文字通り何千人もの人々の汗も必要だった (ネタバレ: Amazon の Mechanical Turk がこれを成功させるのに役立った)。このプロジェクトは、彼女の個人的な道のりを理解して初めて理解できる。このようなリスクの高いプロジェクトに果敢に取り組めるのは、経済的な困難にもかかわらず、科学者になるという夢を追うためにビジネスの世界での高収入の仕事を断ることを彼女に強く勧めた両親の支援によるものだ。この壮大な計画を実行することは、彼らの犠牲が最終的に認められることとなるだろう。

その成果は計り知れないものでした。Li氏は、ImageNetの構築には、人工ニューラルネットワークアルゴリズムのように世界を見つめる必要があったと述べています。犬、木、家具など、現実世界で様々な物体に出会った時、彼女の心は、知覚したものを本能的に分類する能力を超え、物体のどのような側面がソフトウェアに本質を明らかにするのかを察知するようになりました。どのような視覚的な手がかりが、デジタルインテリジェンスにこれらの物体を識別させ、さらにはビーグル犬とグレイハウンド、オークと竹、イームズチェアとミッションロッキングチェアといった様々なサブカテゴリを判別させるのでしょうか？彼女のチームがあらゆる車種の画像をどのように収集しようとしたかについては、興味深い記述があります。2009年にImageNetが完成すると、Li氏はコンテストを立ち上げました。研究者たちは、このデータセットを用いて機械学習アルゴリズムを訓練し、コンピューターが物体識別において新たなレベルに到達できるかどうかを検証しました。2012年、トロント大学のGeoffrey Hinton研究室からAlexNetというモデルが誕生し、過去の受賞者を大きく上回りました。 ImageNet と AlexNet の組み合わせが、今日でも私たちを魅了し、ChatGPT の原動力となっているディープラーニングブームの火付け役となったと主張する人もいるかもしれません。

リーと彼女のチームが理解していなかったのは、この新しいものの見方が、偏見によって私たちの見るものが汚されてしまうという人類の悲劇的な性向にも結びつく可能性があるということだった。彼女は著書の中で、Googleが黒人をゴリラと誤って分類していたというニュースが報じられた時、「一抹の罪悪感」を覚えたと述べている。他にも恐ろしい例が続いた。「インターネットが主に白人、西洋人、そしてしばしば男性中心の日常生活の姿を提示するとき、私たちはテクノロジーがあらゆる人々のことを理解するのに苦労することになる」とリーは書き、その欠陥に遅ればせながら気づいた。彼女はこれをきっかけに、女性や有色人種をこの分野に招き入れる「AI4All」というプログラムを立ち上げた。「ImageNetの開発に取り組んでいた頃は、今日ほど多くのことを知りませんでした」とリーは述べ、ここで彼女が「私たち」という言葉を、単に彼女の小さなチームを指すのではなく、集合的な意味で使っていることを明確にした。「私たちはそれ以来、大きく進化しました。しかし、もしうまくいかなかったことがあれば、それを修正しなければなりません。」

リー氏と話した日、ワシントン・ポスト紙は機械学習におけるバイアスが依然として深刻な問題であるとして、長文の特集記事を掲載した。Dall-EやStable Diffusionといった今日のAI画像生成ツールは、中立的な質問に対してもステレオタイプな画像を生成する。「生産性の高い人物」を想像するように指示すると、システムは通常白人男性を表示するが、「社会福祉サービスに携わる人物」を想像するように指示すると、有色人種の画像が表示されることが多い。AIに人間のバイアスを植え付けた先駆者であるImageNetの主要発明者は、この問題の解決に自信を持っているのだろうか？「自信がある」という言葉では言い過ぎでしょう」と彼女は言う。「技術的な解決策とガバナンス上の解決策、そしてより良いものを求める市場の要求の両方があるという、慎重ながらも楽観的な見方をしています」。この慎重ながらも楽観的な姿勢は、AIが人類絶滅につながるかもしれないという悲観的な予測に対する彼女の発言にも表れている。「すべてうまくいくという誤った印象を与えたくありません」と彼女は言う。「しかし、私は暗く悲観的な印象を与えたくはありません。なぜなら、人間には希望が必要だからです。」

リー氏は、AIのさらなる発展において重要な要素は、ImageNetのようなムーンショットのような次なるブレークスルーが、利益のみを追求し、一般公開を嫌う商業企業ではなく、学界や政府から生まれるようにするための資金提供だと考えている。今年6月、彼女はジョー・バイデン大統領がサンフランシスコを訪問した際に、AI科学者、専門家、批評家からなる少人数のグループの一員としてバイデン大統領と直接会談した。彼女は政府に対し、AIムーンショットへの資金提供をさらに強化するよう強く求めた。「公共部門から資源を奪えば、次世代に害を及ぼすことになります」と彼女はバイデン大統領に訴えた。（マーク・アンドリーセン氏が最近、5,200語に及ぶアイン・ランド風のげっぷで非難したように、そのような資源の剥奪は殺人に等しいとは言っていない点に注意してほしい。）

では、リー氏がこのようなムーンショットを提案した時、大統領は何と言ったのだろうか？「まあ、その場で小切手を切ったわけではないわ」と彼女は言う。「でも、彼は約束してくれたの」。彼女は、バイデン氏が最近出したAIに関する包括的な大統領令に、公共部門への投資に関する項目があることを指摘する。リー氏は決して公に勝利を誇示するようなタイプではないが、望んでいた成果は得たようだ。もしかしたら、この投資によって、卒業証書のインクが乾く前にGoogleやスタートアップ企業に飛びついたりしなかったリー氏のような人物が、ImageNet規模のAIの次の進歩をもたらす可能性が高まるかもしれない。

タイムトラベル

フェイフェイ・リーは著書の中で、大学のよく整備されたキャンパス内にあるゲイツ・ビルに眠っていたスタンフォードAIラボを復活させた様子を描いています。しかし、私が約40年前に著書『Hackers』で述べたように、初期のSAILは様々な意味で際立っていました。この文章の最後にある、インターネットの初期の描写に注目してください。

[SAILの舞台は] スタンフォード大学を見下ろす丘陵地帯にある、コンクリート、ガラス、そしてレッドウッドで造られた半円形の旧会議センターでした。建物内では、ハッカーたちが各オフィスに点在する64台の端末のいずれかで作業していました。[MITの]テックスクエアに蔓延していた、戦闘満載の宇宙SFのシューティングゲームのようなイメージとは対照的に、スタンフォード大学にはJ・R・R・トールキンの『中つ国』三部作に登場するエルフ、ホビット、魔法使いといった人々の穏やかな伝承が描かれていました。AIラボの部屋は中つ国の地名にちなんで名付けられ、SAILプリンターは3種類のエルフフォントに対応できるように設計されていました…

SAILのハッカーたちは、低い天井と部屋の間の床下の空間が快適な寝室になり得ることにすぐに気づき、実際に何年もそこに住み着いた人もいました。あるシステムハッカーは1970年代初頭、建物の外の駐車場に停めた故障した車で暮らし、週に一度パロアルトまで自転車で食料を調達していました。もう一つの食料の選択肢は、SAILの食品自動販売機「Prancing Pony」で、健康食品や地元の中華料理店の餃子などが詰め込まれていました。各ハッカーはPrancing Ponyにアカウントを持ち、コンピュータによって管理されていました。

カーネギーメロン大学のような大学やスタンフォード研究所のような研究センターなど、スタンフォード大学と他の研究所は、ARPAが通信ネットワークを介してコンピュータシステムを接続したことで、互いに緊密になりました。この「ARPAnet」は、システムは分散化され、探索を奨励し、情報の自由な流れを促すという信念を価値観に取り入れていた点で、ハッカー倫理に大きく影響を受けていました。ARPAnet上のどの「ノード」にあるコンピュータからでも、まるで遠く離れたコンピュータシステムの端末に座っているかのように作業できました。人々は膨大な量の電子メールをやり取りし、技術的な難解な情報を交換し、プロジェクトで協力し、アドベンチャーゲームを楽しみ、直接会ったことのない人々と親しいハッカーの友情を築き、以前ハッキングした場所の友人と連絡を取り合っていました。

一つだけ聞いてください

リーネは問いかける。「素晴らしいアイデアは、大きく変容した心から生まれるのでしょうか？賢い人たちは、もっともっと考え方を変えるべきではないでしょうか？」

こんにちは、リアン。今大流行しているサイケデリック・ドラッグのことでしょうか。確かに、テクノロジー業界の優秀な人材に影響を与えています。最近のジョー・ローガンのポッドキャストでは、サム・アルトマンが司会者の熱意に刺激され、サイケデリック・セラピーの効能を絶賛しました。スティーブ・ジョブズはジャーナリストのジョン・マーコフに対し、LSDの摂取は「人生で最も重要な2つか3つのことのうちの1つ」だと語っています。1日に58回もiPhoneを手に取ることを考えてみてください。

しかし、心を歪めるのは化学物質だけではありません。上記のエッセイで説明したように、フェイフェイ・リーの精神は、ニューラルネットワークが世界をどのように見ているかを目の当たりにすることで変化しました。しかも、彼女は薬局や売人を訪れる必要はありませんでした！しかし、私にとって最も精神を変容させる物質は、書店や図書館の棚にこそあります。こうした大著の裏には、どんなに高尚な精神さえもレベルアップさせるアイデアが隠されています。そして、私は読書をしない人の知性に疑問を抱いています。その好例が、暗号詐欺師のサミュエル・バンクマン＝フリードです。彼は「読む価値のある本などない」と言い、「もし本を書いたなら、それは大失敗だ。6段落のブログ記事にするべきだった」と言いました。もしかしたら、サムは自分の過ちに気づき、刑務所の図書館で改心するかもしれません。

ご質問は[email protected]までお送りください。件名に「ASK LEVY」とご記入ください。