大手テクノロジー企業はそれぞれに違いはあるものの、私たちが向かう方向については一致しています。それは、スマートマシンが支配する未来です。Google、Amazon、Facebook、Appleはいずれも、自動運転車や顔認識といったイノベーションを通じて、私たちの生活のあらゆる側面が人工知能と機械学習によってまもなく変革されると主張しています。しかし、そのビジョンを支える仕事に携わる人々は、彼らの発明が変革するはずの社会とはあまり似ていません。WIREDはモントリオールのスタートアップ企業Element AIと協力し、主要な機械学習研究者の多様性を推定しました。その結果、女性はわずか12%であることが分かりました。
この推計は、2017年に開催された3つの主要な機械学習カンファレンスで研究成果を発表した男女の数を集計したもの。これは、社会の未来を描いているはずのこのグループが、多様性の問題で知られるテクノロジー業界全体よりも、さらに包摂性に欠けていることを示唆している。
グーグルでは、6月に発表された同社の統計によると、技術職の21%を女性が占めている。WIREDが今月初めにグーグルのAI研究ページを調査したところ、「機械知能」に携わる641人のうち、女性はわずか10%だった。一方、フェイスブックは先月、技術系従業員の22%が女性であると発表している。同社のAI研究グループのページには今月初め、115人が記載されており、そのうち女性は15%だった。
Googleの広報担当者はWIREDに対し、同社の研究ページに掲載されているのは研究論文を執筆した人のみであり、AI技術の実装や研究に携わる人全員ではないと述べたが、それ以上の情報は提供しなかった。FacebookもAIチームの多様性に関する詳細を明らかにしなかった。FacebookのAIラボ、モントリオール支部を率いるジョエル・ピノー氏は、研究チームの公開されているスタッフを数えることは「妥当」だが、FacebookでAIに携わる社員全体と比較すると、その数は少なく、採用を通じて成長と変化を遂げていると述べた。
2017年に3つの主要な機械学習カンファレンスに研究成果を寄稿した男性と女性の割合。出典：Element AI
ホットリトルポテトピノー氏は、AI研究において、この分野の多様性の向上を目指す一派に属している。その動機の一つは、多様性の向上を怠ればAIシステムが世界に有害な影響を及ぼす可能性が高まるという懸念だ。「人口の大部分に影響を与える技術を開発している私たちは、他の分野よりも行動を起こす科学的責任を負っています」とピノー氏は語る。
企業や政府は、医療や警察などの分野でコンピューターに意思決定や行動を起こさせる可能性を秘めたAIに期待を寄せている。Facebookは、ミャンマーなど、自社のAI研究所とは人口統計が大きく異なる地域でのフェイクニュース対策に機械学習を活用している。ミャンマーでは、Facebookのプラットフォーム上での噂が暴力事件につながった。カリフォルニア工科大学のアニマ・アナンドクマール教授（元アマゾンAI研究員）は、研究チームが同質である場合、AIシステムが特定のグループに危害を加えるリスクが高くなると指摘する。「多様性のあるチームは、製品が発売される前に、社会的に悪影響を及ぼす可能性のある問題を警告する可能性が高くなります」と彼女は言う。また、多様性のあるチームは生産性が高いことも研究で示されている。
企業や大学のAIチームは、AIの最高責任者にほとんど代表されていない人々に対して、意図せずして偏見のあるデータやシステムを既に公開している。昨年、バージニア大学とワシントン大学の研究者たちは、機械学習研究で使用されている2つの大規模な画像コレクション（マイクロソフトとFacebookが支援したものも含む）が、アルゴリズムに性別に関する歪んだ見方を植え付けていることを示した。例えば、買い物や洗濯をしている人々の画像は、ほとんどが女性に関連付けられている。
アナンドクマール氏をはじめとする研究者たちは、AIコミュニティには民族的マイノリティのより適切な表現が必要だと指摘している。2月には、MITとマイクロソフトの研究者らが、IBMとマイクロソフトが企業向けに提供している顔分析サービスが、肌の色が濃い場合の精度が低いことを発見した。両社のアルゴリズムは、肌の色が薄い男性の性別の識別はほぼ完璧だったが、肌の色が濃い女性の写真を提示された際には頻繁に誤判定を起こした。IBMとマイクロソフトはどちらもサービスを改善したと述べている。欠陥のある当初のバージョンは1年以上も市場に出回っていた。
機械学習研究者に女性がほとんどいないのは、驚くべきことではありません。コンピュータサイエンスという広い分野は、男性が圧倒的に優勢であることがよく知られています。政府の統計によると、米国ではコンピューターサイエンス分野で学士号を取得した女性の割合が過去30年間で大幅に減少しており、これは物理学や生物学の傾向とは逆です。
米国における女性の学士号取得者の割合。出典：NCES
ホットリトルポテト機械学習を推進する人々に関する人口統計データはほとんど収集されていない。『WIRED』US版は、Element社が世界のAI人材プールに関する数字を発表した後、同社にその件を持ちかけた。同社は、2017年に機械学習の3大学術会議であるNIPS、ICLR、ICMLで論文などが採択されたすべての人の名前と所属のリストを作成した。かつては無名だったこれらのイベントは、現在では企業のパーティーや、大勢の企業リクルーターや研究者を擁する。Elementのリストには3,825人の名前が含まれており、そのうち17パーセントが業界関係者だった。同社はクラウドソーシングサービスの作業員に、リストに載っている人々についてオンラインで調査するよう依頼することで、男性と女性の数を数えた。一貫性を保つため、それぞれの名前は3人の作業員に個別に送られた。『WIRED』US版はデータのサンプルをチェックし、不完全な返答があった6つのエントリを除外した。
浮かび上がった図はあくまでも推定値に過ぎない。サンフランシスコ大学教授で、AI教育プロバイダーFast.aiの共同創業者であるレイチェル・トーマス氏は、この図は依然として有用だと指摘する。AIの多様性問題に関するデータは、その問題解決に向けた取り組みのモチベーションを高める可能性があると、トーマス氏は指摘する。「AIに取り組む大企業が、どのような人材を採用するのが適切だと考えているかを、かなり正確に表していると思います」とトーマス氏は言う。
AIにおける多様性の欠如とその対策への取り組みは、近年ますます注目を集めています。トーマス氏、アナンドクマール氏、ピノー氏は、現在AI分野で最も注目を集めているカンファレンスであるNIPSと並行して開催されるワークショップ「Women in ML（WiML）」に携わっています。このサイドイベントは、女性たちが自身の研究を発表する場を提供し、2017年にはGoogle、Facebook、Amazon、Appleといった企業からスポンサードを受けました。同様に、昨年は著名なテクノロジーブランドがスポンサーとなり、NIPSと並行して開催された新しいワークショップ「Black In AI」では、技術研究に関する講演や、AI分野の多様性を向上させる方法についての議論が行われました。Fast.aiのコースは、従来のAI大学院進学コースとは異なる選択肢を提供することを目的としており、同社は多様性奨学金も提供しています。
こうしたプログラムの増加にもかかわらず、AI 業界で女性や少数民族の割合が急速に増加すると予想している人はほとんどいません。
Googleなどの企業におけるダイバーシティ推進キャンペーンは、技術系従業員における白人男性とアジア系男性の優位性を大きく変えるには至っていない。エレメントのリサーチサイエンティスト、ネガー・ロスタムザデ氏は、AI業界にも、テクノロジー企業でよく見られる問題、つまり女性が男性よりも業界を離れる可能性が高く、昇進の可能性が低いという問題が存在していると指摘する。「女性やマイノリティの人材を積極的に確保することは重要ですが、彼女たちが昇進できるようにすることも重要です」とロスタムザデ氏は語る。
AI研究に携わる女性たちは、この分野は女性を歓迎せず、敵対的にさえなることもあると述べている。
アナンドクマール氏とトーマス氏は、博士号を取得するずっと前から、コンピュータサイエンスや数学の研究において男性が女性に不適切な発言やハラスメントを与えることは珍しくないことを学んだと述べています。カーネギーメロン大学で長年コンピュータサイエンスの教授を務めていた2人が今週、「性差別的な経営」を理由に辞任しました。2月には、アナンドクマール氏が#metooのタグを付けてオンラインに投稿し、AI分野の匿名の同僚から受けた言葉によるハラスメントについて説明しました。
近年のNIPSでの出来事は、この分野を女性にとってより歓迎されるものにするための課題と、AIに流入する新たな資金が時として状況を悪化させる可能性があることを浮き彫りにしている。
2015年、カナダのスタートアップ企業Deeplearni.ngの創業者たちは、「私のNIPSはNP困難だ」というスローガンを掲げたTシャツをカンファレンスに持参した。これは解剖学的な数学ジョークで、一部の男性と女性から不適切だと批判された。（カンファレンスの正式名称はNeural Information Processing Systems（神経情報処理システム）である。）現在Dessaという社名に改名されたこのスタートアップ企業の創業者、スティーブン・ピロン氏は、このTシャツを作ったのは「肉体派の行動だった」と後悔しており、同社はインクルーシブな考え方を重視していると語った。
昨年のイベントでは、アナンドクマール氏をはじめとする参加者数名が、インテル（Women in MLイベントのスポンサーも務めた）主催のパーティーで天井から女性の曲芸師が降りてきたことで、女性にとって居心地の悪い雰囲気になったと苦情を申し立てました。インテルの広報担当者は、誰もが受け入れられていると感じられる環境をより良くするためのフィードバックを歓迎すると述べました。カンファレンスの公式閉会パーティーでも同様の苦情が寄せられ、著名な研究者2名の行動に関する調査が始まりました。
一人はミネソタ大学のブラッド・カーリン教授で、統計学教授らで構成されたバンド「インポステアーズ」の一員としてNIPSの閉会パーティーで演奏した。キーボードを担当するカーリン教授は公演中にセクハラについて冗談を言った。この発言に対するツイートがきっかけで、データサイエンティストのクリスチャン・ラム氏がブログ記事を書き、事件に関わった人物（後にカーリン教授であることが確認された）と、名前を伏せたもう一人の研究者が別々の機会に彼女に不適切な接触をしたと主張した。カーリン教授はその後、ミネソタ大学の調査で複数回セクハラ規定に違反していたことが判明し、退職した。ブルームバーグは、二人目はグーグルの統計研究ディレクター、スティーブン・スコット氏だと報じた。同社広報担当者は、スコット教授の行動に関する内部調査の後、同氏が同社を退職したことを確認した。
NIPSの主催者は現在、12月にモントリオールで開催されるイベントに向けて、より詳細な行動規範の策定に取り組んでいます。先週、現在の名称に代わる、同じ「不快な意味合い」を持たない名称について意見を求めるアンケート調査を実施しました。候補としては、CLIPS、NALS、ICOLSなどが挙げられています。
Facebookのピノー氏は、特に希望はないものの、名称変更には賛成している。「この会議を検索したら、本当に不快なウェブサイトがいくつか見つかりました」と彼女は言う。また、NIPSの名称変更によってAIのより大規模で、解決が容易ではない問題が軽視されるべきではないとも警告する。「人々が私たちが壮大なジェスチャーをしたと勘違いし、他の取り組みの勢いが鈍ってしまうのではないかと少し心配しています」と彼女は言う。
