アロンドラ・ネルソンは科学技術をより公正なものにしたい

パンデミックは私たちに、改めて学ぶ必要のある教訓を教えてくれた、とアロンドラ・ネルソンは言う。「科学技術は社会、不平等、社会生活の問題とすべて関係している。」

パンデミックと大統領選の激戦の中、科学が政治問題化された一年を経て、ジョー・バイデン次期大統領は1月、ネルソン氏をホワイトハウス科学技術政策局（OSTP）の科学社会担当副局長に任命しました。これは新設の役職です。ネルソン氏はOSTP内に科学社会部門を設立し、データと民主主義からSTEM教育に至るまで、幅広い問題への取り組みを目指します。バイデン氏はまた、OSTP局長も務めるエリック・ランダー科学顧問を閣僚に任命しました。これはまた新たな試みです。

ネルソン氏は、人種、テクノロジー、社会の交差点でキャリアを積み、アフロフューチャリズムがどのように世界をより良くできるか、ブラックパンサー党が医療を活動の一形態としてどのように活用し、組織が遺伝学への関心を早期に育んだかといったテーマについて執筆してきました。彼女は複数の著書を執筆しており、『Social Life of DNA 』では、消費者向け遺伝子検査業界の台頭と、自らの血統を知りたいという欲求が、黒人やモルモン教徒をいかにしてこの技術の初期のユーザーへと導いたかを考察しています。

ネルソン氏はニュージャージー州プリンストン高等研究所の教授です。教授就任前は、OSTPとオバマ政権の主要な科学イニシアチブに関する書籍を執筆しており、その中にはAIと政府政策に関する一連の報告書も含まれていました。

ネルソン氏は1月に就任後初の公式発言で、科学を社会現象と呼び、人工知能などの技術は、科学の進歩の追求を支える危険な社会構造を露呈させたり、反映したりする可能性があると述べた。WIREDとのインタビューでネルソン氏は、特に黒人コミュニティは科学技術の害悪に過度にさらされ、その恩恵を十分に享受できていないと述べた。

インタビューの中で、彼女はバイデン政権の科学ムーンショット計画、顔認識技術の禁止について政権が正式な立場をとらない理由、そして政権在任中に取り組むべきと考える新興技術と社会に関する問題について語った。以下に編集されたトランスクリプトを掲載する。

WIRED：1月にあなたは「私たちが追求する科学の進歩の根底にある危険な社会構造」について語り、遺伝子編集と人工知能（AI）に言及されました。この役職に就いて初めての公の場で、遺伝子編集とAIについて言及されたきっかけは何ですか？

アロンドラ・ネルソン：遺伝科学とAIに共通するのは、データ中心であるということです。データと大規模データ分析の仕組みについて私たちが知っていることは、大規模なゲノム解析にも機械学習にもある程度当てはまるため、いわば基礎的なものです。国としてまだ取り組む必要があるのは、AIツールで分析されたデータの出所に関する問題、そして科学技術研究においてどのような変数が使用され、どのような問題が提起されるかについて誰が決定権を持つのかという問題です。このOSTPがこれまでと異なり、際立っていると私が願うのは、過去に対する誠実さです。科学技術は一部のコミュニティに害を及ぼし、コミュニティを置き去りにし、人々を科学技術の仕事から排除してきました。

就任初日から人種的平等の問題と政府への信頼回復を主要課題として挙げた政権で働くということは、科学技術政策の仕事は過去について真に正直でなければならないということであり、政府への信頼回復、つまり世界に何らかの善をもたらす科学技術の能力に対する信頼回復の一環として、科学技術の欠陥や失敗の歴史について真にオープンになる必要があるということである。

残念ながら、例はたくさんあります。来月は、約40年前にタスキーギ梅毒研究を暴露したAP通信の記事から1周年を迎えます。つまり、またその記念日を迎えることになります。そしてもちろん、研究におけるAIの問題として、使用されるデータが不完全であること、そしてその不完全さゆえに推論が不完全で不正確であること、そして特に社会福祉や刑事司法制度において使用される場合、黒人や褐色人種のコミュニティに不釣り合いな悪影響を及ぼすことが挙げられます。

ランダー氏は上院議員の承認公聴会で、OSTPはアルゴリズムによる 偏見に起因する差別に対処すると述べました。それはどのように機能するのでしょうか？

それは確かに私たちの念頭に置き、最優先事項ですが、まだ決定され、実行される予定はありません。

課題は、多くの民間および公共部門の組織が策定した、願望的なAI倫理原則から、それを現実のものとする領域へと移行することです。つまり、説明責任の形態を確立する必要があり、特に社会世界との関わりにおいて、AIが未だ発展途上にあるという点について正直に向き合う必要があります。

技術的な基準から、私が社会技術的な基準と呼ぶものへと移行するには、真のコミットメントが必要だと思います。ツールは技術的に完璧に正しい場合もあります。例えば、ジョイ・ブオラムウィニとティムニット・ゲブルがバイアスと顔認識について行った研究を考えてみてください（多くの顔認識プログラムは、肌の色が濃い女性の顔よりも、白人男性の顔の識別に優れていることが示されました）。

しかし、それは社会技術的な問題には対処していません。つまり、データベースの不完全性と、データが何を伝えているのか、そしてそれが世界で何を「予測」しているのかという私たちの考えに基づいて、不均衡な危害が生じる可能性が依然としてあるということです。

バイデン政権は顔認識について、また禁止あるいは一時停止措置を講じるべきかどうかについて何らかの立場を取っているか？

まだ。

それは近々行われる予定のものですか、それとも政権が関与する予定のものですか?

私の知る限りでは、特にありません。州レベルや地方レベルで、この分野では多くの規制の進展が見られます。

OSTPは現在、顔認識技術の禁止および一時停止の問題を検討しています。エリック・ランダー氏と私は共に、アルゴリズムによるバイアスへの対処はOSTPにおける私たちの活動の優先事項であると公に表明してきました。特に、刑事司法制度、社会福祉、住宅、雇用、その他の分野における自動化システムの使用によって、黒人および褐色人種のコミュニティに人種的および経済的不平等が悪化し、あるいは新たな形の不平等と害悪が生じていることが実証されていることを考慮すると、これは重要なことです。バイデン・ハリス政権は、正義と公平性を推進し、権利を守り、機会を拡大する技術政策に尽力しています。

お話する前に調べてみたところ、OSTP に関する本を執筆中だと知りました。

ええ、ある意味歴史的な本を執筆中だったんです。このオフィスについてはあまり書かれていなかったんです。

1976年に設立されましたが、このオフィスの歴史を紐解くと、ベトナム戦争直後、行政機関が社会変革という文脈の中で科学技術政策と戦略助言をどのように構築すべきかを考えざるを得なかった時期に誕生したという見方が一般的だと思います。これは1970年代からずっと続いてきたことだと思います。組織理論の観点から、私はOSTPが何世紀にもわたる官僚機構の中にある、いわば連邦制の新興組織であることに興味を持ちました。

この本は、オバマ政権までの歴史を綴ったようなものになるはずでした。オバマ政権下では、スタッフは最大規模にまで拡大し、科学政策の取り組みに多くの新しい方向性をもたらしました。壮大な挑戦、公約などです。私が思い描いていた本は、もう存在しないと思います。遠い存在だったテーマについて、少し距離を置いて書いたような本でしたが、今はまさにその真っ只中にいるのです。ですから、最終的には全く違う本になると思います。

それはすぐに出版する予定でしょうか、それとも退職後に出版する予定でしょうか?

いいえ、それは私が去った後になります。

確認なのですが、その本についての スピーチで 、あなたはAI、がん研究、人間の脳の 理解といった分野におけるオバマ政権の5つの主要な科学イニシアチブについて言及されてい ましたね。OSTPとバイデン政権があなたの在任期間中に目指すムーンショットにはどのようなものがありますか？

確かに、パンデミックへの備えについては考えるべきだと思います。エリックは最近、次のパンデミック（これも社会的な衝撃です）に備えたいと話していましたが、100日以内にワクチンの準備を整えることは可能でしょうか？これは本当に野心的な目標です。

ARPA-H（国防総省の国防高等研究計画局をモデルにしたもの）の存在もご存知でしょう。これは、国立衛生研究所に設置され、より機敏で民間セクターのパートナーも受け入れ、実験的健康研究においてより革新的な取り組みを可能にする高度な研究プラットフォームの構築を目指しています。どちらの計画も「ムーンショット」という言葉で表現されたことはないと思いますが、どちらも達成すべきタイムラインを持つ、壮大で野心的な目標であることは間違いありません。その意味では、ケネディ大統領のムーンショット、つまり目標、期間、そして達成方法と非常によく似ています。

科学チームが指名されたとき、私は目標の一つとして、科学技術の害悪に関する過去について正直に語り、より民主的な社会を築くこと、つまり科学技術に関する民主主義の原則を真に尊重することを明確にしました。つまり、アルゴリズムによるバイアスに対処し、特定のコミュニティに不均衡な利益や損害が及ばないようにすることです。

例えば、調達に関する大統領令をいくつかご覧になったことがあるでしょうか。政府のパートナーとして誰を求めているのか、そして科学技術や研究開発のための政府資源の活用についてです。これは、諮問委員会の構成、誰が委員会に出席し、誰が委員会に出席するよう招待されるのかを考えることを意味します。科学的公正性に関する大統領覚書は、各機関に対し、諮問委員会の委員を選出する際に、アメリカ社会を代表し、必要な専門知識と利害関係者の視点を備えていることを確認するよう明確に求めています。

科学技術社会学者として、私は、公平性の枠組みを通して科学技術政策を推進することの必要性と緊急性において、ある種の根本的な変革が起こると予測しています。私にとって、それはまさにムーンショットです。

科学は民主主義と同じようにプロセスであり、完全に実現されることはなく、常に完璧を目指しています。ですから、そのプロセスと、より包括的な科学技術政策をめぐる真の意図的な取り組みは、非常に大きな目標だと思います。特に、科学技術という分野においては、人々がこれらの問題について考える必要がないと感じていたことを考えるとなおさらです。社会福祉や文化、芸術といった分野では考えることができるかもしれませんが、科学分野では考えられないのです。ですから、科学においても、そしておそらく科学においてこそ、これらの問題が重要であるという考えを掲げる政権の一員であることを、私は心から誇りに思います。

バイデン政権の任期中に取り組むべきだと思う、新興技術と社会に関連した課題にはどのようなものがありますか?

気候変動に対処するための広範な戦略の一環としてのクリーンエネルギー、政府全体のアプローチを活用したSTEMおよび先進製造業への幅広い参加を促す政策、新型コロナウイルス感染症の教訓を踏まえ、生物医学的戦略と社会戦略の両方を盛り込んだ強力なパンデミック対策、そして科学的誠実性などの明確な政策と実践を持ち、政府の取り組みに関するさまざまなデータへの洞察を国民に提供することにより、連邦政府の科学技術に対する米国民の信頼を強化すること。機械学習、AI、リスク評価ツールなど、社会における自動化システムの現在および将来の拡大は、私たちの注目に値します。自動化システムの開発の上流段階からその使用全体にわたって、公平性、公民権、正義を優先する政策を策定しなければ、自動化の潜在的なメリットはいずれも実現されず、実際には失敗するでしょう。

WIREDのその他の素晴らしい記事

• 📩 テクノロジー、科学などの最新情報: ニュースレターを購読しましょう!
• Googleがティムニット・ゲブルを解雇したとき、実際に何が起こったのか
• NASAは月の裏側に巨大な望遠鏡を設置するかもしれない
• ある作家がローテクな習慣を使ってつながりを保つ方法
• MODOKはマーベルがマルチバースを支配する方法だ
• 致命的な感染症を予測するアルゴリズムには欠陥があることが多い
• 👁️ 新しいデータベースで、これまでにないAIを探索しましょう
• 🎮 WIRED Games: 最新のヒントやレビューなどを入手
• 🎧 音に違和感を感じたら、ワイヤレスヘッドホン、サウンドバー、Bluetoothスピーカーのおすすめをチェック！