この映画は、私たちの生活を支配する規範の偏見を検証する

シャリーニ・カンタヤは、今月オンラインでプレミア公開されたドキュメンタリー映画『Catching the Sun』と『Coded Bias』の監督です。 『Coded Bias』は、MITの研究者ジョイ・ブオラムウィニが、顔認識技術が有色人種に与える影響と精度の両面で人種格差にどう対処するかを調査し、闘う様子を追っています。MITから連邦議会での証言までを追うこの映画は、警察、住宅、教育、買い物など、私たちの日常生活にアルゴリズムが遍在しながらも見過ごされてきた影響を取り上げています。映画のプレミア公開から数日後、WIREDはカンタヤにドキュメンタリー、SF、そしてビッグテックによる私たちの生活への強大な支配について話を聞いた。以下に編集された書き起こしを掲載します。

WIRED： 機械学習、 人工知能、レコメンデーションシステムといった言葉を聞くと、圧倒されてしまいます。この分野に興味を持ったきっかけは何ですか？また、あなたが研究を始めた2、3年前は、理解しやすい学術研究が今ほど多くなかったにもかかわらず、どのように慣れていったのですか？

Shalini Kantayya:私は TED トークを通じて Joy Buolamwini の著作に偶然出会い、Cathy O'Neil の著書『Weapons of Math Destruction』を読んで、人工知能のダークサイドのどん底に落ちていきました。

2年間、パーティーで人と話すことができませんでした。自分が取り組んでいることについて聞かれるのが怖くて。当時の仮題は「Racist Robots（人種差別的なロボット）」だったと思いますが、説明するのは本当に大変でした。データサイエンスの高度な学位を持っていない私は、アルゴリズムや人工知能、機械学習といった概念を不適切に説明してしまうのではないかという恐怖感を抱いていました。しかし、たくさんの質問をすることで、その恐怖を克服できたと思います。そして、人工知能は社会のあらゆる分野を変革し、私たちが享受するあらゆる市民権に影響を与えるだろうと理解するようになりました。

私は、このテーマの解釈に尽力してくれた女性たちによる素晴らしい研究成果を読みました。彼女たちは皆、非常に洞察力に富んでいて、私が今まで出会った中で最も聡明な人たちです。この映画には博士号を持つ人が7人登場すると思います。彼女たちは高度な学位を取得しているだけでなく、女性であったり、有色人種であったり、LGBTQであったり、あるいは何らかの形で疎外された経験があったりすることで、テクノロジーに対する非常にユニークな視点を持つことができました。テクノロジーが役に立たない人々の視点から、テクノロジーを見ることができるのです。

女性主演の映画にするという決断についてお話しください。女性が主題や専門家として主導し、映画の中心に据えられながらも、女性だけが取り残されることなく、これほど技術的な映画を見るのは非常に稀です。

この映画を作り始めた当初は、ここまで女性を主人公にした作品にするつもりはなかったんです。でも、リサーチを重ねるうちに、驚くほど聡明で魅力的な女性たちに次々と出会ってしまったんです。

私が学んだのは、データを主導している人々、つまり人工知能の倫理とより人道的な使用を求める戦いを先導している科学者や数学者、ジャーナリスト、活動家たちは、実際には女性や有色人種、LGBTQの人々であるということです。

そこで私が気づいたのは、テクノロジー業界には、無視されてきた規範が存在するということです。シリコンバレーにおける変革の原動力としての女性とフェミニズムの役割は、長らく過小評価されてきました。

この映画を制作する中で、アーティストとSF作家、そして技術開発者の間には常に繋がりがあったことを知りました。人工知能は主に白人、主に男性、そして主にエリート教育を受けた人々によって開発されてきたため、未来のテクノロジーに対する想像力が驚くほど欠如しているのです。

そして、この映画のキャストのおかげで、私たちが唯一の方法だと思っていた監視資本主義モデル以外の方法で人工知能が機能することもあるのだと気づかされたと思います。

映画を完成させる上で、最も大きな障害は何でしたか？そして、それを全てまとめ上げるまでのプロセスについて教えていただけますか？

私にとって、ロードマップがなかったように感じます。偏見と人工知能をこのように描いた映画は、私の知る限り他にありませんでした。

トランプをする人間とロボットのシルエット

ですから、私にとってこの奨学金制度は、まさに手がかりとなるものを見つけるためのものでした。そして、アルゴリズムによる偏見によって被害を受けながらも、立ち向かった人々の物語を見つけるという課題に直面しました。これは大変な挑戦でした。なぜなら、こうしたシステムは私たちにとってあまりにも不透明であるため、アルゴリズムのせいで機会を奪われたことにさえ気づかないことがあるからです。

だから、私はこれらの物語を融合させようとしています。顔認識だけをテーマにした映画を作る方がずっと簡単だったと思います。顔認識は直感的なので、一番理解しやすいです。しかし、人間の運命を変えるような決定を下すこれらのアルゴリズムが、いかに広く浸透しているかを示すことが重要だったと思います。

この映画が新興技術や様々なアルゴリズムについてどのように描いているかが興味深いです。 『グレート・ハック』 や 『ソーシャル・ジレンマ』のような映画とは大きく異なります。これらの映画はGoogleやFacebookといった特定の企業に焦点を当てていますが、『コーデッド・バイアス』は個々の企業に責任を押し付けていません。

物語を語る最初のインスピレーションやひらめきは、常に魅力的なキャラクターから生まれます。そして、ジョイ・ブオラムウィニという魅力的なキャラクターが私の中にいると確信していました。楽しくてウィットに富んだキャラクターです。私は、人々は問題ではなく、人間を気にすると信じています。そして、ジョイは科学者として高い誠実さを持ち、様々な方法で権力に挑戦することができます。

知らないことへの恐怖についてよく話します。知識は力です。彼女はその力を持っているだけでなく、それを疎外された人々とも結びつけているのです。

彼女がキャピトル・ヒルで証言台に立った時、初めて映画の構成が固まったと確信したと思います。そこに登場人物がいて、物語があり、旅に出た人物がいた、と。つまり、その登場人物主導の物語が映画の骨格なのです。

そして私にとって、科学を分かりやすく伝えることが一番重要でした。非常に抽象的なテーマを、視覚的に、さらには映画のように表現するのは、とても挑戦的でした。私はアメリカのSFの比喩に深く影響を受けています。このプロジェクトを始める前にAIについて知っていたことはすべて、スタンリー・キューブリックとスティーブン・スピルバーグから得たものだと思います。

しかし、この映画はそれほど抽象的ではなく、人種差別的あるいは抑圧的なアルゴリズムに苦しむ人々を描いた部分など、より具体的な描写も含まれています。あなたは、自宅マンションに大家が顔認識システムを導入したことに反対運動を起こしたトラネ・モランや、アルゴリズムによる評価で不合格となり解雇されたヒューストンの教師、ダニエル・サントスを取り上げています。

そうです。ドキュメンタリーを作る理由の一つは、ごく普通の人々を英雄に仕立て上げることができるからです。ドキュメンタリーを通して、ごく普通の人々が英雄であるという事実に光を当てることができるのです。

ダニエルと、生体認証データとは何なのかさえ知らなかったにもかかわらず、抵抗しただけでなく、法律を変えたトラネーさんの物語に、私は心から感謝しています。ダニエルは、これまで受けてきた教育賞の数々を並べ、制度によって人間性を奪われたと語る彼の表情を目に焼き付けました。

私たちは今、人間性のより深い部分からリーダーシップを発揮することが求められている歴史的瞬間にいると思います。ダニエルやトラネーのような刺激的な人を見ると、このテクノロジーがどれほど間違っていて、どれほど不公平であるかを実感します。

私たちはテクノロジーを魔法や神のように語ることが多いように思います。しかし、その幕をめくってみると、テクノロジーは私たち自身の反映に過ぎないことに気づきました。テクノロジーは私たち全員に影響を与えるので、その導入方法について、私たち全員が何らかの発言権を持つべきです。私たちは、一人ひとりの本来の価値を尊重するテクノロジーへと向かうべきです。

この記事は、カンタヤのより最近の写真を含めるように更新されました。

WIREDのその他の素晴らしい記事