社会格差はアプリでは解決できない

2018年3月4日午前8時

私たちがどのような選択をしているのかを知る能力を人工知能がどのように妨げているのかということに、私たちはもっと真剣に注意を払う必要がある。

WIREDに掲載されているすべての製品は、編集者が独自に選定したものです。ただし、小売店やリンクを経由した製品購入から報酬を受け取る場合があります。詳細はこちらをご覧ください。

アプリは私たちを救ってくれません。ベッドに横になってスマートフォンを見つめているだけで、社会の不平等を解消することはできません。権力者に一人ずつメールを送るだけでは、問題は解決しません。

個人の自由に関する新たな新自由主義的概念（特にテクノロジーの利用分野において）は、集団的権利を確保するための大規模な組織化を通じて実現される保護と正反対の形で過剰に支持されている。これは、過去30年間に複数の政権によって推進されてきた積極的な反労働政策、そして労働組合やブラック・ライヴズ・マター（BLM）のような21世紀の公民権団体に対する敵意の高まりに明らかである。こうした個人主義的で反共同体的なイデオロギーは、反民主主義、反積極的差別是正措置、反福祉、反選択、反人種主義といった言説の中心であり、個人の失敗の責任を政策決定や社会制度ではなく、個人の道徳的欠陥に帰する。制度的差別や社会の特定の階層やセクター全体に対する組織的な疎外といった議論は、是正のための公の議論から排除され、女性に対する女性蔑視的な暴力や反移民政策の経歴を持つドナルド・トランプのような有力な大統領候補を生み出してきた。国家選挙という政治体制におけるこうした激しい批判への抵抗にもかかわらず、社会は一見無害で文脈から切り離されたテクノロジーのプロセスを、あたかも全く政治的でもなく、何の影響も及ぼさないかのように受け入れる方向に動いている。公的機関や政府による介入を通じて社会保障を規制したり提供したりしようとする集団的な努力は拒絶される。こうした社会観では、個人は自由市場において自らの意志で選択を行い、それが社会変革の唯一の正当な源泉として標準化されている。

こうした広範な社会的・政治的環境の中で、連邦通信委員会（FCC）と連邦取引委員会（FTC）は、2007年の児童インターネット保護法と児童安全視聴法を除き、インターネット環境の規制に消極的でした。人種差別、性差別、同性愛嫌悪による危害に対する良識を規制しようとする試みは、FCCがほとんど対処してきませんでした。FCCは、危害の立証責任を個人に負わせているからです。私は、積み重なる証拠を通して、規制されていないデジタルプラットフォームが深刻な危害をもたらすことを訴えようとしています。荒らし行為は、オフラインでの嫌がらせ、いじめ、自殺、脅迫、攻撃に直接結びついています。インターネットという実験全体が今、私たちの身近に迫っていますが、公共政策レベルでは、インターネットが一般市民に及ぼす心理的・社会的影響について、十分な厳密な検証が行われていません。

オンラインで公開されている情報の信頼性は、情報化時代における変化にますます深く関わるアメリカ人の、現実の、そして生きた経験という文脈において成り立っています。アメリカの経験における永続的な特徴は、制度的貧困です。貧困線以下で生活し、失業や不完全雇用に苦しむ人々のうち、最も多くを占めるのは、有色人種の女性と子供たちです。経済危機は、貧困層の有色人種、特に黒人／アフリカ系アメリカ人の女性、男性、そして子供たちに、依然として不均衡な影響を与え続けています。

さらに、黒人と白人の富の格差は深刻化しており、ブランダイス大学の最近の報告書によると、この格差は1984年から2007年の間に4倍に拡大し、米国では白人が黒人の5倍の富を持つようになったことが明らかになっています。これは道徳的優越感の結果ではなく、アルゴリズムによる意思決定を通じた金融市場のゲーミフィケーションに直接結びついています。これは、黒人、ラテン系、ネイティブアメリカンがテクノロジー分野の高収入職から排除されていることと関連しています。これは、一見無害に見えるビッグデータ・アプリケーションによって促進された、住宅市場と教育市場のデジタル・レッドライニングと再分離の結果です。アフリカ系アメリカ人や低所得者が住む地域で、資金不足に悩む学校が、分離されながらも平等に運営されてきた長い歴史を反映したデータを用いて、Zillow.comのようなデジタル不動産アプリケーションで学校の評価を設定し、「低評価」の学校への進学を阻止することが、かつてないほど容易になりました。

膨大なデータセットを扱うこれらのデータ集約型アプリケーションは、教育の公平性を促進するために人種的・経済的に統合された学校づくりのために行われているミクロレベルの介入を明らかにしていません。それらは単に、「良い学校」に関するデータを、裕福な白人居住地域にほぼ限定して当然のものと思い込むことを容易にしているだけです。個人の選択の自由を盾に、この種の人工知能が、私たちがどのような選択をしているのか、そしてそれらの選択が社会、政治、経済の平等を求める数十年にわたる闘いを覆す上でどのような集合的な影響を与えるのかを理解する能力を、いかに阻害しているのかについて、私たちはより深く注意を払う必要があります。デジタル技術は、これらの闘いに深く関わっています。

こうした劇的な変化は、グローバル化を加速させ、実質的な雇用を海外に移転させ、労働者の利益を破壊してきた米国の経済政策の時代に起きている。社会がより大きな社会的平等に向かっているという主張は、特に黒人アメリカ人の住宅所有、教育、雇用へのアクセスが実質的に減少していることを示すデータによって揺るがされている。変化する社会的、法的環境の真っ只中で、「色盲」という言葉やイデオロギーが生み出され、より人間的で人種差別のない世界観を不誠実に主張している。この状況は、教育や情報科学など、テクノロジーの実践を形作っている分野における構造的、社会的抑圧を覆い隠す多文化主義と多様性の称賛によって悪化している。ネバダ大学ラスベガス校の教育学教授、シャロン・テッテガーの研究によると、色盲にこだわる人は他者への共感力も低いことが分かっている。特に差別的慣行からの救済を求める際に、人種を人種的に客体化された人々の問題にすることは、体系的な問題を解決する上での政府と国民の役割を曖昧にする。

これらの「色盲」イデオロギーの中心にあるのは、「人種を見る」ことの不適切さへの焦点です。社会学的に言えば、色盲は人種情報の利用を妨げ、いかなる分類や区別も認めません。しかし、色盲であるという主張にもかかわらず、研究によると、人種的色盲の態度が高い人は白人である可能性が高く、オンラインのソーシャルネットワーキングサイトで見られる軽蔑的な人種的画像を容認するか、気にしない可能性が高いことが示されています。前述のように、シリコンバレーの幹部たちは、色盲をまるでそれが明らかな欠点ではなく、資産であるかのように喜んで受け入れています。すべてのアメリカ人を結びつけ、インターネットと世界規模の通信インフラによってもたらされる新しい経済市場とイノベーションを刺激する取り組みを再活性化する中で、社会の周縁にいる人々の実際の生活は、新たな用語とイデオロギーによって作り変えられつつあり、そうした状況についての議論は不可能ではないにしても問題となり、人種差別を受けたグループに影響を与える問題を社会構造の中に位置づけるのではなく、個人に差別行為の責任を負わせることになる。

ポストレイシャリズムの定式化は、人種的格差がもはや存在しないことを前提としており、その中で色盲イデオロギーが勢いを増している。批判的白人至上主義の研究者でカリフォルニア大学サンタバーバラ校教授のジョージ・リップシッツは、人種的格差とそれを具体化する社会（および技術的）構造を認識することの難しさは、白人至上主義への執着の反映であると指摘する。つまり、人種や特権に関する白人の覇権主義的な観念が、真の社会問題を見る能力を覆い隠していることを認識できないということだ。私は講演に来る聴衆によく、1960年代に雇用への構造的障壁が立法によって解決されようとしていたまさに歴史的な瞬間に、コンピューターは人間よりも優れた判断を下せるという前提のもと、現代技術への依存が高まったことを考えてみるよう促す。女性や有色人種が社会における限られた意思決定の場にようやく参加する機会を与えられると同時に、コンピューターが社会的な意思決定におけるより最適な選択肢として称賛されるのは、決して偶然ではないと思います。ビッグデータへの楽観主義が台頭し、政治家、産業界のリーダー、そして学者たちが、意味づけにおける優れたアプローチとして人工知能に魅了されていた時代があるとすれば、それはまさに今です。これは、社会の周縁に生きる人々、そして彼らと同調する人々にとって、必要な介入について真剣に考えるための警鐘となるはずです。

『抑圧のアルゴリズム：検索エンジンはいかに人種差別を強化するか』より。NYU Press提供。