1964年に公民権法が制定され、採用決定を行う人間が性別や人種に基づく差別を行うことが禁じられました。現在では、ソフトウェアが採用決定に貢献することが多く、管理者による履歴書の審査やビデオ面接の通訳などを支援しています。
一部のテクノロジー専門家や公民権団体は、アルゴリズムが人々の偏見を再現または増幅させる可能性があるという証拠を挙げ、これを懸念している。ロイター通信は2018年、アマゾンが過去の採用パターンに基づいて履歴書をフィルタリングするツールを女性差別にあたるとして廃止したと報じた。
ニューヨーク市議会で提案された法案は、アルゴリズム時代に合わせて採用における差別規制を刷新するものです。この法案は、企業に対し、ソフトウェアを用いて評価を行った候補者に対し、その旨を開示することを義務付けます。また、こうしたツールを販売する企業は、人材選別技術が差別行為を行っていないことを確認するため、毎年監査を実施する必要があります。
この提案は、人生を変えるような決定を形作るアルゴリズムやソフトウェアに法的制約を課すという、政府のあらゆるレベルで最近起こっている動きの一環であり、民主党がホワイトハウスと議会の両院を掌握すれば、この動きは新たな局面を迎える可能性がある。
米国では12以上の都市が政府による顔認識技術の使用を禁止しており、ニューヨーク州も最近、学校での同技術の使用を2年間一時停止する法案を可決した。一部の連邦議員は、企業が採用を含む業務に使用する顔認識アルゴリズムや自動意思決定ツールを規制する法案を提案している。12月には、10人の上院議員が雇用機会均等委員会に対し、AI採用ツールにおける偏見を監視するよう要請し、AI技術が雇用における人種格差を深刻化させ、社会的弱者コミュニティにおける新型コロナウイルス感染症からの経済回復を阻害する恐れがあると述べた。また昨年、イリノイ州では、求職者のビデオ分析を行う前に同意を得ることを義務付ける新法が施行された。メリーランド州でも同様の法律が、採用における顔分析技術の使用を制限している。
議員たちは、新しいアルゴリズムやAIツールを規制することについては議論するが、実際に導入するルールについては議論に慣れていない。サンフランシスコ市は2019年に顔認証技術を禁止したが、数ヶ月後、市所有のiPhoneを意図せず違法としてしまったため、条例を改正せざるを得なかった。
ニューヨーク市民主党議員ローリー・カンボ氏が提案した提案は、候補者の選考や報酬などの条件決定を支援する、いわゆる自動雇用決定ツールを使用する企業に対し、その技術の使用状況の開示を義務付けるものです。こうしたソフトウェアのベンダーは、毎年自社製品の「バイアス監査」を実施し、その結果を顧客に提供することが義務付けられます。
この提案は、一部の異例の支持者からの抵抗に加え、運用方法に関する未解決の問題に直面している。信用調査・身元調査会社を代表する消費者データ産業協会（CDIA）の公共政策担当上級副社長、エリック・エルマン氏は、この法案は雇用主に代わって身元調査を実施する企業に新たな負担を課すことで、採用の公平性を損ねる可能性があると指摘する。エルマン氏は、身元調査は、特定の人口統計グループからの採用に対する経営者の抵抗を克服するのに役立つと主張している。
一部の公民権団体やAI専門家も、それぞれ異なる理由でこの法案に反対している。監視技術監視プロジェクトの創設者であるアルバート・フォックス・カーン氏は、全米黒人地位向上協会（NAACP）やニューヨーク大学AIナウ研究所を含む12団体から、この法案に反対する書簡を集めた。カーン氏は採用テクノロジーを規制したいと考えているが、ニューヨーク州の提案では、差別を助長するソフトウェアが公平性監査に合格したと承認されてしまう可能性があると指摘する。
カーン氏は、あらゆる法律において対象となる技術をより広範に定義し、ベンダーが自社の技術をどのように監査するかを決定できないようにし、個人が法律を執行するために訴訟を起こすことを認めるべきだと訴えている。「私たちが懸念しているような差別に対して、実効性のある形での執行は見られませんでした」と彼は言う。
懸念を抱きながらも、ニューヨーク州の提案を支持する人々もいる。「この法案が成立することを願っています」と、ニューヨーク大学責任あるAIセンター所長のジュリア・ストヤノビッチ氏は語る。「修正されることも期待しています」
カーン氏と同様に、ストヤノビッチ氏も法案の監査要件が明確に定義されていないことを懸念している。それでも彼女は、クイーンズ公共図書館でテクノロジー導入に関する公開集会を主催した際、自動化ツールが広く使用されていることに多くの市民が驚いたことから、法案は可決する価値があると考えている。「私が賛成する理由は、この法案によって、人間だけでなく機械によっても評価されたことを市民に開示することが義務付けられるからです」とストヤノビッチ氏は言う。「そうすれば、市民が議論に参加しやすくなるでしょう。」
超スマートなアルゴリズムがすべての仕事をこなせるわけではありませんが、これまで以上に速く学習し、医療診断から広告の提供まであらゆることを行っています。
ニューヨークに拠点を置く2つのスタートアップ企業は、採用ツールが新規制の対象となることを受け、この規制を歓迎する姿勢を示している。履歴書などのデータソースに基づいて有望な候補者を発掘するHiredScoreと、機械学習を活用した認知心理学に基づくオンラインアセスメントを提供するPymetricsの創業者は、11月に行われた市議会技術委員会のオンライン公聴会で、両社ともこの法案を支持した。
パイメトリクスのCEO兼共同創業者であるフリーダ・ポリ氏は、同社の技術は、履歴書などの従来の評価基準よりも公平な候補者情報を提供すると謳っている。ポリ氏によると、従来の評価基準は恵まれない背景を持つ人々を不利にする可能性があるという。同社は最近、ノースイースタン大学の研究者による公平性に関する監査を受けた。ポリ氏は、法案の監査要件はより厳しくなる可能性があると認めつつも、実際にどのように実施するかが不明確であり、何らかの形で法案として成立させるのが望ましいと述べている。「この法案は穏健ながらも、強力な効果を発揮します」とポリ氏は述べている。
市議会技術委員会の委員長、ロバート・ホールデン氏も、資金難に苦しむ市当局が採用ソフトウェアの精査方法を決定できるかどうかについて懸念を抱いている。また、提案された規制の対象となるソフトウェアを提供する企業からも代表団の意見を聴取しており、市議会の業務としては例年よりも業界からの関与が活発化している。業界からは、自主規制は信頼できるとの声も上がっている。ホールデン氏は、これまでの知見から、透明性の向上が不可欠であることは明らかだと述べている。「今、まるで無法地帯のようです」とホールデン氏は語る。「私たちは本当に透明性を確保しなければなりません」
ホールデン氏は、この法案が市議会での最終投票にかけられる前に、交渉や修正、そして市長室からの反対に直面する可能性が高いと述べている。可決されれば、2022年1月に施行される。
WIREDのその他の素晴らしい記事
- 📩 テクノロジー、科学、その他の最新情報を知りたいですか？ニュースレターにご登録ください！
- 確かにサイバーパンク2077にはバグが多い。だが、何よりも心がこもっていない。
- 地獄のレースカー事故―そしてドライバーが無事に生還した経緯
- Appleのアプリ「プライバシーラベル」は大きな前進だ
- キッチンに必要なのは、この7つの鍋とフライパンだけ
- 新型コロナウイルスワクチン開発競争は技術よりも運が重要だった
- 🎮 WIRED Games: 最新のヒントやレビューなどを入手
- ✨ ロボット掃除機からお手頃価格のマットレス、スマートスピーカーまで、Gearチームのおすすめ商品であなたの家庭生活を最適化しましょう
