ゲッティイメージズ/WIRED
Uber Eatsの配達員たちは、同社の「人種差別的な」顔認証ソフトウェアが自分たちの顔を認識できないため解雇されたと主張している。Uberが「写真比較」ツールと呼んでいるこのシステムは、配達員やドライバーに自分の写真を撮影させ、同社のデータベースにある写真と比較する。
Uber Eatsの配達員14人が、WIREDに対し、顔認識技術の不具合を示す証拠を提供した。彼らは、撮影した自撮り写真が同社の「リアルタイムIDチェック」に不合格となったため、解雇の脅迫、アカウント凍結、あるいは永久解雇の憂き目に遭った。また別の配達員は、自撮り機能が動作しなかったために解雇された。労働組合は、この問題が全国の無数のUber Eats配達員や個人タクシードライバーにも影響を与えていると主張している。
数千件の配達を行い、満足度100%を誇っていた労働者たちは、プラットフォームから突然削除されたと訴えている。その手続きは自動化されており、異議申し立ての権利もなかったと彼らは主張している。会社へのメッセージでは、多くの人が復職を訴えた。しかし、全員が同じ返信を受け取っており、解雇は「恒久的かつ最終的なもの」であり、Uberは「この決定の理由を理解してほしい」としている。
ウィリアム*は、シェフィールドでUber Eatsの配達員として、週6～7日、1日16時間働いていましたが、2020年10月に自撮り写真のチェックを受けた後、アカウントへのアクセスをブロックされてしまいました。「一日中メッセージを送ろうとしましたが、毎回同じ返信が返ってくるだけでした」と彼は言います。
「Uber Eatsで稼いだお金だけで、家賃、自動車保険、食費、携帯電話代など、あらゆる支払いに使っていました」と彼は言う。その月は光熱費を払うために1,000ポンドの借金をせざるを得なかったという。彼が英国独立労働組合（IWGB）に連絡し、IWGBがUberに上場をちらつかせると脅す書簡を送ってきたことで、ようやくUberは撤回した。
Uberは、配達員がリアルタイムの自撮り写真を提出する際に、AIと人間による認証のどちらかを選択できると述べている。しかし、人間による認証を選択した場合、ソフトウェアが犯すミスを覆すことはできないと配達員は主張している。デビッド*は、面接の準備として髭を剃った後、アプリにログインした。彼が自撮り写真を提出すると、アプリは写真が本人ではないと判断。24時間以内に代わりの配達員の情報を提供するよう要求し、さもなければ解雇される可能性があると警告した。
「公式ルートを試してみましたが、代理の人に関する情報を提供するオプションしか表示されませんでした。ミスを指摘する方法がありませんでした」とデイビッドさんは言います。あるジャーナリストがUberの広報チームに連絡を取ったおかげで、彼のアカウントは永久に閉鎖されることは免れましたが、多くの人はそうではありませんでした。
ウィリアムとデビッドは、被害を受けた他の配達員と同様に、シフトを違法に他者に下請けに出していたとして告発されました。Uber Eatsの配達員は独立請負業者であるため、技術的には業務を下請けに出すことが許可されていますが、身元調査を受けていない人や合法的に就労できない人に仕事を委託することへの懸念が高まっています。これを阻止するため、Uberは昨年4月、ユーザーがアプリを開く際に本人確認の手順を追加しました。配達員とドライバーは、ログインしている本人であることを証明するために自撮り写真を撮影する必要があります。
Uberは、配達員が顔写真を提出した際に本人確認を行うため、Microsoftの顔認証ソフトウェアを使用しています。しかし、この種のソフトウェアは、肌の色が濃い人の顔の識別に失敗するという実績があります。2018年には、Uberが使用している同様のソフトウェアで、肌の色が濃い女性の顔の識別に20.8%の失敗率があったことが判明しました。肌の色が濃い男性の顔の識別失敗率は6%でした。Uber Eatsの配達員の大多数は男性で、多くはBAME（黒人・青少年・貧困層）出身です。白人男性の場合は0%でした。
189種類の顔認証システムを対象としたある研究では、白人以外の顔の識別において、全てのシステムが著しく性能が劣り、場合によっては10倍、あるいは100倍も性能が劣ることが判明しました。さらに、研究室でうまく機能するものが、必ずしも現実世界でうまく機能するとは限りません。Uberの運転手が撮影する自撮り写真は、画質が悪く、古いスマートフォンで撮影され、照明が暗い場所で撮影されることが多く、これらのプログラムが訓練されているプロのスタジオで撮影された画像とはかけ離れた状況です。
「異なる民族間で同等に機能する顔認識ソフトウェアは存在しません。そのような技術は存在しないのです」と、エセックス大学の社会学者で顔認識ソフトウェアを専門とするピーター・フッシー教授は説明する。「すでに不平等な環境にそのような技術を導入すれば、状況はさらに悪化し、人種間の不平等が増幅されるだけです。」
Uberの広報担当者は、同社が認証チェックを必要としているのは「潜在的な詐欺」を防ぐためだと強調した。広報担当者は、プラットフォームからパートナーを排除する決定は「常に人による手作業によるレビューを伴う」とし、「排除された人は誰でも、決定に対する異議申し立てのために当社に連絡できる」と述べている。広報担当者は、Uberが認証システムの正確性を調査する監査を実施したことがあるかどうかについてはコメントしなかった。Microsoftは、自社技術の不具合率に関するコメント要請には回答しなかった。
「労働者たちが仕事に向かう際に最も恐れているのは、まさにこれです」と、IWGBのアレックス・マーシャル会長は語る。「そして、BAMEコミュニティの人々が影響を受けているのは間違いなく増えています。これは間違いなく間接的な人種差別です」。マーシャル会長によると、アプリで働く権利を失ったドライバーたちは、家賃や光熱費を払えなくなり、フードバンクやシェルターに頼っているという。あるドライバーは「墓地にテントを張らざるを得なかった」という。
IWGBは、ギグエコノミーの配達員を解雇から守る法的枠組みが欠如しているため裁判は困難だと述べているが、解雇を覆すためにケースバイケースで闘っており、議会に早期動議を提出するよう働きかけている。
Uberは顔認証技術の使用をめぐって既に訴訟を起こされている。2019年には、米国のある黒人ドライバーが訴訟を起こし、自撮りソフトが「真っ暗闇」の中で自分を認識できなかったため、写真を人工的に明るくしなければならなかったとして解雇されたと主張した。
WIREDが取材したUber Eatsのドライバー全員が、自身も知り合いもシフトを下請けに出したことはなく、収入があまりにも少ないため、下請けに出しても意味がないと語った。「代行のために解雇されたメンバーのほとんどは、週60時間働いても生活が苦しい状態です」とマーシャルは言う。「彼らはいつ自分のアカウントを他人に貸せるというのでしょうか？」
違法下請けがこれほど深刻な問題となっている理由の一つは、規制にあります。ロンドン交通局（TfL）は、ウーバーのロンドンにおける個人タクシー営業免許の復活契約の一環として、無免許運転手から人々を守るため、違法下請けを取り締まるよう同社に圧力をかけました。
Uberの顔認証システムは、Uberの従業員だけでなく、姉妹会社であるUber Eatsの従業員にも適用されます。TfLの広報担当者は、2018年末から2019年初頭にかけて、ロンドンで43人の無許可Uberドライバーが14,000回もの乗車を行ったことを強調し、詐欺行為に関する懸念は首席判事によって裏付けられていると強調しました。この判決を批判する人々は、当時ロンドンで営業していた45,000人のUberドライバーのうち、43人のドライバーはごく一部に過ぎないと指摘しています。
この分野に進出しているのはUberだけではありません。昨年12月、同じくライドシェア企業のBoltは、Uberと同様のAIとドライバーの顔認証システムを導入するための新たな資金調達キャンペーンで1億5000万ユーロを調達しました。
2021年3月1日 12:40 GMT 更新: Uber のシステムは、人物を識別するために顔認識技術ではなく、顔識別技術を使用します。
この記事はWIRED UKで最初に公開されました。
