ムスタファ・チフチ / アナドル通信社 / ゲッティイメージズ / WIRED
パンデミックの間、シャヒド*は週6日、車に乗り込み、バーミンガムの街中をUberで走り回っていました。過去5年間で、彼はプロフィールを築き上げてきました。顧客評価は4.96、そしてできるだけ多くの乗客を受け入れることで獲得したゴールドドライバーステータスです。しかし、8月上旬のある朝、彼は仕事にログインできないことに気づきました。
ウーバーのアルゴリズムは、誰が乗車し、いくら支払われるかを決定するもので、「不適切な利用の継続的なパターン」を検知し、同社は彼をシステムから排除した。彼はこの決定に対して異議を申し立てることができなかったと主張している。
Uberは、具体的にどのような過ちを犯したのかを彼に伝えることを拒否したと彼は言う。「詳細をお伝えすることはできませんが、不適切な使用の例としては、乗客とドライバーのアカウントを同時に使用すること、アカウントを重複して作成すること、乗車を完了する意図がないのに乗車を受け入れること、虚偽の料金を請求すること、ドライバーアプリや乗車情報を操作する意図または効果を持つソフトウェアのインストールと使用などが挙げられます」と、彼に送られたメッセージには記されていた。
上記の理由により、パートナーシップを終了することを決定いたしました。これにより、Uberアプリを通じて独立したサービスを提供できなくなります。
Uberの利用規約によると、シャヒド氏は詐欺師とみなされていた。彼は不正行為を否定しているが、この決定に異議を申し立てる手段はなかったと主張している。彼は一瞬にして収入の70%を失い、それ以来、配車プラットフォーム「Ola」だけに頼って生計を立てている。
このような苦境に陥っているのは彼だけではありません。シャヒドが失格になる1年前の2019年7月、アリ*はロンドンでの勤務開始にスマートフォンを取り出そうとしたところ、ログインできないことに気づきました。Uberからメッセージが届き、彼のアカウントがUberの利用規約とポリシーに違反していることが判明したと伝えられました。「最近の乗車状況を確認したところ、不正行為に関連する不規則な乗車が複数確認されました」とメッセージには書かれていました。
「あなたのアカウントは不適切な使用と判断されたため、無効化されました。誠に申し訳ございませんが、この無効化は永久的なものです。」
4人の子供の父親であるアリ氏は、アプリの誤作動を主張し、シャヒド氏と同様に不正行為を否定している。彼はUberのフルタイムドライバーとして働いており、数ヶ月前に2万9000ポンド相当の車をローンで購入したという。Uberから、アプリで高い評価を得れば高級車を運転できると言われたという。解雇された後、彼は乗れない車のローン返済に追われた。「この1年半でUberに50回、60回もメールや電話をしました。本当に困っていました。何度も懇願し、頼み込みましたが、それでも返事がありませんでした」とアリ氏は語る。
シャヒド氏とアリ氏は、今週、配車サービス会社ウーバーに対し訴訟を起こした4人のドライバーの一人です。彼らは、アルゴリズムによって自分たちを「ロボット解雇」したと訴えています。ドライバー3人は英国在住、1人はポルトガル在住で、不正行為には関与しておらず、ウーバーはプラットフォームからの解雇を正当化する証拠を一切開示していないと主張しています。ウーバーは4人のドライバーのいずれも、不正行為で警察に通報していません。
Uberのデータが保管されているオランダで提起されたこの訴訟は、裁判所がドライバーの解雇につながったアルゴリズムを覆し、Uberがドライバーについて収集し、そもそも彼らを解雇するために使用した情報を共有するよう強制すべきだと主張している。この訴訟では4人のドライバーのいずれも名前が公表されておらず、WIREDの取材に応じた人々は匿名を条件に話に応じている。
この訴訟は、一般データ保護規則（GDPR）第22条に基づいて提起された初の訴訟となる。2018年に欧州連合（EU）が導入したGDPRは、ユーザーデータを保護し、欧州市民がアルゴリズム（しかもアルゴリズムのみ）が独自に自分に関する決定を下したと感じた場合、情報の提供を求めることを認めている。
彼らが勝訴した場合、他にも多くの訴訟が起こされる可能性が高い。4人のドライバーを代表して訴訟を起こしているアプリドライバー＆宅配業者組合（ADCU）によると、2018年以降、ドライバーが不正行為で誤って告発され、控訴権もなく即座にアカウントを停止された事例は1,000件をはるかに超えているという。
ドライバー側のACDU代表ジェームズ・ファラー氏は、ウーバーはドライバーの要請に対して自動返信が送られたため、ドライバーの禁止に人間による「意味のある」介入があったことを証明できないと主張している。
この議論はUberに対する訴訟の核心です。情報コミッショナーによれば、人間の意思決定を支援または強化するだけのAIシステムは、これらの条件の対象外となります。しかし、人間が「承認」したからといって、その意思決定が第22条の適用範囲外になるわけではありません。人間の入力は意味のあるものでなければなりません。
ICOと欧州データ保護委員会は共に、システムの推奨を確認する際には人間の審査員が積極的に関与する必要があり、自動化された推奨を個人に「日常的に」適用すべきではないと以前に表明している。また、人間の関与は単なる形ばかりではなく、積極的なものでなければならないとしている。ガイダンスでは、審査員は推奨に反する「権限と能力」を含め、決定に実質的な影響力を持つべきであるとされている。
しかし、この苦情には、Uberのアルゴリズムに入力された新たな情報が考慮されていない。ファラー氏は、Uberが昨年、ロンドン交通局（TfL）とのライセンス問題の解決に向け、リアルタイムID認証技術を導入して以来、自動解雇が増加していると主張している。ファラー氏は、TfLがUberにリアルタイム認証を強制したため、この解雇プロセスに「加担」しており、その結果、Uberは「欠陥のある技術の導入を急ぎ、既存の問題を悪化させた」と述べている。TfLはコメントを控えた。
リアルタイムID技術では、ドライバーに定期的に本人確認のため自撮り写真を撮影するよう求めています。撮影された自撮り写真はアカウント所有者のプロフィール写真と照合され、さらに運転免許証と照合されます。ドライバーがID確認に失敗した場合には、更なる確認が行われるまでアカウントが一時的に停止され、場合によっては無期限に停止される可能性があります。
この措置はロンドン交通局の納得を得られず、43人のドライバーがアプリ上で身元を偽装し、1万4000回以上の乗車を行っていたことが判明した後、ロンドン交通局はUberのロンドン営業免許を剥奪することを決定しました。関与した41人のドライバーの免許はTfLによって取り消されました（うち2人は無免許でした）。その後、UberはTfLに対する控訴に勝訴し、ロンドンでの18ヶ月間の暫定営業免許を取得しました。9月28日の判決では、UberとTfL間のコミュニケーションが改善され、同社が顧客保護のためにプラットフォームに実施した改善に裁判所が満足していると述べられました。
しかし、こうしたコミュニケーションは、Uberのアルゴリズムの不透明性について長年不満を訴えてきたドライバーには必ずしも届いていない。このアルゴリズムこそが、誰が仕事を得ていくらの報酬を得るかの決定を支え、不適切な行動や遅刻といったドライバーのプロフィールを評価する基盤となっているのだ。
Uberは2020年1月、英国のドライバー向けにロイヤルティ制度を導入しました。乗車ごとにポイントを貯めることで、無料の教育コース、ロードサービス、ジム会員、割引車両メンテナンスなどの特典が提供されます。ドライバーは乗車を積極的に受け入れ、各ステータスに到達します。ステータスは、ブルー（基本レベル）、ゴールド（ロンドンでは500ポイント、その他の地域では600ポイント）、プラチナ（ロンドンでは900ポイント、その他の地域では1,200ポイント）、ダイアモンド（ロンドンでは1,300ポイント、その他の地域では1,800ポイント）と続きます。ドライバーたちは、この階層システムにおいて、アルゴリズムが自分の情報をどのように利用して配車先を決定しているのか理解していないと述べています。
ドライバーが参加を望まない場合の対応も明確ではありません。ADCUはUberのコミュニティガイドラインを指摘し、不正行為の定義として、仕事の依頼を断ったり、高額な料金を狙って意図的にログアウトしたりすることを挙げています。組合は、Uberがパフォーマンス関連の解雇を不正関連の解雇として隠蔽することで、ドライバーの労働者権利に対する義務を軽視していると非難しています。
パンデミックの間、アプリの利用を禁止されたドライバーたちは、収入の減少を補うのに苦労してきました。「今はBolt、Ola、FreeNowで働いています」と、Uberを提訴した3人目の英国在住ドライバー、ラヴィ*は言います。「パンデミックはひどいものでした。午前5時から午後2時頃に仕事を終えて、時給27ポンドしかもらえません。以前はもっと稼いでいました。1日150ポンドから200ポンドです。」
ロンドン在住のドライバーは、アカウントを停止された後、TfL（ロンドン交通局）に対し、なぜ免許を保持すべきなのかを説明するために14日間の猶予を与えられます。しかし、彼らは自分が何の罪で告発されているのか、また、どのように無実を証明すればいいのか分かりません。今週開始されたGDPRに基づく訴訟に関与した2人のドライバーは、TfLから連絡を受けたのは、それぞれプラットフォームから解雇されてから1年後と2年後の夏だったと述べています。
「規制監督の弱さです。運転手に何年も前の行為について尋ねるのは、賢明な執行とは言えません」とファラー氏は言う。「TfLは運転手の労働条件を無視している一方で、コンプライアンス問題を悪化させているのです。」
※ドライバーらは匿名を条件に話すことに同意したため、名前は変更されています。
ナターシャ・ベルナルはWIREDのビジネスエディターです。@TashaBernalからツイートしています。
この記事はWIRED UKで最初に公開されました。
