ウォルマートの従業員は、万引き防止AIが機能していないことを証明しようとしている

1月、同僚が奇妙なメールを受け取りました。彼女が私に転送してくれたそのメールは、ウォルマートの社員数名から届いたもので、彼らは自らを「Concerned Home Office Associates（心配する本社社員）」と名乗っていました。（アーカンソー州ベントンビルにあるウォルマートの本社は、しばしば「Home Office（本社）」と呼ばれます。）ジャーナリストが匿名の情報提供を受けることは珍しくありませんが、彼らが巧みに制作した独自の動画を添えて情報提供することは滅多にありません。

従業員たちは、アイルランドのコークに拠点を置く小規模な人工知能（AI）企業であるEverseen社に「もう限界だ」と語った。ウォルマートは2017年から同社の技術を導入している。ウォルマートは数千の店舗でEverseen社を導入し、レジやセルフチェックアウト端末での万引きを防止している。しかし、従業員たちは、Everseen社が無害な行為を窃盗と誤認し、実際に窃盗を阻止できないことが多かったと主張している。

彼らはWIREDの取材に対し、世界最大級の小売業者である雇用主が、欠陥があると考えるAIに依存していることに落胆していると語った。ある従業員は、その技術は頻繁に間違いを起こすため、社内で「NeverSeen（見たことのない）」と呼ばれることさえあると語った。WIREDは、従業員たちに報道機関への発言権限がないため、匿名を条件に取材に応じた。

従業員たちは、ウォルマートによるEverseenの使用に長年不満を抱いており、同僚たちがこの技術について経営陣に懸念を表明したが、叱責されたと主張している。2019年6月にBusiness Insiderの記事でウォルマートとEverseenの提携が初めて公表された後、彼らは報道機関に訴えることを決意したという。記事では、Everseenが天井に設置された監視カメラの映像をAIで分析し、顧客がスキャンせずに商品をバッグに入れるなど、リアルタイムで問題を検知できる仕組みが紹介されている。システムが何かを検知すると、自動的に店舗スタッフに警告が送られる。

「Everseenは人間の限界を克服します。最先端の人工知能、コンピュータービジョンシステム、そしてビッグデータを活用することで、異常な行動やその他の脅威を検知できます」と、記事で紹介されているプロモーションビデオで説明されています。「私たちのデジタルアイは完璧な視力を持ち、休む必要はありません。」

Business Insiderの記事で主張された主張を反駁するため、Concerned Home Office Associatesは、ウォルマート3店舗でEverseenの技術がスキャンされていない商品を検知できないことを示す動画を作成しました。陽気なエレベーターミュージックに乗せて、動画は、ある人がセルフレジでReese'sのホワイトピーナッツバターカップの特大パッケージを2つ購入する場面から始まります。カップは積み重ねられていたため、1つしかスキャンされませんが、両方とも問題なく袋詰めエリアに置かれます。

同じ人物が牛乳2ガロンの取っ手を掴み、片手でスキャナーに通します。会計は片方だけで、両方とも袋詰めエリアに送られます。次に、自分の携帯電話を機械の上に置くと、助けを待つ必要があるという警告が表示されますが、これは誤検知です。「Everseenがついに警告！しかし、それは間違いでした。またしても」とキャプションが流れます。映像制作者はさらに2店舗で同じ手順を繰り返しますが、子犬が描かれたハート型のバレンタインデー用チョコレートボックスとフィリップス ソニッケア 電動歯ブラシのスキャンに失敗します。最後に、Everseenが100ドル以上の窃盗未遂を阻止できなかったことがキャプションで説明されます。

誤検知

このビデオは、エバーシーンの技術が宣伝ほどうまく機能していないという決定的な証拠ではないが、その存在は、匿名のウォルマート従業員のグループが感じたフラストレーションのレベルと、彼らが異議に正当性があることを証明するためにどれほど努力したかを物語っている。

ウォルマートの損失防止プログラムに関する知識も業務に含む従業員たちはインタビューで、Everseenに関する最大の懸念はセルフレジでの誤検知だと述べた。従業員たちは、この技術が無害な行動を万引きの可能性と誤認することが多く、それが顧客と店員の苛立ちを募らせ、レジ待ちの列を長引かせていると感じている。「まるで騒々しい技術で、安全を守るふりをしているだけの偽のAIのようだ」とある従業員は語った。

新型コロナウイルス感染症のパンデミックにより、彼らの懸念はより切迫したものとなっている。ある在宅勤務の従業員は、誤検知によってウォルマートの従業員がソーシャルディスタンスのガイドラインを不必要に破ってしまうのではないかと懸念していると述べた。Everseenが問題を警告した場合、店舗従業員は介入し、万引きなどの問題が発生していないかを判断する必要がある。WIREDが入手した4月の内部文書によると、ウォルマートの本社マネージャーは、誤検知によって生じる接触の増加によって従業員が危険にさらされていることに強い懸念を示し、顧客と従業員を守るためにEverseenシステムを停止すべきかどうかを尋ねていた。

新型コロナウイルス感染症の流行前は、「理想的とは言えず、顧客体験も悪かった」と従業員は語った。「AIは今や公衆衛生上のリスクを生み出している」（ハフポストは先週、ウォルマートの従業員が、パンデミックの最中にエバーシーンの技術が店舗スタッフを危険にさらしているのではないかと懸念していると報じた）。

新型コロナウイルスがアメリカに到達すると、アメリカ国民はウォルマートで食料品や日用品の買いだめに殺到し、売上は急上昇しました。しかし、従業員の感染が急速に進み、小売業従業員の支援を目的とした非営利団体ユナイテッド・フォー・リスペクトによると、少なくとも20人のウォルマート従業員が新型コロナウイルスに感染し、亡くなっています。ユナイテッド・フォー・リスペクトは、全米のウォルマート店舗における新型コロナウイルス感染率と労働環境に関する情報をクラウドソーシングで収集しています。ユナイテッド・フォー・リスペクトは先月、数百人のウォルマート従業員がより安全な労働環境と福利厚生の改善を求めて全国ストライキに参加したと発表しました。

ウォルマートの広報担当者は、同社は顧客と従業員の安全確保に尽力しており、従業員の新型コロナウイルス感染症への感染率は米国全体の人口よりも低いと考えていると述べた。同社は、Everseenによる誤検知が広範囲にわたる問題であることを否定し、新型コロナウイルス感染症への懸念からシステムを停止することを検討したことはないと述べた。

「当社は定期的に技術を評価しており、チェーン全体にわたるEverseenの大規模導入からも明らかなように、現在当社の基準を満たしていると確信しています」と広報担当者はメールで述べた。パンデミックが始まる直前、ウォルマートはEverseenシステムに大幅な改良を加え、その結果、アラートが全体的に減少したと述べている。広報担当者は、これらの改良がどのようなものだったかについての質問には回答しなかった。

広報担当者はまた、顧客がクレジットカードに問題を抱えている場合など、セルフレジでの取引中に従業員が介入する理由は様々だと指摘した。同社は、セルフレジの定期的な清掃や従業員への防護具の提供など、こうしたやり取りにおける従業員の安全確保のため、様々な対策を講じていると述べた。さらに、従業員には遠隔からほとんどの介入に対応できる携帯型デバイスが配布されているという。

エバーシーンは、自社の技術に関する質問への回答を控えた。広報担当者は声明の中で、「潜在的な盗難を正確かつ効果的に特定できるため、小売業者はこれまでに数千の店舗で導入に成功しており、今後もさらに多くの導入が計画されている」と述べた。また、セルフサービスレジにおける介入件数のうち、エバーシーンが占める割合は通常10%未満に過ぎないと付け加えた。別の声明では、広報担当者は「エバーシーンは、特にCOVID-19パンデミックの期間中、顧客が買い物客と店舗スタッフに可能な限り最高の体験を提供できるよう支援することに尽力しています。セルフレジは、一般的に非接触型のショッピング体験の利点を提供し、適切なソーシャルディスタンスの確保を可能にし、人員が限られている混雑した店舗での有人レーンを回避できます」と述べた。

しかし、Concerned Home Office Associates（懸念する内務省関係者）は、Everseenに対する懸念はパンデミックのずっと前から存在していたと述べている。WIREDが入手したメールには、2017年と2018年の両方で、他の社員がEverseenの技術が盗難を防げなかったことについて懸念を表明していたことが示されている。社員たちは、ウォルマートのレジの大部分を製造しているNCRコーポレーションがEverseenの競合企業であるStopLiftを買収したため、ウォルマートがEverseenへの投資を継続していることに特に憤慨していると述べた。彼らはこの買収をEverseenへの支持と捉え、StopLiftの技術がなぜさらに研究されないのかと困惑していた。

さらに、従業員らは社内で得た情報によると、ウォルマート社内の研究開発グループであるインテリジェント・リテール・ラボ（IRL）が、エバーシーンのソフトウェアよりも精度が高いと確信している独自の盗難防止ソフトウェアを開発したと述べた。あるウォルマート従業員によると、この技術の存在は以前ウォール・ストリート・ジャーナルで報じられていたが、現在約50店舗で試験運用されているという。

ウォルマートは社内の盗難防止ソフトウェアに関する質問への回答を控えたが、WIREDの報道には異議を唱えなかった。「企業レベルでは、約5,000店舗の営業範囲全体で、常に複数のテストが行​​われています」と広報担当者は声明で述べた。「IRLの目標は、他の店舗にも展開できるAI機能を構築することです。社内で構築した機能は、少数の店舗で定期的にテストしています。」

縮小の進行

Everseenの技術は、セルフレジの根深い問題を解決するために設計されました。顧客が自分で商品をスキャンして支払いを行えるようにすることで、小売業者の人件費は削減されますが、万引きや従業員による窃盗などの問題により、在庫損失、いわゆる「在庫減」も増加しています。「セルフレジでの窃盗は、従来のレジと比べて飛躍的に増加しています」と、ドリュー大学の社会学教授で『The Overworked Consumer: Self-Checkouts, Supermarkets, and the Do-It-Yourself Economy』の著者であるクリストファー・アンドリュース氏は述べています。

かつてウォルマートなどの小売業者は、セルフレジによる万引き防止策として重量センサーを採用していましたが、誤検知が発生しやすく、顧客の不満を招いていました。現在、一部の店舗はEverseenのような企業に目を向けています。Everseenは、監視カメラやマシンビジョンを活用することで、在庫損失の削減と顧客満足度の向上を約束しています。Everseenは、複数の大手小売業者と提携していると述べています。アマゾンは、コンビニエンスストア「Amazon Go」で同様の技術を採用しており、カメラネットワークが顧客が手に取った商品を自動的に記録しています。（アマゾンは現在、「Just Walk Out」技術を他社にライセンス供与しています。）

新型コロナウイルス感染症のパンデミックとその余波の中、顧客が低リスクな買い物方法を求める中、セルフレジは店舗にとってさらに重要になる可能性がある。NCR社は、小売業者に対し、機器を可能な限りタッチレスにするための改造を支援していると発表した。例えば、顧客が「クレジットカード」決済オプションを押さなくてもデビットカードやクレジットカードを挿入できるように機器を再構成するなどだ。「キャッシュレス決済などに加えて、セルフレジが公衆衛生戦略として位置づけられるようになったのは興味深いことです」と、非営利団体データ＆ソサエティの研究員で、小売業従事者への新技術の影響について執筆しているアレクサンドラ・マティースク氏は述べている。

「セルフレジは、この困難な時期にお客様が必要な商品を安全に手に入れるためのソリューションの一つに過ぎません。配達、ピックアップ、レジでのタッチレス決済、オンラインショッピングといった他の選択肢に加えて、セルフレジも提供しています」とウォルマートの広報担当者は声明で述べています。「お客様はこれまで以上にセルフレジをご利用いただいており、私たちは引き続き、お客様の店舗体験が安全で、手頃な価格で、便利であり、従業員の安全も確保できるよう、尽力してまいります。」

WIREDのその他の素晴らしい記事

• マジック：ザ・ギャザリングの株式仲買人たちは本気でプレイする
• この絶滅の危機に瀕したイルカは他の動物を絶滅から救うかもしれない
• 自宅でもっと美味しいコーヒーを淹れる方法
• 科学的厳密さの預言者であり、コロナの逆説者でもある
• パンデミックはネット中立性の利点を示している
• 👁 AIがCOVID-19の潜在的な治療法を発見。さらに、最新のAIニュースもお届けします
• 💻 Gearチームのお気に入りのノートパソコン、キーボード、タイピングの代替品、ノイズキャンセリングヘッドホンで仕事の効率をアップさせましょう