顔認識ソフトウェアが彼の逮捕につながった。それは全くの間違いだった

カロンヌ・ソーヤーさんは、夫のアロンゾを刑務所から出すため、1週間仕事を休んだ。警察がアロンゾがボルチモア近郊でバスの運転手を暴行し、スマートフォンを盗んだと疑っていた当時、彼女は夫がソファで一緒に寝ていたことを知っていた。しかし、警察の記録によると、顔認識ソフトウェアを使った情報分析官が、バスの防犯カメラ映像に映っていた容疑者とアロンゾが一致する可能性があると判定し、警察官もそれを確認していた。

警察署で、そしてソフトウェアが一致候補として提示した夫の元仮釈放担当官との面談で、カロンヌさんは娘が最近撮影した携帯電話の写真の細部に注目した。夫は動画の容疑者よりも背が高く、ひげがあり、歯の間に隙間があると彼女は説明した。歩くときに右足が外側に曲がっているが、襲撃の映像ではそれが確認できなかった。

「夫は54歳だと言ったんです。この男は私たちの息子かもしれない」とキャロンヌ氏は言う。アロンゾは9日間の拘留を経て最終的に釈放されたが、その間、妻のグラディス・ナイト追悼ショーや理髪師の仕事に行けず、獲得していた建設契約も完了できなかったという。「私が全ての労働と駆け回りをこなせたことに感謝しています。私がいなければ、夫は今も自分がしていないことをしてそこに座っているでしょうから」とキャロンヌ氏は言う。ソーヤー夫妻の事件は2022年春に発生したが、これまで報道されていなかった。

アロンゾ容疑者が釈放された頃、バス事件の被害者は、動画に映っていた容疑者を別の男性、ディオン・バラード容疑者だと特定した。起訴状によると、バラード容疑者はソーヤー容疑者より身長が7インチ（約18cm）低く、20歳以上も若い。ある書類によると、バラード容疑者の母親と彼を逮捕した警察官もこの身元確認を行っており、容疑者は4月に裁判を受ける予定となっている。

メリーランド州交通局警察は度重なるコメント要請に応じず、ボルチモア郡のジョン・コックス州副検事は、バラードとソーヤーが同じ罪で逮捕されたことを認めなかった。WIREDは、バス事件とは無関係の罪でメリーランド州の刑務所に服役中のアロンゾ・ソーヤーにインタビューすることができなかった。

アロンゾ・ソーヤー事件は、顔認証による誤認捜査で無実の人々が逮捕された事例として知られている数少ない事例の一つであり、いずれも黒人男性である。2019年と2020年には3件の事件が発覚し、先月にはジョージア州在住のランドール・リード氏が、ルイジアナ州でのブランドバッグ窃盗事件に関与したとして逮捕状が裁判官によって取り消された後、釈放された事件も発生している。

キャロン・ソーヤーさんは今月、夫が公の場で経験したことを回想した。彼女はメリーランド州議会にビデオチャットで電話をかけ、警察による顔認識技術の使用を制限する法案を支持する演説を行った。この技術は米国ではほとんど規制されていないが、近年、地方自治体による規制や禁止措置が相次いで制定されている。

これらの政策を導いた議論は、警察による顔認証アルゴリズムの使用がもたらす弊害、例えば言論の自由や抗議活動への萎縮効果、あるいは監視ツールが有色人種コミュニティに対して不当に使用されることによる影響などに焦点を当てることが多い。ボルチモアでは、ソーヤー氏のケースが、この技術を制限する理由をより具体的に思い起こさせるものとなった。

メリーランド州ボルチモア郡選出の上院議員チャールズ・シドナー氏は、2022年秋にアロンゾ・ソーヤー氏の事件を知ったことがきっかけで、昨年は否決された顔認証規制法案の上院版を再提出することになったと述べている。「メリーランド州だけでなく、私の地元、つまり私の管轄区域内で起きているのです」とシドナー氏は語る。「法執行機関の中には、『あの男は9日で釈放されたので、システムはうまく機能している』と考える人がいるのではないかと思います。顔認証が捜査のきっかけとなり、無実の人々が刑務所送りになるようでは、問題です」

シドナー氏は長年、顔認証技術の規制強化に取り組んできました。2020年には、州および地方自治体による顔認証技術の使用を1年間停止する法案を提出しました。同年後半に発覚した、顔認証ソフトウェアによる誤認証をきっかけとした黒人男性の誤認逮捕事件は、新たな緊迫感をもたらしました。

顔認識システムは肌の色が濃い人を誤認してきた歴史があり、ボルチモア市民の60%以上が黒人であると自認しています。シドナー氏は、黒人の権利を守るために規制を早急に導入する必要があると感じています。シドナー氏は、顔認識技術があまりにも普及しているため禁止は現実的ではないと判断し、禁止には至らないものの、顔認識に関する規制を提案するようになりました。

シドナー議員が提案した法案、およびメリーランド州議会のもう一つの議院である下院に提出された同等の法案は、警察による顔認識技術の利用を、暴力犯罪、人身売買、または「公共の安全または国家安全保障に対する継続的な脅威」に関連する事件に限定するものである。また、警察が顔照合を行う対象を運転免許証と顔写真のデータベースに限定し、ソーシャルメディアを含むウェブから数十億枚の顔画像を収集するスタートアップ企業Clearview AIのようなサービスは利用できないようにする。

この法案では、警察によるこの技術の使用状況を詳細に記した年次報告書の提出、アルゴリズムが選んだリストから一致する可能性のある人物を選ぶ人間の分析官に対する技能試験の実施、逮捕にあたっては顔認識による一致以上の証拠を警察が持つことも義務付けている。

シドナー氏は、提案された法案がアロンゾ・ソーヤー氏のような次の事件を防ぐことはできないかもしれないと認めつつも、より良い結果につながることを期待している。「この法案は妥協案として提出されました。私が期待していたほど強力ではないことは確かです」とシドナー氏は言う。「彼らは（顔認証技術の）使用をやめるつもりはありません。何も対策が講じられない限り、規制されることなく使い続けるでしょう。」

メリーランド州の法案は、州議会議員らが検察官や国選弁護人、法執行機関、ACLUやイノセンス・プロジェクトなどの公民権団体と会合した作業部会からの意見を取り入れて作成された。

メリーランド州は顔認識規制を議論するのに特異な場所だと、メリーランド州公選弁護人事務所の法医学部門に所属する弁護士アンドリュー・ノースラップ氏は語る。ノースラップ氏はボルチモアを「監視技術の培養皿」と呼ぶ。非営利団体ヴェラ・インスティテュート・オブ・ジャスティスの2021年の分析によると、ボルチモアは米国の主要72都市の中で、一人当たりの警察支出額が最も高く、警察における監視技術の長い歴史を持つからだ。

2015年のフレディ・グレイ氏の死を受けて行われた抗議活動において、ボルチモアで顔認証を含む侵襲的な監視技術が使用されたことから、元下院監視・改革委員会委員長のイライジャ・カミングス氏は議会でこの問題を追及しました。そして2021年、ボルチモア市議会は、警察を除く公共機関および民間機関による顔認証技術の使用を1年間停止することを決議し、12月に期限切れとなりました。

ノースラップ氏は、キャロン・ソーヤー氏が今月行った下院司法委員会の公聴会で、この法案と技能試験の義務化を支持する発言をした。同氏は、顔認識技術の利用が普及するにつれ、誤った目撃者による身元確認に代わる、誤った顔認識が冤罪の主な原因となる可能性があると警告した。ノースラップ氏によると、アルゴリズムの助けを借りても、ほとんどの人は見知らぬ人を認識するのが苦手だという。

メリーランド州の警察と検察を代表する団体は、作業部会を通じて法案の策定に携わったものの、依然として反対を唱えている。司法委員会の公聴会で、メリーランド州警察署長協会のラス・ハミル会長は、アロンゾ・ソーヤー氏の事件は恐ろしいものだと述べたものの、法案には反対の立場をとった。ハミル会長は、法案は顔認識技術の適用対象となる事件の種類を厳しく制限しすぎているとして、警察が検索できる写真データベースにも制限があることに不満を表明した。

ワシントンD.C.近郊の都市部、モンゴメリー郡の警察署長ニック・ピチェルノ氏も、法案のこれらの部分は法執行の妨げになると述べた。ピチェルノ署長によると、署の警察官はこれまでにも、ドアベルカメラに映った公然わいせつ容疑者や、TikTok動画に映った児童虐待被害者の身元確認にこの技術を活用してきたという。彼は、銃器所持、児童ポルノ、家庭内暴力、動物虐待など、より多くの犯罪カテゴリーにおいて、容疑者と目撃者の身元確認に顔認証技術を活用できるよう、提案を修正するよう求めた。

ボルチモアの公選弁護人デボラ・レヴィ氏は公聴会で、自身が請求した公的記録によると、ボルチモア警察だけで2022年に顔認証技術を800回以上使用していたことが明らかになったと述べた。ある事件では、警察が銃を持った人物のインスタグラム写真を顔認証ソフトウェアにかけ、一致したとされる人物の住所でノックなしの令状を取得したとレヴィ氏は述べた。

キャロン・ソーヤーさんは、顔認証が「確実な本人確認の唯一の根拠とはならない」という規定があれば、夫のケースにも変化が生じたはずだと考え、この法案を支持しています。夫の事件は、警察に対する彼女の考え方を変え、適正手続きへの信頼を失わせたと彼女は言います。そして、メリーランド州で議論されているような規制が社会に早急に必要だと確信したのです。

「夫が経験したのと同じ経験をした人がどれだけいるか、そして彼らのために戦ってくれる人がいなかったか、ただ考えてしまいます」と彼女は言う。「顔認識と法執行機関の怠慢のせいで、自分が犯していない罪で今刑務所にいる人がどれだけいるでしょうか？」

メリーランド州議会は4月に閉会し、2024年1月まで次の会合は開かれない。それまでに提案された法案が可決されなければ、同州では警察による顔認識技術の使用は少なくともあと1年間は規制されないことになる。