ゲッティイメージズ/WIRED
大手IT企業はアイデンティティ危機に陥っている。Amazon、Microsoft、IBMはいずれも、警察への顔認識技術の販売を停止すると発表した。この動きは、ジョージ・フロイド氏の死をきっかけに始まった人種差別と警察の暴力に対する世界的な抗議活動が数週間続いた後に起きた。
しかし、顔認識はほんの始まりに過ぎません。テクノロジーと警察活動はより深いレベルで絡み合っており、法執行機関に新たな技術を導入するためのイノベーションが数多く起こっています。警察や司法制度は、AIを活用した意思決定ツール、予測型警察活動、さらにはインターネット接続型ドアベルの実験を行っています。活動家たちは、警察が新システムを厳密に試験・評価する前に急いで開発・導入していることを批判しています。
顔認識技術に関しては、3社はそれぞれ異なるアプローチでモラトリアム（一時停止）措置を講じている。IBMのアルヴィンド・クリシュナCEOは米国議会に対し、「汎用IBM顔認識・分析ソフトウェア」を法執行機関に提供することを停止すると述べた（クリシュナCEOは汎用システムの定義は示さなかった）。また、これらの技術に関する国家的な議論が必要だと述べた。Amazonは、Rekognitionソフトウェアの販売を1年間停止し、その使用に関する法律が整備されるまでの期間を延長すると発表した。Microsoftも、新たな法律の導入を求める姿勢を示した。
顔認識システムの危険性に対する懸念は今に始まったことではありません。公共空間で実際に使用されている顔認識技術は、カメラの視野を通過する人の顔をスキャンし、事前に登録された疑わしい人物の画像データベースと照合することで機能します。この照合プロセスは、以前に収集されたデータに基づいて学習されたアルゴリズムによって行われ、人の顔の特徴を識別します。
しかし、もしこのデータに根本的な問題があれば、現実世界で使用されているシステムに転用される可能性があります。MITメディアラボの研究員ジョイ・ブオラムウィニ氏とその同僚による研究では、顔認識システムは対象者が白人男性の場合により正確であることが示されており、Amazonのものも含め、こうしたシステムは白人よりも有色人種を誤認することが多いことが知られています。Amazonはこの調査結果を否定し、最高技術責任者（CTO）は、自社のAIがどのように使用されるかについては責任を負わないと述べています。
英国では、顔認識システムの精度が不十分であることが判明し、警察官が誤った人物を停止させてしまう事態が発生しています。ロンドン警視庁は、ウェールズにおける顔認識技術の使用はプライバシーや市民の自由に関する法律に違反しないとの裁判所の判決を受け、2020年1月に顔認識の試験運用を正式な導入へと移行しました。
世界中で、顔認識システムは特定の法律による規制をほとんど受けていません。中国では、この技術は数百万人のウイグル人を含む少数民族の監視に利用されてきました。ウガンダでは、警察はファーウェイ社が提供する大規模な顔認識カメラネットワークを使用していたことを認めざるを得ませんでしたが、この技術が政治的反対派のスパイ活動に利用されていたことは否定しました。
慈善団体プライバシー・インターナショナルの法務担当者、イオアニス・コウヴァカス氏は、これらすべてのシステムに共通する要素として、その範囲と使用方法に関する透明性の欠如を挙げる。コウヴァカス氏によると、警察や法執行機関が大手テクノロジー企業と結ぶ契約や、その結果として企業に提供されるものについては、かなりの秘密主義が横行しているという。契約内容や条件が公表されることは稀で、コウヴァカス氏は、民間企業が開発した技術が「公共の利益」を主な基準として機能させることは決してないだろうと付け加える。アマゾンは、動きを自動的に記録・保存できる自社のドアベル「リング」のプロモーションのため、警察と契約を結んだ。契約には、警察がアマゾンの事前承認なしにリングについて話すことを禁じることも盛り込まれている。
「このような侵入的な監視能力が伝統的に国家、あるいは警察や国家機関に委ねられてきたのには、非常に明確な理由があります」とコウヴァカス氏は付け加える。プライバシー・インターナショナルは顔認識技術の使用に反対している。「主な理由は、顔認識技術があまりにも侵入的で、私たちの市民的自由を著しく侵害する可能性があるため、民間企業によって行われるべきではないからです」と彼は言う。
それでもなお、世界中の法執行機関は、警察活動を支援するための新興技術に注目しています。顔認識システムが特定の犯罪で指名手配されている容疑者の特定に役立った例もあります。警察シンクタンク「ポリス・ファウンデーション」の報告書によると、英国のエイボン・アンド・サマセット警察は、断片化されたデータベースを統合し、警察官のパフォーマンスをより深く理解するためにソフトウェアを活用しています。
ほとんどの新しいシステムには共通点が一つあります。それは、意思決定の支援、あるいは自動化にデータを利用することです。しかし、こうしたデータ駆動型システムには欠陥が潜んでいる可能性があります。2018年3月、ダラム警察は、再犯の可能性を判断するために使用していたアルゴリズムシステムの一部に修正を加えました。システムの検証により、郵便番号データを含めることで、貧困地域における犯罪や再犯に対する意識が強化される可能性があることが判明しました。「警察活動の一部は、既に法的・規制的枠組みから逸脱している」と、警察財団が後援し、2019年3月に発表された報告書は結論づけています。
英国の分析によると、同国では少なくとも14の警察が犯罪予測ソフトウェアを使用している。AIベースの予測型警察システム「PredPol」には、基盤となるコードに欠陥があると研究者らが主張している。ロサンゼルス警察は4月、PredPolの使用を中止した。これは、ケント警察が2018年末に同システムを廃止したことに続くものだ。「PredPolは犯罪発生の可能性の高い場所を予測する上で優れた実績を持っていました」と当時、警察署長は述べ、「さらに難しいのは、その情報を使って犯罪を減らすことができたことを示すことです」と付け加えた。
英国王立安全保障研究所の国家安全保障研究員、アレクサンダー・バブタ氏は、警察による新技術導入の決定は、効果と均衡性に基づいて行われるべきだと述べている。研究中に話を聞いた警察署長たちは、新技術の使用方法と使用禁止方法を規定する新たな規制、場合によっては新たな法律の制定を求めているという。英国では、新興技術を規制する具体的な法律は存在しないものの、人権法と平等法は既に存在しており、それらを新たなシステムの規制に活用することができる。
「民間企業が警察に顔認識技術を販売すべきか、あるいはそもそも警察が顔認識技術を使うべきかどうかという観点からのみ考えることはできません」とバブタ氏は言う。「常に問うべきは、『警察はそれを何に使いたいのか？そして、その目的を達成するための正当な手段なのか？』ということです。」
マット・バージェスはWIREDの副デジタル編集長です。@mattburgess1からツイートしています。
この記事はWIRED UKで最初に公開されました。
