テクノロジー業界の一部の人々にとって、顔認識技術はますます有害な技術のように映り始めている。一方、法執行機関にとっては、それは犯罪撲滅のための、ほとんど抗しがたいツールとなっている。
IBMは、顔認識技術があまりにも危険であると宣言した最新の企業です。CEOのアルヴィンド・クリシュナ氏は月曜日、人種プロファイリングや人権侵害の可能性を理由に、IBMは今後この技術を提供しないと議会議員に伝えました。また、書簡の中で、不正行為に対する監視と責任追及を強化するための警察改革も求めました。
「今こそ、国内の法執行機関が顔認識技術を活用するべきかどうか、またどのように活用すべきかについて、全国的な議論を始めるべき時だと考えています」と、IBMの109年の歴史で初の非白人CEOとなったクリシュナ氏は述べている。IBMは昨年から顔認識技術の活用を縮小している。
クリシュナ氏の書簡は、警察官によるジョージ・フロイド氏の殺害と黒人コミュニティに対する警察の対応に対する国民の抗議活動が続く中で発表された。しかし、世界中の警察や政府に顔認識技術を供給している企業が数多くあるため、IBMの撤退は顔認識技術の利用を食い止める効果はほとんどないかもしれない。
「これは素晴らしい声明だが、警察による#FaceRecognitionへのアクセスが実際に変わるわけではない」と、ジョージタウン大学プライバシー・テクノロジーセンターで警察による顔認識技術の利用を研究するクレア・ガービー氏はツイートした。ガービー氏は、IBMが警察に顔認識技術を提供する契約を結んだという話は今のところ目にしていないと指摘した。
ジョージタウン大学の報告によると、2016年までにアメリカ人成人の半数の写真がデータベースに登録され、警察は顔認識技術を使って検索できるようになりました。それ以来、顔認識技術の導入は急増していると考えられます。グランドビュー・リサーチの最近の報告では、2020年から2027年にかけて、この市場は「法執行機関による技術導入の増加」を背景に、年率14.5%の成長を遂げると予測されています。国土安全保障省は2月、主に飛行機やクルーズ船への搭乗者や国境を越える人の身元確認を目的として、米国で4,370万人以上の人々に顔認識技術を使用していると発表しました。
他のテクノロジー企業は、顔認識技術の利用を縮小している。グーグルは2018年に顔認識サービスを提供しないと発表し、昨年にはサンダー・ピチャイCEOがこの技術の一時的な禁止を支持する姿勢を示した。マイクロソフトはこうした禁止には反対しているが、昨年は倫理的な懸念からカリフォルニア州の法執行機関1社にこの技術を販売しないと表明した。警察用ボディカメラを製造するアクソンは、2019年6月に、これらのカメラに顔認識機能を追加しないと表明した。
しかし、NEC、アイデミア、タレスといった企業が、ひそかにこの技術を米国の警察に供給している。スタートアップ企業のクリアビューは、ウェブから収集した数百万の顔情報を活用したサービスを警察に提供している。
この技術は、メリーランド州モンゴメリー郡で抗議活動参加者を暴行したとして告発された男を警察が追跡するのに役立ったようだ。
同時に、この技術に対する国民の不安から、カリフォルニア州サンフランシスコ、オークランド、マサチューセッツ州ケンブリッジなどいくつかの都市が政府機関による顔認識技術の使用を禁止した。
ボストン当局は禁止を検討している。支持者たちは、警察が抗議者を監視する可能性を指摘している。フロイド氏の殺害に続く抗議活動が続く中、「顔認証監視に関する今日の議論は、より一層緊急性を増している」と、アメリカ自由人権協会（ACLU）マサチューセッツ州支部の「テクノロジー・フォー・リバティ」プログラム・ディレクター、ケイド・クロックフォード氏は火曜日の記者会見で述べた。
顔認識技術の欠陥を明らかにする上で重要な役割を果たしてきたGoogleの研究員、ティムニット・ゲブル氏は、月曜日のイベントで、顔認識技術が黒人抗議者の身元確認に利用されていると述べ、禁止すべきだと主張した。「完璧な顔認識技術であっても、悪用される可能性があります」とゲブル氏は述べた。「私はアメリカに住む黒人女性で、人種差別の深刻な被害を経験してきました。顔認識技術は黒人コミュニティに不利に作用しているのです。」
2018年6月、ゲブル氏ともう一人の研究者ジョイ・ブオラムウィニ氏は、IBMのサービスを含む顔認識サービスにおけるバイアスに初めて広く注目を集めました。彼らは、これらのシステムは肌の色が薄い男性にはうまく機能する一方で、肌の色が濃い女性には誤認識を起こすことを発見しました。
人工知能（AI）の有害な利用に反対するキャンペーン団体「アルゴリズミック・ジャスティス・リーグ」を率いるブオラムウィニ氏は、Mediumへの投稿でIBMの決定を称賛しつつも、更なる対策が必要だと述べた。彼女は企業に対し、顔認識技術の悪用リスクを軽減するための誓約「Safe Face Pledge（安全顔誓約）」への署名を呼びかけ、「この誓約は、この技術の致命的な利用や警察による無法な利用を禁じ、政府によるあらゆる利用において透明性を義務付けています」と彼女は記した。
顔認識プログラムに関する問題も報告されている。ACLU（アメリカ自由人権協会）の研究者らは、AmazonのRekognitionソフトウェアが、公開されている顔写真に基づいて議員を犯罪者と誤認していることを発見した。
顔認識技術は、人工知能アルゴリズムの進化と学習データの増加により、過去10年間で急速に進歩しました。米国国立標準技術研究所（NIST）によると、最先端アルゴリズムの精度は2010年から2018年の間に25倍向上しました。
しかし、この技術はまだ完璧には程遠い。昨年12月、NISTは顔認識アルゴリズムの性能は対象者の年齢、性別、人種によって異なると発表しました。国土安全保障省の研究者による別の研究では、11種類の顔認識アルゴリズムの分析で同様の問題が見つかりました。
IBMが顔認識技術から撤退したとしても、AIの潜在的に問題のある用途に依存している警察向けの他のサービスには影響しません。IBMは、警察署と共同で、大量のデータマイニングによって犯罪を未然に防ぐ予測型警察ツールの活用に関するプロジェクトを積極的に推進しています。研究者たちは、こうした技術は偏見を永続化または悪化させることが多いと警告しています。
「人工知能は、法執行機関が市民の安全を守る上で役立つ強力なツールです」と、CEOのクリシュナ氏は書簡の中で述べています。「しかし、AIシステムのベンダーとユーザーは、特に法執行機関で使用される場合、AIがバイアスについてテストされ、そのバイアステストが監査され、報告されることを保証する共通の責任を負っています。」
IBMは、AIの導入において倫理的問題の可能性についてすべての審査を行っています。警察に既に提供されているツールについて、潜在的なバイアスの有無をどのように審査しているかについては、コメントを控えました。
WIREDのその他の素晴らしい記事
- バーチャルDJ、ドローン、そしてZoomウェディング
- リモートワークには、昇進を望むまではメリットがある
- 自宅でパンを作るために必要な道具とヒント
- インターネットを救ったハッカー、マーカス・ハッチンズの告白
- 月面では宇宙飛行士のおしっこが貴重な商品になる
- 👁 脳はAIの有用なモデルとなるのか？さらに：最新のAIニュースもチェック
- 🏃🏽♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください
