米国の機関が顔認識を拒否し、大きな問題に巻き込まれる

2021年6月、米国政府サービスへのデジタルアクセス改善を担うグループのディレクター、デイブ・ズヴェニャック氏は、チームにSlackメッセージを送った。数十もの政府系アプリやウェブサイトに安全にアクセスできるようにするLogin.govは、新規アカウント作成者の本人確認に自撮り写真や顔認証を利用しないことを決定した。「生身の人間であること／自撮り写真のメリットは、いかなる差別的影響よりも重要ではない」とズヴェニャック氏は記した。これは、ユーザーに自撮り写真と身分証明書の写真をアップロードさせ、アルゴリズムで比較するプロセスを指している。

ズヴェニャチ氏による顔認証の拒否は、Login.govを運営する一般調達局監察総監室が今月発表した報告書で詳述されている。これは、アルゴリズムによる差別から国民を守るために、政府関係者が一線を画したことを意味する。顔認証技術は精度が向上しているものの、多くのシステムは、肌の色が濃い女性、アジア系、あるいはノンバイナリーな性自認を持つ人々に対しては、信頼性が低いことが判明している。

しかし、ズヴェニャチ氏の発言は、Login.govとこのサービスを利用する米国政府機関を連邦セキュリティガイドラインに抵触させるものとなった。一部の機密データやサービスへのアクセスには、本人確認を政府発行の身分証明書と照合する必要がある。本人確認は対面で行うか、指紋や顔認証などの生体認証を用いて遠隔で行う必要がある。

監察官の報告書によると、GSAはLogin.govの利用料を支払っている22の機関に対し、サービスが米国国立標準技術研究所（NIST）の要件に完全に準拠していると主張していたものの、実際にはそうではなかったため、誤解を招いていた。ある連邦機関の職員はOIGの捜査官に対し、Login.govが標準に準拠していないことで、同機関は詐欺のリスクが高まっていると述べた。ズヴェニャチ氏は、この報告書に関するWIREDの質問には回答しなかった。

ズヴェニャック氏は2022年9月にGSAを去り、同月にLogin.govの新しい責任者が任命されたが、広報担当のチャニング・グレート氏は、顔認証技術が「公平かつ脆弱な集団に害を及ぼすことなく導入できると確信できるまで」は、引き続き顔認証技術の使用を避けると述べている。そのため、Login.govはNISTの要件を満たしていないことになるが、標準規格は改訂中で、新たな草案では顔認証技術の代替手段の提供が求められている。

GSAにおける不正行為疑惑は、米国政府による行政目的での顔認証技術の利用が改めて厳しく精査されている時期に浮上した。米国とメキシコの国境にいる移民たちは、国土安全保障省が難民申請手続きの迅速化を目的として提供する、自撮り写真と顔認証技術を用いた新しいアプリが、肌の色が濃い人にとって使い勝手が悪いと訴えている。人権擁護団体は長年、顔認証技術がもたらす人権侵害は、その利用によるメリットを上回ると主張してきた。

GSAの監察官の報告書によると、WIREDの記事がLogin.govの顔認識ポリシーに注目したことを受けて、ズヴェニャック氏は2022年初頭に、Login.govに依存している他の機関に対し、顔認識が欠如しているためNISTの要件に準拠していないと通知したという。

同年1月、新規アカウントの認証に自撮り写真と顔認証技術を活用するスタートアップ企業ID.meと、内国歳入庁（IRS）がオンラインアカウント認証に関する契約を締結したことが、差別やプライバシーへの懸念をめぐり、世論の反発を招いた。この技術の利用を促進するNIST標準に関するWIREDの記事では、Login.govの文書に、IDとの照合のためにユーザーに自撮り写真のアップロードを求めることがあると記されていた。

GSAは記事掲載後、WIREDに対し、Login.govの文書は不正確であり、Login.govは顔認識技術を使用していないと伝え、記事は更新された。OIGの報告書によると、顔認識に関する内部メッセージから7か月後の2月初旬、ズヴェニャチ氏はLogin.govを使用している連邦政府機関に対し、自身のグループの顔認識に関する立場から、Login.govは実際にはNISTの要件に準拠していないと通告した。

「厳格な審査を経て、公平かつ脆弱な立場にある人々に害を与えることなく使用できると確信が得られるまで、顔認識、生体検知、その他の新興技術を政府の給付・サービスに関連して使用しないことを決定しました」と彼は記した。報告書によると、ズヴェニャチ氏は後に捜査官に対し、NISTの要件については知らなかったものの、Login.govの幹部は2020年には既に要件違反を認識していたと述べたという。

NISTのこれらの要件は、個人情報詐欺の抑制を目的としており、難しい問題の解決を試みています。個人が政府サービスを利用する際、政府機関は本人確認を行う必要があり、このプロセスは「プルーフ」と呼ばれます。対面であれば身分証明書を提示するだけで本人確認ができますが、オンラインではより困難です。機密性の高いデータやアクセスの場合、NISTのデジタルID標準では、スマートフォンの自撮り写真と身分証明書の写真を照合する顔認識技術を用いたリモートデジタルプルーフと、画像を分析して実際の人間が含まれているか偽物かを検出する生体検知が求められます。

アメリカ自由人権協会（ACLU）と非営利団体「監視抵抗研究所（Surveillance Resistance Lab）」で働くレベッカ・ウィリアムズ氏は、以前はホワイトハウスの行政管理予算局に勤務していました。彼女は当時、デジタルIDの近代化に関する政府の取り組みを調査し、Login.govの職員と頻繁に面会し、同サービスに関する苦情も耳にしていました。「Login.govの対応で私が不満に思うことは山ほどありますが、生体認証の導入を拒否する人がいるのは、その一つではありません」と彼女は言います。

ウィリアムズ氏によると、昨年のIRS（内国歳入庁）の顔認証スキャンダルと今月発表されたLogin.govに関する新たな報告書は、市民や議員を含む関係者が、どのような本人確認方法に満足できるか、そしてそもそもデジタルIDを本当に必要としているのかについて話し合う必要性を強調しているという。ウィリアムズ氏は、顔認証などの生体認証は使用せず、連邦政府機関が収集した生体認証データを法執行機関と共有しないべきだと述べている。

ID.meとの契約をめぐる論争の後、IRS（内国歳入庁）は、顔認証ではなく担当者とのビデオ通話による本人確認を選択で​​きるようにしました。ID.meによると、米国内の650か所の小売店のいずれかに写真付き身分証明書を持参することもできるとのことですが、広大な国土の中では数は少ないです。

ハーバード大学のジム・ウォルド教授は、米国には既に身元確認を行っている場所があり、一部の人々にとっては遠隔顔認証の代替として利用できると述べています。ウォルド教授は、人々が米国郵便公社の支局に出向いて本人確認を行えるような、統合的な認証アプローチを支持しています。GSA（一般公社）は、USPSと共同で対面による本人確認のパイロットプログラムに取り組んでいます。

ウォルド氏は過去15年間、プライバシーに関する授業で学生たちに、ある人が本人であることを証明できるデジタルIDシステムの設計を課題として与えてきました。ウォルド氏は、ほとんどの学生が最初は全員にデジタルIDを義務付けるのは良い考えだと考えていたものの、詳細を議論していくうちに、それが本当にうまくいくのかという確信が薄れていくことに気付きました。

顔認証のような技術は統計的なものなので、自動化による大規模な本人確認は必然的に一部の人にとって問題を引き起こすとワルド氏は指摘する。こうした失敗は、エラーのパターンに対する疑念につながる。「誰も、これが公平で差別のないものであると信じているわけではない」と彼は言う。「これは技術の問題ではなく、信頼の問題なのです」

NISTはデジタルIDガイドラインの改訂作業を進めています。草案では、顔認証に代わる代替手段の提供を求めています。また、生体認証技術の性能を人口統計学的グループごとに継続的に評価する要件も追加されています。NISTは市販の顔認証アルゴリズムを定期的にテストしており、多くのアルゴリズムが特定のグループの人々を識別する際に問題を抱えていることが分かっています。

すべての連邦機関が顔認識の使用義務化に同意したわけではない。2020年の改正プロセスに関する意見書の中で、社会保障局は「プライバシー、有用性、政策上の懸念」に加え、有色人種に最も重くのしかかる差別の問題を挙げ、顔認識の代替手段を促した。

NISTのデジタルIDプログラムの責任者であるライアン・ガルッツォ氏は、今回の改訂は連邦政府機関と、政府のアプリやウェブサイトにサインインする人々の選択肢を拡大することに重点を置いていると述べている。彼は顔認証を「社会的に配慮した技術」と呼んでいる。

「これは本人確認のユースケースに有効に応用できますが、私たちは個人や組織に、より高い保証レベルで同様の利便性とセキュリティをもたらす革新的で責任ある選択肢を提供する方法にも非常に興味を持っています。」

米国政府が顔認証技術をどのように扱うべきかという問題は、議論の的となっている。今月初め、上下両院の民主党議員らが、連邦政府機関による顔認証技術の利用を一時停止する法案を提出したが、この提案が成立する可能性は低い。

連邦政府機関は、アルゴリズムがもたらす潜在的な差別的影響について検討するよう、ホワイトハウスから圧力を受けている。ホワイトハウス科学技術政策局が10月に発表した「AI権利章典」は、人々には効果のないアルゴリズムから解放された生活を送る権利があると述べている。バイデン大統領が先月署名した人種的平等に関する大統領令は、政府機関は「アルゴリズムによる差別から国民を守る」べきであると述べている。

2023 年 4 月 10 日午後 3 時 (東部夏時間) 更新: Surveillance Resistance Lab は独立した非営利団体であり、ACLU のプロジェクトではありません。