Clearview AI、写真からユーザーを識別する新ツールを発表

Clearview AIは、ウェブから写真を集め、顔認識技術を用いて警察などの機関に前例のない私たちの生活の覗き見を可能にすることで、物議を醸してきました。現在、同社のCEOは、AIを活用してClearviewの監視ツールをさらに強化したいと考えています。

さらに危険性が増し、エラーが発生しやすくなる可能性もあります。

Clearviewは、Facebook、Instagram、Twitterなどのウェブサイトから数十億枚もの写真を収集し、AIを用いて画像内の特定の人物を特定しています。警察や政府機関は、同社の顔データベースを活用し、写真に写っている容疑者とオンラインプロフィールを紐付けることで、容疑者の特定に役立てています。

同社の共同設立者兼CEOであるホアン・トンザット氏は、クリアビュー社が現在ウェブ全体から100億枚以上の画像を収集しており、これはこれまでの報告の3倍以上であるとWIREDに語った。

トンザット氏によると、写真のプールが拡大すれば、ユーザー（主に法執行機関）が人物を探す際に、一致する人物を見つける可能性が高くなるという。また、データセットの拡大に​​より、同社のツールの精度も向上すると主張している。

Clearview は、Web クローリング技術、顔認識を改善した機械学習の進歩、個人のプライバシーの無視を組み合わせて、驚くほど強力なツールを作成しました。

トンザット氏は、スマートフォンアプリを使って記者の写真を撮ることで、この技術を実演しました。アプリは、米国および海外の多数のウェブサイトから数十枚の画像を生成し、それぞれ10年以上にわたって撮影された画像の中から、正しい人物を映し出していました。このようなツールの魅力は明らかですが、悪用される可能性も否定できません。

Clearview社の行動は、スマートフォン、ソーシャルメディア、AI時代におけるプライバシーへの期待をめぐる、国民の激しい怒りと幅広い議論を巻き起こしました。批評家たちは、同社が個人のプライバシーを侵害していると批判しています。ACLU（アメリカ自由人権協会）は、生体認証情報の収集を制限する法律に基づき、イリノイ州でClearview社を提訴しました。同社はニューヨーク州とカリフォルニア州でも集団訴訟に直面しています。Facebook社とTwitter社は、Clearview社に対し、自社サイトのスクレイピングを停止するよう求めています。

トン＝ザット氏は、こうした抵抗にもめげずにいる。顔認識技術を犯罪解決に活用するというアイデアは、ほとんどの人が受け入れ、あるいは支持していると彼は考えている。「懸念を抱いている人たちは、非常に声高に訴えています。それは良いことです。時間をかけて、彼らの懸念にもっと対処できるようになると思いますから」と彼は言う。

Clearview社の新技術の中には、さらなる議論を巻き起こすものもある。Ton-That社によると、同社は警察が人物を発見するための新たな方法を開発しており、「ぼかし除去」ツールや「マスク除去」ツールなどが含まれる。ぼかし除去ツールは、ぼやけた画像を機械学習を用いて鮮明化し、より鮮明な画像がどのようなものか推定する。マスク除去ツールは、機械学習モデルを用いて人物の顔の覆われた部分を推定する。機械学習モデルは、他の画像に見られる統計的パターンに基づく最善の推測を用いて、画像の欠落した詳細を補完する。

これらの機能は、クリアビューの技術をより魅力的にする一方で、より深刻な問題を引き起こす可能性もある。新技術がどれほど正確に機能するかは依然として不明だが、専門家は、人物が誤って識別されるリスクを高め、システムに内在するバイアスを悪化させる可能性があると指摘している。

「データセットと学習プロセスを慎重に管理しなければ、精度はかなり悪くなるでしょう。ましてや、精度が悪くなるどころか、意図しないバイアスが大量に入り込んでしまうでしょう」と、MITで機械学習を専門とするアレクサンダー・マドリー教授は述べています。例えば、十分な注意を払わないと、このアプローチでは特定の特徴を持つ人物が誤って識別される可能性が高くなる可能性があります。

マドリー氏は、たとえこの技術が約束通りに機能したとしても、人々のマスクを外すことの倫理性には問題があると指摘する。「平和的な抗議活動に参加するためにマスクを着けた人や、プライバシーを守るためにぼかしを入れられた人のことを考えてみてください」と彼は言う。

トンザット氏によると、テストの結果、新しいツールによってクリアビューの結果の精度が向上することが確認されたという。「補正された画像には必ずその旨を明記し、補正された画像から得られる結果を評価する際には細心の注意を払う必要があります」と彼は述べている。

トン＝ザット氏によると、捜査官は既に、一致点を見つけるために、例えば明るさを変えたり、特定の詳細を切り取ったりするなど、画像に手を加えることがあるという。画像のぼかしを取り除いたり、マスクを削除したりすると、誤りが生じる可能性が高くなる可能性があるが、クリアビューの成果は、警察が捜査に用いる手がかりを生み出すためだけに使用されているとトン＝ザット氏は述べている。「この技術で私が目指しているのは、常に人間の管理下に置くことです」とトン＝ザット氏は言う。「AIが誤った判断を下した場合は、人間が確認します。」

Clearviewは顔認識技術を販売している唯一の企業ではなく、法執行機関や連邦捜査官は長年にわたり、この技術を犯罪容疑者の顔写真コレクションの照合に活用してきました。NECは、マスク着用者を識別するために、顔の覆われていない部分に焦点を合わせ、独自のアルゴリズムを用いて独自のシステムを開発しました。

Clearview社の技術は、警察官が顔認識技術を用いてウェブをくまなく探索できるようにすることで、顔と身元を照合する当局の能力を向上させる可能性を秘めています。BuzzFeed Newsが入手した機密の顧客リストによると、この技術は米国の数百の警察署で利用されており、Ton-That社によると、同社の顧客は法執行機関と政府機関合わせて3,100社に上ります。米国政府の記録には、FBI、米国移民・関税執行局（ICE）、米国税関・国境警備局（CBP）など、11の連邦機関がこの技術を使用していると記載されています。

BuzzFeed Newsによると、Clearviewのソフトウェアを無料トライアルで試用した複数の警察署が、有料使用を断念したという。Clearviewのライセンスを保有する警察署の一つであるニューヨーク市警察は、声明の中で、昨年、顔認識技術の使用に関する新たな規則を導入したと述べた。この規則には、「正当な理由がある場合、刑事部長または情報・対テロ担当副長官は、身元不明の容疑者の画像を、顔写真以外の画像と比較することを明示的に許可することができる」と規定されている。

BuzzFeed Newsが入手した文書によると、クリアビュー社の技術は、メイシーズやウォルマートなどの民間企業に加え、海外の警察や政府機関でも試験運用されているという。同社は現在、米国外や民間企業への売り込みは行っていないと述べている。「米国に焦点を当てています。なぜなら、米国でこの技術を成功させたいからです」とトンザット氏は語る。「いかなる形であれ、この技術が悪用されることを決して望んでいません」

トン＝ザット氏自身も物議を醸す人物です。ハフィントン・ポストの調査により、この起業家とオルタナ右翼の活動家や扇動家とのつながりが明らかになりました。その中には、クリアビュー・アプリに個人的にアクセスしていたとされる人物もいます。

トンザット氏は「全く政治的な人間ではない」と述べている。そして、会社も「政治的ではない」と付け加えた。「犯罪者を捕まえるのに左翼的なやり方も右翼的なやり方もありません。私たちはあらゆる政治的立場の人々と関わっています」

クリアビューは、この技術が警察にどのように役立っているかに焦点を当てています。トン＝ザット氏は、児童虐待事件や議事堂襲撃事件の関係者の捜索など、この技術が役立った捜査の事例を紹介しました。「多くの場合、警察は、他の方法では決して解決できなかったであろう犯罪を解決しています」と彼は言います。

たとえそうであったとしても、プライバシーをそこまで犠牲にする価値があるのか​​どうか疑問視する人もいる。

「誰かがあなたにカメラを向け、あなたの写真が永久にあなたのアイデンティティと結びついてしまうとしたら、それは素晴らしい世界ではありません。特に、世界中の政府や団体のことを考えればなおさらです」とハーバード大学バークマン・インターネット＆社会センター所長のジョナサン・ジットレイン氏は言う。

ジットレイン氏は、Facebookのような企業は、Clearviewのような企業による積極的なスクレイピングからユーザーを守るために、より一層の対策を講じるべきだと主張している。企業が画像から撮影場所や日時を明かす可能性のあるメタデータを削除するのと同様に、ジットレイン氏は、テクノロジー企業は敵対的機械学習技術を用いて人間の目には見えない方法で画像を修正することで、顔認識アルゴリズムを無効化できる可能性があると指摘する。

Facebookの広報担当者ジェイソン・グロス氏は、「Clearview AIの行為は人々のプライバシーを侵害するものであり、そのため当社は同社の創設者を当社のサービスから追放し、当社サービスからのデータ、写真、動画へのアクセスを停止するよう法的要求を送った」と述べた。

ジットレイン氏は、クリアビューの最大の危険性は、顔認識技術を使って日常的に個人を特定するという考えが常態化してしまうことだと考えている。「そして、この劇が次の幕を迎える様子は分かっています」と彼は言う。「LinkedInとFacebookは引き続き反対し、十分な反論をしていますが、結局はアクセスを許可するだけになり、金銭の分配になってしまいます。」

WIREDのその他の素晴らしい記事

• 📩 テクノロジー、科学などの最新情報: ニュースレターを購読しましょう!
• レインブーツ、潮の流れ、そして行方不明の少年の捜索
• 飛行をよりスムーズにし、二酸化炭素を削減するソフトウェア
• アームチェアタイクーンのための10の素晴らしい経営ゲーム
• 人間は科学的知識の唯一の保持者にはなり得ない
• 月は本当に地球に向かって衝突するのでしょうか？
• 👁️ 新しいデータベースで、これまでにないAIを探索しましょう
• 🎮 WIRED Games: 最新のヒントやレビューなどを入手
• 💻 Gearチームのお気に入りのノートパソコン、キーボード、タイピングの代替品、ノイズキャンセリングヘッドホンで仕事の効率をアップさせましょう