スタートアップ企業が不正に入手した顔データに基づくアルゴリズムを廃止へ

昨年末、サンフランシスコの顔認識スタートアップ企業Everalbumは、空軍から「AI駆動型アクセス制御」を提供する200万ドルの契約を獲得した。しかし月曜日、米国政府の別の機関が同社に打撃を与えた。

連邦取引委員会（FTC）は、エバーアルバムが、ユーザーの許可なく写真アプリにアップロードされた画像に顔認識技術を適用し、ユーザーに削除すると伝えた上で画像を保管していたとして、和解に合意したと発表した。同社は数百万枚の写真を利用し、「パラビジョン」というブランド名で政府機関などの顧客に提供する技術を開発していた。

パラビジョン（現在の社名）は、不適切に収集されたデータを削除することに同意した。しかし同時に、より斬新な救済策にも同意した。それは、それらの写真を使って開発されたアルゴリズムをすべて削除するというものだ。

この和解はパラビジョンの評判に暗い影を落としているが、最高製品責任者のジョーイ・プリティキン氏は、同社は空軍との契約およびその他の顧客に対する義務を依然として履行できると述べている。同社は8月に消費者向けアプリを閉鎖したが、これはFTCへの申し立ての可能性を知った同月のことだった。そして9月には、アプリのデータなしで開発した顔認識技術をリリースした。プリティキン氏によると、これらの変更はFTCの介入以前から進められており、その理由の一つは顔認識に対する「世論の変化」にあるという。

FTCの民主党員であるロヒット・チョプラ委員は月曜日、パラビジョンに対する委員会の徹底ぶりを称賛する声明を発表し、同委員会が当然のことながら「欺瞞の成果を放棄せざるを得なかった」と述べた。

彼は今回の和解を、2019年にグーグルが親の同意なしに児童から違法にデータを収集したとして1億7000万ドルを支払った合意と対比させた。同社はそのデータから派生したものを削除する義務はなかった。「委員たちは以前、データ保護法違反者が不正に取得したデータから多くの価値を生み出しているアルゴリズムや技術を保持することを認める投票を行ってきた」と彼は記した。「これは重要な軌道修正だ」

記事画像

超スマートなアルゴリズムがすべての仕事をこなせるわけではありませんが、これまで以上に速く学習し、医療診断から広告の提供まであらゆることを行っています。

ワシントン大学の法学教授ライアン・カロ氏は、パラビジョン社に対し、不正に入手されたとされる画像で訓練された顔認識アルゴリズムを削除するよう要求したことは、機械学習の台頭がデータセットと潜在的に有害なソフトウェア製品とをいかに密接に絡み合わせているかをFTCが認識していることを示していると述べている。

かつてテクノロジー企業は、正しいキーを正しい順序でタップする人々に報酬を支払うだけでソフトウェアを開発していました。しかし、顔認識モデルや動画フィルタリングソフトウェアなど、多くの製品にとって、今では機械学習アルゴリズムに入力する厳選されたサンプルデータのコレクションが最も重要な要素の一つとなっています。「モデルとデータを削除するという考え方自体が、これらが密接に関連していることを示しています」とカロ氏は言います。顔認識システムは、その作成に非常に個人的な画像が必要となるため、特別な精査が必要です。「まるで人間で作られたソイレント・グリーンのようです。」

FTC消費者保護局の元局長で、ジョージタウン大学法学教授でもあるデビッド・ヴラデック氏は、月曜日の和解は、データの削除を義務付けた過去の和解と整合していると述べた。2013年には、ソフトウェア会社デザイナーウェアとレンタル・トゥ・オウン小売業者7社が、ノートパソコンにインストールされたスパイウェアから同意なしに収集されたジオトラッキングデータを削除することに合意した。

月曜日にパラビジョン社が提出した、より広範な削除要件は、依然として共和党が過半数を占めるFTC（連邦取引委員会）によって5対0の全会一致で承認された。ジョー・バイデン次期大統領が今月就任すれば、FTCは民主党が過半数を占める可能性があり、テクノロジー企業への監視にさらに熱心になる可能性がある。民主党が多数派を占める議会から新たな支援と資金を得られる可能性もある。

カロ氏は、IT業界をより公平な立場で精査するために、IT機関がより多くの技術的リソースと専門知識を獲得することを期待している。技術ノウハウの活用方法の一つとして、企業が不正に取得したデータだけでなく、そこから得られた利益や技術も実際に削除したかどうかを確認する方法を考案することが考えられる。しかし、複数のデータソースから構築された複雑な機械学習モデルを含むシステムでは、これは難しいかもしれない。

ヴラデック氏は、FTCの中核的な権限と人員の拡大がさらに重要だと述べている。マリア・キャントウェル上院議員（ワシントン州選出、民主党）をはじめとする一部の議員が提案しているように、民主党が米国初の連邦プライバシー法を可決すれば、FTCはかなりの新たな法的権限を獲得する可能性がある。ヴラデック氏は、人員も大幅に増加すれば、そのような法案が成立するだろうと楽観視している。FTCはこれまで、プライバシーと個人情報窃盗の対策に数十人程度しか携わってこなかったが、アイルランドのようなはるかに小さな国では数百人規模だとヴラデック氏は指摘する。「FTCの規模は40年前の3分の2にまで縮小しています」と彼は言う。

WIREDのその他の素晴らしい記事