私たちの顔は携帯電話と同じように保護されるべきでしょうか?

WIREDに掲載されているすべての製品は、編集者が独自に選定したものです。ただし、小売店やリンクを経由した製品購入から報酬を受け取る場合があります。詳細はこちらをご覧ください。

2002年6月、スティーヴン・スピルバーグは、SF作家フィリップ・K・ディックの1956年の有名な短編小説を原作とした、自身が監督した新作映画『マイノリティ・リポート』をプレミア上映した。2054年の犯罪のないワシントンD.C.を舞台にしたこの映画では、トム・クルーズが主演を務め、殺人犯を犯す前に逮捕するエリート警察部隊「プリクライム」の隊長を演じる。この部隊は、未来を見通せる3人の千里眼の持ち主のビジョンに基づいて逮捕を行う権限を持っている。しかしまもなく、あらゆる人や物が追跡されるこの街で、クルーズは自分の部隊から逃げようとするが、霊能者たちは彼自身も殺人を犯すだろうと予言する。

15年以上経った今、この法執行へのアプローチは、幸いにも突飛なものに思える。しかし今日、『マイノリティ・リポート』のある側面は、2054年よりもはるかに早く現実のものとなりそうだ。逃走中のクルーズは、ギャップの店舗に足を踏み入れる。この店舗は、入店する顧客一人ひとりを認識する技術を導入しており、顧客が好みそうな服の画像をキオスク端末に即座に表示し始める。この商品の魅力に気づく人もいるだろう。しかし、迷惑に感じたり、不気味に感じたりする人もいるだろう。つまり、店舗に入るというのは、ウェブを閲覧した後にソーシャルメディアのフィードを見てみると、先ほど見た商品を宣伝する新しい広告が目に飛び込んできた時に感じるのと似たような感覚になるのだ。

映画「マイノリティ・リポート」で、スピルバーグは観客に、テクノロジーがどのように使用され、悪用される可能性があるかについて考えるよう促した。犯罪が起きる前に排除することもあれば、何か問題が起きたときに人々の権利を侵害することもある。ギャップ店でクルーズを認識するテクノロジーは、彼の体内に埋め込まれたチップによって情報が提供されている。しかし、21世紀の最初の20年間の現実世界のテクノロジーの進歩はスピルバーグの想像さえ上回っており、今日ではそのようなチップは必要ない。クラウド内のカメラとデータを使用したAIによるコンピュータービジョンを利用する顔認識テクノロジーは、先週あるいは1時間前の訪問に基づいて、顧客が店に入ると顔を識別できる。これは、顔認識をどのように規制すべきかを決定することで、テクノロジー業界と政府が人工知能の倫理的および人権問題に焦点を絞って具体的に取り組む最初の機会の1つを生み出している。

写真のカタログ作成や検索といった、ほとんどの人にとっては単純なシナリオだったものが、急速に高度化しました。すでに多くの人が、iPhoneやWindowsノートパソコンのロック解除にパスワードではなく顔認証を使うことに慣れています。そして、その進化は止まりません。

私たち人間が生まれたときからほぼ全員が行ってきたこと、つまり人の顔を認識することを、コンピューターは今や実現できる。ほとんどの人にとって、これはおそらく母親を認識できたことから始まったのだろう。子育ての喜びの一つは、帰宅した幼児が喜びに溢れかえる時だ。この反応は思春期を迎えるまで続くが、これは人間が生来持つ顔認識能力に支えられている。これは私たちの日常生活に欠かせないものであるにもかかわらず、なぜそれが可能なのかをじっくり考えることはほとんどありません。

実は、私たちの顔は指紋と同じくらい個性的です。瞳孔間の距離、鼻の大きさ、笑顔の形、顎の形など、顔の特徴は多岐にわたります。コンピューターが写真からこれらの特徴を読み取り、組み合わせることで、アルゴリズムが利用できる数式の基礎が構築されます。

世界中で、人々はこの技術を生活の向上に役立てています。場合によっては、消費者の利便性向上につながるかもしれません。ナショナル・オーストラリア銀行は、マイクロソフトの顔認識技術を活用し、ATM（現金自動預け払い機）に近づくだけで、銀行カードを使わずに安全に現金を引き出せる機能を開発しています。ATMが顔を認識し、暗証番号を入力するだけで取引を完了できます。

他のシナリオでは、そのメリットはより広範囲に及びます。ワシントンD.C.にある国立ヒトゲノム研究所では、顔認識技術を用いて、ディジョージ症候群（22q11.2欠失症候群）と呼ばれる疾患の診断を医師に支援しています。この疾患は、アフリカ系、アジア系、またはラテンアメリカ系の人々に多く発症し、心臓や腎臓への損傷など、様々な深刻な健康問題を引き起こす可能性があります。しかし、この疾患は、顔の微妙な特徴として現れることも多く、顔認識システムを用いたコンピューターによって識別できるため、医師が診断を必要とする患者を的確に判断するのに役立ちます。

これらのシナリオは、顔認識が社会にどのような形で役立つかを、重要かつ具体的に示しています。顔認識は21世紀の新しいツールです。

しかし、他の多くのツールと同様に、顔認識は武器にもなり得ます。政府が平和的な集会の参加者全員を特定するために顔認識技術を利用し、表現の自由や集会の自由を抑圧するような行動に出る可能性があります。また、民主主義社会であっても、警察は容疑者を特定するためにこのツールに過度に依存する可能性があります。顔認識技術は他の多くの技術と同様に常に完璧に機能するとは限らないからです。

これらすべての理由から、顔認識はより広範な政治的および社会的問題と容易に絡み合うことになり、重要な疑問を提起します。私たちは、この形態の人工知能に社会でどのような役割を果たしてもらいたいのでしょうか?

2018年夏、この季節の最もホットな政治トピックの一つに関連して、今後の動向を垣間見る出来事が突如として現れた。6月、バージニア州在住の自称「フリーソフトウェアいじり屋」の男性が、より広範な政治問題にも強い関心を抱いていたことは明らかだった。彼は、マイクロソフトが1月に同社のマーケティングブログに投稿した記事に基づき、同社が米国移民関税執行局（ICE）と締結した契約について、一連のツイートを投稿した。率直に言って、社内の誰もがその投稿を忘れていた。しかし、投稿には、ICE向けのマイクロソフトの技術が高いセキュリティ基準を満たし、ICEに導入される予定であると書かれていた。同社はICEの取り組みを支援できることを誇りに思うと述べ、その結果、ICEが顔認識技術を活用できるようになる可能性についても触れていた。

2018年6月、トランプ政権が米国南部国境で親子を引き離す決定を下したことが、一大問題となりました。数ヶ月前に発表されたマーケティング上の声明は、今や大きく様変わりしました。顔認識技術の活用もまた、様変わりしました。人々は、ICE（移民税関捜査局）などの移民当局が顔認識技術をどのように活用するかを懸念していました。クラウドに接続されたカメラが、街を歩く移民の身元確認に使われる可能性があるのでしょうか？バイアスのリスクを伴うこの技術の現状を考えると、個人を誤認し、不適切な人物を拘留してしまう可能性があるのでしょうか？これらは、数ある疑問のほんの2つに過ぎませんでした。

シアトルでの夕食時間になると、マーケティングブログに関するツイートがインターネット上で拡散し、コミュニケーションチームは対応に追われていました。エンジニアリングチームとマーケティングチームの社員からは、「かなり古い記事だし、現時点ではビジネスへの影響はない」と述べ、投稿を削除すべきだとの意見が出ました。マイクロソフトのコミュニケーション責任者であるフランク・ショーは、3度にわたり削除しないよう助言しました。「削除すれば事態は悪化するだけだ」と彼は言いました。しかし、ある人物は誘惑に抗えず、投稿の一部を削除してしまいました。案の定、事態はさらに悪化し、再び否定的な報道が続きました。翌朝には、人々は当然の教訓を学び、投稿は元の状態に戻っていました。

よくあることですが、当社と ICE との契約内容が実際に何を含んでいるのかを整理する必要がありました。

徹底的に調査を進めた結果、契約は顔認識には全く使われていないことが判明しました。また、ありがたいことに、マイクロソフトは国境で子供たちを家族から引き離すようなプロジェクトにも携わっていませんでした。契約は、ICE（移民税関捜査局）のメール、カレンダー、メッセージング、文書管理業務をクラウドに移行する支援でした。これは、米国および世界中の他の政府機関を含む顧客と共同で進めていたプロジェクトと類似していました。

それにもかかわらず、新たな論争が生まれました。

マイクロソフトは契約を解除し、ICEとのあらゆる業務を停止すべきだと提案する人もいました。これは、政府によるテクノロジー利用に関する根強いテーマであり、その夏に定着しました。ある従業員グループは、ICEとの契約停止を求める嘆願書を配布しました。この問題は、テクノロジー業界全体に波及し始めました。クラウドベースのソフトウェア企業Salesforceでも、米国税関・国境警備局との契約をめぐって同様の従業員運動が起こりました。これは、米軍向け人工知能開発プロジェクトを中止に追い込んだGoogleの従業員運動に続くものでした。また、ACLU（アメリカ自由人権協会）はAmazonを標的とし、顔認識サービス「Rekognition」への懸念を表明したAmazon従業員を支援しました。

テクノロジー業界、そしてより広い意味でのビジネス界にとって、この種の従業員運動は目新しいものでした。一部の人々は、特定の業界で1世紀以上にわたり労働組合が果たしてきた役割との関連性を見出しました。しかし、労働組合は主に組合員の経済状況と労働条件に焦点を当てていました。2018年夏の従業員運動はそれとは異なりました。この運動は、雇用主に対し、特定の社会問題に関して立場を表明するよう求めました。従業員は直接的にも間接的にも、何の利益も得ることはありませんでした。彼らはむしろ、雇用主に対し、自分たちが重要だと考える社会的価値観や立場を擁護するよう求めていたのです。

この変化は、ビジネスリーダーたちを新たな領域へと突き落とした。シアトルで私が出席した小さな夕食会で、あるテック企業のCEOは、皆が抱く不安を端的に表していた。「仕事の大部分については、十分に準備ができていると感じています」と彼は、自身の昇進の経緯を語りながら言った。「しかし今、全く異なる仕事に突き落とされようとしています。移民問題、気候変動問題、その他多くの問題に関する懸念を私に引き受けてほしいと求める従業員たちに、どう対応すればいいのか、全く分かりません」

企業が公共の問題について立場を表明すべき場合と、そうでない場合を明確にすることがますます重要になってきました。私たちは、企業の経営陣が、あらゆる問題に対処するために社名を使ってよいという免罪符だとは考えませんでした。それは、私たち自身にとって何らかの重要なつながりが必要でした。私たちの責任は、お客様とそのテクノロジーの利用、職場や地域社会で働く従業員、そして私たちの事業と株主やパートナーのニーズに影響を与える公共の問題に対処することにあると感じていました。これはすべての疑問に答えるものではありませんでしたが、従業員との議論に役立つ枠組みを提供しました。

従業員からの質問は、政府との関係や顔認識などの新しいテクノロジーがもたらす課題について、建設的に考えるきっかけにもなりました。

一方で、特に法の支配に基づく民主主義社会において、政府機関をボイコットすることで今日の出来事に反応するという提案には、私たちは納得できませんでした。これはある意味、原則的な反応でした。私がよく人々に言い聞かせてきたように、私たちは誰も選挙で選んだわけではありません。テクノロジー企業に政府を監視させるのは、奇妙なだけでなく、非民主的だとも思えました。一般論として、選挙で選ばれた政府に企業を規制させる方が、選挙で選ばれていない企業に政府を規制させるよりも理にかなっているように思えました。サティア・ナデラと私はこの点について頻繁に議論し、重要だと考えていました。

実用的な側面もありました。組織や個人がテクノロジーに大きく依存していることを認識していました。政府機関の活動に異議を唱えるという理由でテクノロジーを単純に停止すれば、混乱や予期せぬ結果を招く可能性が非常に高かったのです。

この現実的な側面が、2018年8月に際立って浮き彫りになった。金曜日の朝、車で出勤する途中、ニューヨーク・タイムズ紙のポッドキャスト「The Daily 」で問題の核心を突いた解説を聴いていた。その日の争点は、移民の子どもたちを家族と再会させるための裁判所の期限を政府が守れていないことだった。話を聞いていると、ウェンディ・ヤング氏の声が聞こえた。彼女は、私が10年以上会長を務めているプロボノ団体「KIND（Kids in Need of Defense）」の代表である。ウェンディ氏の説明によると、政権は当初の家族分離政策を「その後の家族再会をどうするかについては全く考慮せずに」実施したという。

ウェンディと何度か会話をしていたことからこの状況はよく分かっていたが、ニューヨーク・タイムズの記者ケイトリン・ディッカーソンとアニー・コリアルが報じたさらなる詳細に衝撃を受けた。二人の説明によると、税関・国境警備局の職員は、人々が最初に国境を越える際にドロップダウンメニュー付きのコンピュータシステムを使用していた。職員は、人を「同伴者のいない未成年者」、「成人（個人）」、または「子供を持つ成人（家族）」のいずれかに分類する。その後、子供が両親と引き離されると、コンピュータシステムの設計上、職員は戻ってこの指定を変更する必要があった。例えば、子供の名前を「同伴者のいない未成年者」として、両親の名前を「成人（個人）」として入力するなどだ。重要なのは、これによって以前のデータが上書きされ、以前は全員をまとめてリストしていた家族の指定がシステムに保存されなくなったことだ。その結果、政府は家族を結びつける記録を一切持たなくなった。

これは移民と家族だけの問題ではありませんでした。テクノロジーの問題でもありました。政府は、ある手続きには機能するが、別の手続きには機能しない構造化データベースを使用していました。家族を引き離すための新たな手続きに対応するためにITシステムを更新するどころか、政権は必要なコンピューターアーキテクチャについて検討することなく、突き進んでしまいました。数か月前、ウェンディとメキシコ国境近くの司令センターを訪れた際に、CBPのシステムを目にしていたので、そのシステムが時代遅れであることには驚きませんでした。しかし、それでもなお、基本的なテクノロジーインフラに関して何が必要なのか、その影響について政権が考えていなかったことには、強い恐怖を感じました。

その朝、サティアの上級幹部チームが金曜日の会議のために集まっていた会議室に入ったとき、私は自分が聞いたことを共有しました。話し合っていくうちに、それが、テクノロジー企業が、私たちが反対する政策に基づいて、政府機関をあらゆるサービスから切り離すという、一部の人々が主張する主張に対する、より広範な懸念と結びついていることに気づきました。テクノロジーは私たちの生活の重要なインフラとなっており、それを更新しないこと、あるいはさらに悪いことに、単に接続を切断することさえ決断すれば、あらゆる種類の意図しない、予期せぬ結果をもたらす可能性があります。サティアが内部の会話で何度も指摘していたように、政府はメールを家族を再び結びつけるツールの一つとして利用していました。もし私たちがメールを遮断したら、何が起こるか誰にもわかりませんでした。

この結果から、アメリカの政府機関をボイコットすることは間違ったアプローチだと結論づけました。しかし、そのような行動を提唱する人々、そして私たちの従業員の中には、いくつか適切な問いを投げかけている人たちもいました。例えば、顔認識技術は、より注意を払うべき課題を生み出しました。私たちは熟考を重ねた結果、この新しい技術は新たな法律と規制によって規制されるべきだと結論づけました。これは、国民のプライバシーを守り、偏見や差別のリスクに対処しながら、イノベーションを継続させる唯一の方法です。

カリフォルニア州の地元警察から連絡があり、警察がすべての車両とボディカメラに、停車させた人物の写真を撮影し、他の犯罪の容疑者データベースと一致するかどうかを確認できる機能を搭載したいと申し出があったことで、この原則的なアプローチの必要性が改めて強調されました。私たちはその理屈は理解しましたが、顔認識技術はこの種のシナリオに導入するにはまだ未熟すぎるとアドバイスしました。少なくとも2018年においては、このような技術を用いると誤検知が多すぎて、誤って特定された人物がフラグ付けされてしまう可能性があり、特に有色人種や女性の場合、エラー率が依然として高いことが懸念されました。私たちはこの申し出を断り、警察に対し、この目的での顔認識技術の導入を断念するよう説得しました。

これらの経験から、顔認識に適用できる原則について、ある程度の洞察が得られ始めました。しかし、シアトルの反対側であろうと太平洋の反対側であろうと、安全策や制限を全く設けていない企業に、私たちが正道を歩んだ結果、価格を下げられてしまったら、実効性はほとんどないのではないかと懸念していました。顔認識は、他の多くのAIベースの技術と同様に、データ量が多いほど性能が向上します。そのため、できるだけ多くの早期取引を行おうとするインセンティブが生まれ、結果として、テクノロジー企業が社会的責任と市場での成功のどちらかを選ばざるを得なくなり、商業的に底辺への競争に陥るリスクがあります。

この底辺への競争を防ぐ唯一の方法は、健全な市場競争を支える責任の基盤を築くことです。そして、確固とした基盤を築くには、この技術と、それを開発・利用する組織が法の支配によって統治されることを確実にする必要があります。私たちは、他の技術の歴史的な規制から知見を得ました。バランスの取れた規制アプローチによって、消費者と生産者の双方にとってより健全な力学が生み出された市場は数多くあります。自動車業界は20世紀に何十年も規制を求める声に抵抗してきましたが、今日では、シートベルトやエアバッグの普及、そして燃費向上において、法律が果たした重要な役割が広く認識されています。航空安全、食品、医薬品についても同様です。

もちろん、規制の必要性について議論することと、どのような規制が最も合理的かを定義することは別問題です。2018年7月、私たちは検討すべきと考える質問のリストを公開し、考えられる答えについて人々に助言を求めました。議論は従業員と技術専門家の間で始まりましたが、すぐに全国、そして世界中に広がりました。

パリの国民議会で会った議員たちの反応に衝撃を受けました。ある議員は「他のテクノロジー企業は私たちにこんな質問をしません。なぜあなたたちと違うのですか？」と言いました。顔認識は、テクノロジー業界において、私たちが時折他社と異なる立場をとる問題でした。おそらく何よりも、これは1990年代の独占禁止法闘争から学んだ教訓を反映しているのでしょう。当時、私たちは多くの企業や業界と同様に、規制は不要であり、むしろ有害であると主張していました。しかし、その経験から得た多くの教訓の一つは、社会全体に広範な影響を与える製品や、有益な用途と潜在的な問題を抱える用途が混在する製品には、そのようなアプローチが必ずしも有効ではないということです。

私たちは、多くのテクノロジー企業が伝統的に示してきた政府の介入に対する抵抗を、もはや共有していませんでした。私たちは既にその戦いを戦ってきました。代わりに、より積極的でありながらバランスの取れた規制アプローチを支持しました。それが、2005年という早い時期に、米国で連邦プライバシー法の制定を求めた理由の一つです。政府が細部を間違え、政府の介入を主張したことを後悔する日が来ることは覚悟していました。しかし、テクノロジー業界だけに頼って全てを解決するよりも、この包括的なアプローチの方がテクノロジーと社会にとってより良いと信じていました。

鍵となるのは、具体的な内容を把握することでした。WIRED誌に掲載されたニターシャ・ティク氏の記事は、この力学の重要性を的確に捉えています。彼女は2018年末に、「テクノロジースキャンダルが渦巻いた地獄のような1年を経て、政府に懐疑的な企業幹部でさえ、法整備への前向きな姿勢を表明し始めている」と指摘しました。しかし、ティク氏も指摘したように、私たちの目標は、政府に対し顔認識技術を規制するための具体的な提案を提示することで、「さらに一歩前進」させることでした。

我々は、法整備によって偏見のリスク、プライバシー、そして民主的自由の保護という3つの主要な問題に対処できると考えました。適切に機能する市場は偏見を減らすための進歩を加速させると信じていました。我々が出会った顧客は、エラー率が高く差別につながる顔認識サービスの購入に関心を示しませんでした。しかし、顧客が情報を欠いていれば市場は機能しません。消費者レポートなどの団体が自動車の安全性などの問題について国民に情報を提供してきたように、学術団体やその他の団体が競合する顔認識サービスの精度をテストし、情報を提供できると考えました。これにより、マサチューセッツ工科大学のジョイ・ブオラムウィニ氏のような研究者が、我々を後押しする研究をさらに推進できるようになります。鍵となるのは、市場に参加する企業に自社製品のテストを可能にすることを義務付けることでした。これが我々の提案であり、事実上、規制を用いて市場を強化するものでした。

差別リスクを軽減するために、顔認識技術を導入する組織に対し、意思決定をコンピューターに委ねるのではなく、重要な意思決定を行う前に従業員が結果を確認できるようトレーニングを行うことを義務付ける新たな法律を制定すべきだと私たちは考えました。とりわけ、組織が顔認識技術を設計当初の意図とは異なる方法で導入した場合、偏見のリスクが悪化する可能性があることを懸念していました。訓練を受けた人材は、この問題の解決に貢献できるでしょう。

ある意味で、より厄介な問題は、法執行機関が顔認識技術を用いて特定の個人の日常生活を継続的に監視することをいつ許可すべきかという点でした。民主主義は常に、人々が公私を問わず互いに会い、話し合い、意見を共有できることに依存してきました。これは、人々が自由に移動でき、政府による常時監視を受けないことを前提としています。

政府による顔認識技術の活用は数多くあり、こうした懸念を引き起こすことなく、公共の安全を守り、より良い公共サービスを促進することに役立っています。しかし、遍在するカメラ、そしてクラウド上の膨大なコンピューティングパワーとストレージと組み合わせることで、顔認識技術は政府による特定の個人への継続的な監視を可能にする可能性があります。これはいつでも、あるいは常時行うことも可能であり、このような技術の活用は、前例のない規模の大規模監視につながる可能性があります。

ジョージ・オーウェルが小説『1984年』で描いたように、未来のビジョンの一つは、市民が政府の監視を逃れるために、こっそりと暗い部屋に入り、互いの腕に暗号を打ち込むというものでした。さもなければ、カメラやマイクが人々の顔、声、そしてあらゆる言葉を捉え、録音してしまうからです。オーウェルが70年近く前に描いたビジョンです。私たちは、現代のテクノロジーがそのような未来を可能にしてしまうのではないかと懸念していました。

我々の見解では、その答えは、法執行機関が顔認識技術を用いて特定の個人を継続的に監視することを、捜査令状などの裁判所命令を得た場合、または人命に差し迫った危険を伴う緊急事態が発生した場合にのみ許可する法律を制定することだった。これにより、携帯電話のGPS位置情報を利用した個人追跡のために現在米国で施行されているルールと同等のルールが、顔認識サービスにも導入されることになる。最高裁判所が2018年に決定したように、警察は捜索令状なしに、携帯電話の基地局、ひいては移動先の物理的な場所を示す携帯電話の記録を入手できない。我々の見解では、「我々の顔は携帯電話と同じように保護されるべきか？我々の観点からすれば、答えは断固としてイエスである」。

政府のリーダーシップが必要だからといって、テクノロジー企業が自らの倫理的責任を免除されるわけではありません。顔認識技術は、広く共有されている社会の価値観に合致した方法で開発・利用されるべきです。私たちは、法案に対応する6つの原則を公表し、これを顔認識技術に適用し、それらを実装するためのシステムとツールを構築しています。他のテクノロジー企業や支援団体も同様のアプローチを追求しています。

顔認識の問題は、人工知能（AI）が抱える他の倫理的課題の今後の発展を垣間見せてくれます。私たちのように、あらゆる分野に適用できる広範な原則から出発することもできますが、これらの原則は、具体的なAI技術や具体的なシナリオに実際に適用されたときに初めて試されます。そして、その際にこそ、物議を醸す可能性のあるAIの活用が出現する可能性が高くなります。

問題はまだまだ増えるでしょう。顔認識と同様に、それぞれの技術がどのように利用される可能性があるかを精査するための詳細な作業が必要になります。多くの課題は、新たな規制とテクノロジー企業による積極的な自主規制の組み合わせを必要とします。そして、多くの課題は、国や文化間で重要かつ異なる見解を生み出すでしょう。各国がより迅速かつ協調的に行動し、これらの問題に繰り返し対処できるよう、より優れた能力を開発する必要があります。それが、機械が人間に対して説明責任を果たし続けるための唯一の方法です。

記事内の販売リンクから商品をご購入いただくと、少額のアフィリエイト報酬が発生する場合があります。 仕組みについて詳しくはこちらをご覧ください。

WIREDのその他の素晴らしい記事