リアルネットワークス、学校向け無料顔認識ツールを発表

アメリカの多くの親たちと同じように、ロブ・グレイザーも最近、学校で子供たちが銃撃されるのを防ぐにはどうしたらいいか、ずっと考えていました。具体的には、彼が「Gワード」と呼ぶものをめぐる、終わりのない厄介な争いに巻き込まれることなく、何ができるかを考えていました。

グレイザー氏が銃規制に反対しているわけではない。民主党への継続的な寄付者であるグレイザー氏は、1990年代に左派の政治的見解を発信する手段として、オンラインストリーミング大手のリアルネットワークスを設立した。ただ、アメリカにおける銃規制に関する議論は、行動に移すよりも、行き詰まりや非難の応酬につながる傾向がある。「今の政治情勢では、私の個人的な意見が通用しないことは分かっています」とグレイザー氏は言う。

そこで彼は、より議論を巻き起こさず、より迅速に実行可能な解決策の開発に着手した。過去2年間、リアルネットワークスは顔認識ツールを開発してきた。このツールは、学校が玄関を通過する人物をより正確に監視するのに役立つことを期待している。同社は本日、学校管理者が「SAFR」と呼ばれるこのツールを無料でダウンロードし、各自のカメラシステムに統合できるウェブサイトを立ち上げた。現在、グレイザー氏の子供たちが通うシアトルのある学校がこのツールをテストしており、ワイオミング州も今年後半に開始予定のパイロットプログラムを計画している。「顔認識技術を使って学校をより安全にすることは良いことだという、社会的合意を得られる何かにたどり着きつつあると感じています」とグレイザー氏は語る。

この画像には、スクリーン、電子機器、モニター、ディスプレイ、液晶画面、髪の毛、人間、人物が含まれている可能性があります。

しかしグレイザー氏が提案する解決策は、米国における銃規制をめぐる何十年にもわたる争いを回避するかもしれないが、同時に、まるで映画「マイノリティ・リポート」のワンシーンのようになりつつある世界でプライバシーとセキュリティのバランスをどう取るかという、より新しく、しかし依然として物議を醸している議論の中心に彼を位置づけることになる。グレイザー氏が元理事を務めた電子フロンティア財団などの団体は、顔認識技術が黒人や女性を白人男性よりも誤認する割合が高いことを詳述したホワイトペーパーを発表している。アマゾンの従業員自身も、法執行目的での同社製品「Rekognition」の使用に抗議している。そして先週、マイクロソフトのブラッド・スミス社長は顔認識技術の連邦規制を求め、「この技術は、あなたの写真をカタログ化したり、家族の再会を支援したり、あるいは民間企業や公的機関によって同様に悪用されたり乱用されたりする可能性がある」と書いている。

この問題は、特に子供たちに関わる場合に深刻です。ニューヨーク州ロックポートの学校が、生徒の監視のために顔認識技術に数百万ドルを費やす計画を発表したことを受け、ニューヨーク自由人権協会とリーガル・ディフェンス・ファンドは、子供たちへの監視強化が、家庭や学校で既に過剰な監視を受けている可能性のある有色人種の生徒に対する既存の偏見を増幅させる可能性があると懸念を表明しました。

「学校での顔認識技術の使用は、前例のないレベルの監視と詮索を生み出す」と、リーガル・ディフェンス・ファンドのフェロー、ジョン・カシック氏は指摘する。「学校が懲戒規則を施行し、生徒を監視する方法において、人種間の格差を悪化させる可能性がある」

「ACLUの正式会員」を自称するグレイザー氏は、顔認識技術が不適切に使用されるリスクを痛感している。実際、それが彼がSAFRをまず学校に導入することに決めた理由の一つだ。「私の考えでは、技術を市場に投入する際には、それを良い方向に導く方法を見つけることが正しいのです」と彼は言う。

「個人的には、学校監視はやり過ぎても良いと考えています。しかし同時に、学校でこれほど多くの悲劇的な事件が発生している国では、学校の安全をより容易に維持できるテクノロジーは、根本的に良いことだという点にも同意します。」

リアルネットワークスは、グレイザー氏が3年間の休職から復帰した直後から、SAFRの基盤となる技術の開発に着手しました。グレイザー氏は、PC時代のパイオニアである同社を、モバイルとクラウドコンピューティングの時代にも通用する企業へと生まれ変わらせたいと考えていました。グレイザー氏の復帰後、リアルネットワークスが最初に発表した主要製品は、写真保存・共有アプリ「RealTimes」でした。当初、顔認識技術は、写真に写っている人物をRealTimesアプリで識別するためのものでした。しかし、この分野でGoogleやFacebookといった企業が優勢だったことを考えると、RealTimesは「それほど大きな成功とは言えなかった」とグレイザー氏は認めています。さらに、彼は、チームが開発した技術が、はるかに差し迫った、そして未解決の問題の解決に活用できる可能性に気づき始めていました。

グレイザー氏は、シアトルにある子供たちの通うユニバーシティ・チャイルド・デベロップメント・スクールの管理者に、ゲートとカメラシステムを導入したばかりの学校関係者に、SAFRを使って保護者、教師、その他の来校者を監視してみてはどうかと相談した。学校側は、子供ではなく大人にSAFRシステムに顔を登録するよう求める。登録後、正門のカメラに向かって微笑むだけで入校できるようになる（微笑むことで、ソフトウェアは写真などではなく、生きている人間を見ていることを認識する）。システムが人物を認識すると、ゲートは自動的に解錠される。そうでない場合は、受付係に電話をかけて昔ながらの方法で入校する。

校長のポーラ・スミス氏によると、保護者からのフィードバックは好意的なものだったものの、顔認証システムへの登録に同意したのは約半数にとどまったという。同校はこの技術を軽々しく導入している。例えば、11歳未満の生徒は意図的に参加させないという。スミス氏は、この技術を子どもたちに使うことについて、「非常に慎重に判断する必要があると思います」と述べている。現在、ユニバーシティ・チャイルド・デベロップメント・スクールでは、子どもたちが自分で登録できないようにSAFRの年齢フィルターを使用している。このソフトウェアは人物の年齢と性別を予測できるため、学校は一定年齢未満のアクセスをブロックすることができる。しかしグレイザー氏は、今後他の学校が生徒を登録したいと思ったら、そうできると指摘している。

SAFRで記録された顔データはそれぞれ固有の暗号化ハッシュ値で、学校のローカルサーバーに保存されます。グレイザー氏によると、ハッシュ値が他のシステムと互換性がないため、現在、あるサイトから別のサイトへデータを共有することは技術的に不可能とのことです。しかし、今後状況が変化する可能性があるとグレイザー氏は言います。例えば、ある学校システムがSAFRを全校に導入したい場合、学校間でのデータのやり取りを許可する可能性があります。

現時点では、RealNetworksは学校に対し、この技術の利用方法に関する具体的な条件を定めていません。簡単な承認プロセスでは、学校がRealNetworksに対して実際に学校であることを証明するだけで済みます。その後は、学校は独自にソフトウェアを導入できます。顔データの保存期間、使用方法、追跡にオプトインが必要かどうかなど、ガイドラインは一切ありません。

ブレナン・センターの自由と国家安全保障プログラムの上級顧問、レイチェル・レビンソン＝ウォルドマン氏は、これは懸念すべきことだと指摘する。「顔認識技術は、その使用に関する明確なガイドラインがなければ、さらなる危険をもたらす可能性がある」と彼女は言う。

例えば、学校は顔認識技術を使って誰が誰と付き合っているかを監視し、その結果に応じて生徒に異なる懲戒処分を下すことができる。「友情を犯罪化する可能性がある」とリーガル・ディフェンス・ファンドのカシック氏は言う。

グレイザー氏は、ユーザー数が増えるにつれて、より明確な利用規約を策定する必要があることを認めている。特に、法執行機関など、他の種類の顧客層への展開を始める場合はなおさらだ。グレイザー氏は、法執行機関という市場の可能性も否定していない。しかし、学校向けに厳格なユーザーガイドラインを設けるのか、それともSAFRの使い方について「やや控えめな推奨」を提示するだけにするのか、まだ検討中だとグレイザー氏は述べている。

顔認識技術の精度全般についても疑問が投げかけられている。マサチューセッツ大学が作成した顔認識システムの検証テストでは、SAFRは99.8%の総合精度を誇っている。しかしグレイザー氏によると、同社はこのツールが白人の顔認識と同様に黒人や褐色人種の顔認識においても優れているかどうかをテストしていないという。リアルネットワークスは、人種プロファイリングに利用されることを懸念し、年齢や性別を予測するのと同様に、民族性を予測する機能を意図的に搭載していない。しかしながら、異なる人口統計におけるツールの精度をテストすることは重要である。研究によると、多くの主要な顔認識ツールは、特に黒人女性の認識が苦手であることが明らかになっている。しかしグレイザー氏は、このアルゴリズムは世界各国から集められた写真を用いて学習されており、チームはまだそのような「不具合」を検出していないと指摘する。それでもなお、SAFRが多くの未解決の疑問を抱えたまま市場に投入されているという事実こそが、専門家がこれらのツールの活用事例と有効性を規制するために政府が介入する必要があると指摘する理由の一つである。

「この技術は研究される必要があり、検討されている規制は直接影響を受ける人々、つまり学生と保護者を考慮に入れる必要がある」とカシック氏は言う。

もし全ての学校がシアトルのようにSAFR（安全装置）を導入し、明示的にシステム利用を希望する保護者のみ校内への立ち入りを許可すれば、大きな害はなさそうだ。問題は、それが実際に効果があるかどうかだ。レビンソン＝ウォルドマン氏は、この種の技術では、フロリダ州パークランドでの銃乱射事件のようないくつかの注目を集めた例外を除き、多くの学校での銃乱射事件を阻止することはできなかっただろうと指摘する。これらの事件は、教室内にいる権利を持つ生徒によって犯されたものだ。「技術的な解決策がある、危険な人物を見つけて阻止できる、と言いたくなる気持ちはわかります」と彼女は言う。「しかし、その多くは、頼みの綱にすがる思いに過ぎないと思います」

グレイザー氏は、この分野への連邦政府の監督を歓迎している。プライバシーに対する自身の見解こそが、顔認識の倫理的導入をめぐる今後必ずや長引くであろう議論に参加したいと考えている理由だと彼は言う。「これは単なるSFの話ではありません。私たち社会全体が議論しなければならない問題になりつつあります」と彼は言う。「つまり、これらの問題に関心を持つ人々が、ただ嘆くだけでなく、解決策を提供しようと努力する人々として関与する必要があるということです。顔認識を提供するのがプライバシーなどどうでもいいと思っている人々だけだったら、それはまずいことです」

WIREDのその他の素晴らしい記事