学校での顔認識技術利用に関する微妙な倫理的問題

パークランド銃乱射事件を受け、別のIT企業であるリアルネットワークスも、学校に顔認識ソフトウェアを無償提供するに至った。「パークランド事件が起き、社会的な影響を考慮し、ソフトウェアを提供すると発表しました」と、CEOのロブ・グレイザー氏は語る。「1,000校以上の学区が関心を示しています」。リアルネットワークスの製品管理担当シニアディレクター、マイク・ヴァンス氏によると、数十校の学校が、保護者や職員のために門を自動的に開けたり、親権争いで裁判所命令を受けている保護者など、容疑者の監視にこの技術を活用しているという。リアルネットワークスは、提携する学校に対し、学校での顔認識に関する簡潔なベストプラクティスガイドを配布している。このガイドではプライバシーと透明性について解説されているが、同社は学校がどのように自社の技術を使用しているかを監視していない。

今春、パナソニックのエンジニア3人がヒューストンと日本から、カンザスシティから30マイル（約48キロメートル）離れたミズーリ州ウェストプラットへ赴きました。そこで彼らは、学区が600人の生徒を見守るために発注した20万ドル（約2,000万円）のカメラシステムの設置を支援しました。このシステムには、パナソニックの顔認識システム「FacePRO」を搭載したカメラ13台を設置するライセンスも含まれています。カメラは主に学校の入口を監視し、学校のITオフィスと地元の警察に映像を送信します。システムが学区の監視リストに載っている人物を特定すると、両社にアラートが送信されます。設置を監督したオクラホマシティの企業、トライコープス・セキュリティの最高技術責任者（CTO）、チャド・ブラッドリー氏によると、映像はデフォルトで1か月間保存されます。パナソニックはコメントの要請に応じませんでした。

テキサス州東部の田舎にある、生徒数1900人のスプリングヒル独立学区は、この夏、カメラと顔認識ソフトウェアを導入した。40万ドルを投じたこのシステムは、8月に学校が再開される前夜、ある高校生がソーシャルメディアに脅迫文を投稿したことを受けて稼働を開始した。ウェイン・ギドリー教育長によると、職員は予防措置として生徒の写真をソフトウェアの監視リストに追加したが、事件は授業開始前に解決したという。「私たちのキャンパスは以前よりずっと安全になったと思います」と彼は言う。

人口4万6000人の石油産業の町、テキサスシティは、2つの悲劇的な事件を受けて顔認証システムを導入しました。2017年、ハリケーン・ハービーが学区内の建物の一部を破壊した後、有権者は4つの新しい学校、バス、そして警備の強化に充てる1億3600万ドルの債券発行を承認しました。その投票から数日後、容疑者の学生は、テキサス州サンタフェ近郊の高校の美術棟にショットガンとリボルバーを持って侵入し、生徒8人と教師2人を殺害しました。

テキサスシティの教育長、ロドニー・キャブネス氏は迅速に対応した。サンタフェの悲劇から3日後、彼はテキサスシティ出身で、オバマ大統領候補、そして後に大統領に配属されたシークレットサービスで長年勤務したマトランガ氏を雇用した。「何か違うことをする必要があると分かっていました」とキャブネス氏は語る。「専門家を雇い、仕事を任せました。」

マトランガは退役軍人からなる小規模なチームを編成し、作業に着手した。学区は数百台もの防犯カメラを設置し、窓には防弾フィルムを貼り、教室のドアにはボルトと遠隔ロックシステムを導入して強化した。さらに、ウェブやソーシャルメディアで学校に関する言及を検索するソフトウェアにも投資した。

マトランガ氏は、彼と学区は学校襲撃に関するシークレットサービスの報告書からアイデアを採用したと述べ、その中には通報の受け入れやいじめ対策プログラムの策定などの勧告も含まれている。学区はP3キャンパスというアプリを使用しており、保護者や生徒が職員に匿名で通報できる。学区はまた、保安官代理の数を11人から19人に増員し、AR-15を収納した銃保管庫を設置して、重武装の襲撃者にも対等に対応できるようにした。「優れた火力には、優れた火力で対抗するのです」とマトランガ氏は言う。テキサスシティの学校は、今や国家元首にふさわしい警備活動を展開できる。5月の卒業式の際には、万が一に備えて、4人のSWAT隊員がスタジアムの両端に人目につかない場所で待機し、狙撃兵が屋根の上に陣取り、AR-15を収納した金庫が50ヤードラインの両端に置かれていた。

マトランガ氏は、顔認識システムがあれば、銃撃犯が実際に発砲する前に、より迅速に対処できるかもしれないと話す。このシステムは、懲戒処分を受けた学校の生徒など、容疑者の監視リストとすべての顔を密かに照合する。パークランドの銃撃犯とされる人物には問題行動があり、半自動小銃を持って戻ってくる約1年前に退学を余儀なくされたとマトランガ氏は指摘する。テキサスシティには1,600台すべてのカメラで顔認識を実行するのに十分なソフトウェアライセンスがないため、建物の入口を優先し、卒業式のスタジアムのカメラなど、特別なイベントのときは別のフィードを監視するようにソフトウェアを切り替えている。同学区はシステムをサポートするサーバーに38,000ドルを費やし、年間26,000ドルのサブスクリプション料金を支払っている。「ディズニーワールドには監視カメラがあるのに、なぜ学校がそうでない必要があるのか​​」とマトランガ氏は問う。

WIREDの記者が、テキサス州南東部の蒸し暑い9月を抜け出し、マトランガのオフィスのロビーエリアに足を踏み入れると、システムは新たな顔の画像を様々な角度から複数収集した。マウスを数回クリックするだけで、その顔がシステムの監視リストに追加される。カメラが記者がロビーに戻るのを検知すると、サイレンが鳴った。マトランガと、彼の警備チームの他の3人、そして地区の19人の保安官代理全員に通知が届いた。

記者はその後すぐに監視リストから削除されたが、学区の懲戒処分を受けた学校の生徒と、地元で登録された性犯罪者はリストに残った。高校の保護者である元パートナーと口論した後、警察に校内から連行され、不法侵入の警告を受けた男性もリストに残った。彼女はマトランガ氏のチームに彼の写真を提供した。監視リストに載っていた他の画像は、リングのドアベルカメラからのものだった。マトランガ氏のスタッフは、子供が自宅の周りをうろつき、監視カメラを舐めたと苦情を申し立てた地元住民に対応するため、これらの画像を追加した。今のところ、このシステムにはヒットは記録されていない。

テキサスシティの監視リストに載っているもう一人の人物はマンダリン・サラザールだが、WIREDが連絡するまで彼女はそのことを知らなかった。彼女はテキサスシティの学校システムで家庭向けのボランティア活動を行っている。先月、彼女は学校理事会の傍らでマトランガと口論になった。サラザールとマトランガの両名とも、口論の末、サラザールはマトランガを「クソ野郎」と罵り、学校敷地内に戻ったら逮捕すると脅されたという。

サラザールさんは、自分の写真が学区の顔認識システムに登録されたことを知らされた覚えはない。マトランガ氏によると、チームは彼女のFacebookプロフィール写真を使って登録したという。「彼女は理性的ではなく、不安定です」と彼は言う。「そういうタイプの人間には注意が必要です」。マトランガ氏によると、サラザールさんは今後1年間、監視リストに載ることになるという。

サラザールにとって、本人に知らせずに監視リストに加えられたことは、学区の権威主義が忍び寄る兆候だった。「私に知らせずにこんなことをするのは許されません。私には異議を申し立てる権利があるはずです」と彼女は言う。「一体どれだけの人にこんなことをしてきたのでしょう？」彼女は、学区内で生徒の大半が貧困層で黒人である地域の家庭が、学校当局に異議を唱えることに抵抗を感じているのではないかと心配している。「多くの親は教育を受けていないので、不安を感じているかもしれません」

キャブネス教育長は、地域社会と生徒諮問委員会は学区のセキュリティ強化と顔認識システムの導入に「満足している」と述べた。テキサスシティ高校で金曜日の午後2時50分にベルが鳴ると、生徒たちは授業の合間に群がり、階段の上や廊下の交差点に戦略的に設置された監視カメラを気にする様子もなく、友好的なヘッドロックや複雑な握手を交わしていた。

テキサスシティ高校の3年生で、政治活動クラブの会長を務めるイザベラ・ジョンストンさんは、生徒全員がセキュリティ強化を支持しているわけではないと指摘する。彼女は今年初め、学校新聞「スティング・シティ・プレス」に社説を寄稿し、顔認識システムの有効性と人種差別に対するACLU（アメリカ自由人権協会）の懸念を表明した。4月には、ジョンストンさんは300人以上の生徒を対象に、学校の新たな安全対策についてアンケート調査を実施した。多くの生徒が、校内での顔認識システムやAR-15の導入によって、安全ではないと感じていると回答した。40%以上が、学校の雰囲気が以前と比べて悪化したと回答した。

ジョンストン氏は、強化されたドア、銃器の金庫、顔認識アルゴリズムを搭載したカメラの影の中で学ぶのはストレスがたまることがあると語る。「必ずしも安全になったとか危険になったとか感じるわけではありませんが、何かが起こるかもしれないという意識を常に持ち続けています」と彼女は言う。「多くの同級生が同じことを口にするのを耳にしました。『常にこんな可能性があると意識させられている』と。」

テキサスシティでは、昨年、20分ほど離れた小さな町サンタフェの高校で起きた襲撃事件によって、その記憶が鮮明に残っています。サンタフェ独立学区に2人の子供（うち1人は同高校に通う）を持つジェームズ・グラスマックさんは、この悲劇の後、新設された安全・警備委員会にボランティアとして参加しました。昨冬、彼は学校委員会の委員に立候補し、当選しました。彼の公約には顔認証システムの導入が含まれていました。

このシステムは現在稼働しており、銃撃事件以降に200万ドル以上を投じたセキュリティ強化策の一環である。グラスマック氏は、顔認証システムは金属探知機や新しいフェンスといった他のセキュリティ対策よりも目立ちにくく、地元住民の協力も得ている点が魅力的だと語る。「苦情は一度も聞いていません」と彼は言い、声を震わせながら付け加えた。「ただ、状況は少し違います」

全国で、行政機関や議員たちは、銃乱射事件の可能性に対して何らかの対策を講じなければならないというプレッシャーを感じている。目立った事件は、しばしば学校警備のための地方、州、あるいは連邦予算の新たな支出を促す。昨年のパークランド銃乱射事件から1か月後、議会は学校警備の訓練とインフラ整備のための資金を計上する「学校内暴力防止法」を可決した。「コロンバイン銃乱射事件やニュータウン銃乱射事件のような、このような注目を集める事件が起こるたびに、その直後には監視システムや警察官への予算増額を盛り込んだ法案が提出されている」と、フロリダ州立大学のナンス教授は述べている。

こうした資金提供策では通常、具体的な技術には言及されず、学校に顔認識システムの導入に関する裁量を与えている。ウェストプラットでは、有権者が債券発行を承認し、この小さな田舎の学区は20万ドルのアップグレード費用を賄うことができたと、システム導入コンサルタントのブラッドリー氏は述べた。2014年末には、ニューヨーク州の有権者が「ハイテクセキュリティ機能」を含む技術改善に20億ドルを承認した。NYCLUが入手した電子メールによると、ロックポートの当局者は、SNテクノロジーズと金銭的なつながりを持つコンサルタントから無料の脅威評価を受けた後、SNテクノロジーズから顔認識システムを購入するために割り当てられた資金を選んだ。SNテクノロジーズは、コンサルタントとの関係に関する具体的な質問への回答を拒否した。

顔認識機能付きカメラが間もなく設置される予定のもう一つの地域は、ジョージア州フルトン郡です。アトランタ郊外に位置し、生徒数9万5000人のフルトン郡学区です。2017年、同学区はカメラシステムをモトローラ傘下のアビジロン社製の「外見検索」ソフトウェアにアップグレードしました。このソフトウェアは、シャツの色や髪型に基づいて人物を検索できる機能です。同学区の技術ディレクター、ポール・ヒルドレス氏は、このプロセスをGoogle検索に例え、管理者が喧嘩や器物損壊の捜査を行うのに役立っていると述べています。

フルトン郡は来年、顔認識機能を導入する改修を計画している。改修費用は、有権者の承認を得た1%の売上税から賄われ、5年間で10億ドルの資本改善資金を調達することを目指している。そのうち1575万ドルは安全とセキュリティのために確保されている。ヒルドレス氏は、過去の映像から生徒をより迅速に見つけ、今後の行動を正確に把握するためのアラートを設定できるようにしたいと述べている。「ある子どもを顔認識システムに映し出すだけで、その子どもが以前どこにいたか、次にどこに現れるかが分かります」とヒルドレス氏は言う。

先月、テキサスシティでは、ヒューストンのクリアレイクとのフットボールの試合前に、学生たちが体育館に詰めかけ、激励集会が開かれた。生徒たちはジーンズとジャージ姿で威勢よく登場し、スクールバンドが軽快に演奏した。試合後、職員が散らばった紙吹雪を掃き集めている最中、マトランガはチアリーダーたちに誰かがチョコレートミルクをかけていたという知らせを受けた。些細な出来事だったが、記録に残さずにはいられなかった。体育館の四隅にはカメラが設置されていた。「月曜日にはその映像を撤回します」と彼は言った。

WIREDのその他の素晴らしい記事

• WIRED25: 私たちを救うために奮闘する人々の物語
• 巨大なAI搭載ロボットがロケット全体を3Dプリント
• リッパー― とんでもなくひどいビデオゲームの裏話
• USB-Cがついに登場
• ハードウェアに小さなスパイチップを埋め込むコストはわずか200ドル
• 👁 ディープフェイク動画の時代に向けて準備しましょう。さらに、AIに関する最新ニュースもチェックしましょう。
• 🏃🏽‍♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください。