内部メールが、物議を醸した銃器検知AIシステムがニューヨーク市に導入された経緯を明らかに

2022年2月、ニューヨーク市長エリック・アダムス氏のチームと、人工知能（AI）銃器検知企業Evolvとの間で会合が設定された。Evolvの担当者からのメールには、ポート・オーソリティ・バスターミナル、ニューヨーク市の学校、病院、タイムズスクエアなどの集会場など、連携できる分野が列挙されたパンフレットが添付されていた。しかし、そのリストに地下鉄が含まれていないのは明らかだった。

数日後の直接のミーティングの後、Evolvの共同創業者アニル・チトカラ氏は、名前を出すことで同社の技術を売り込もうともう一度試みた。

「先ほども申し上げたように、ウォルト・ディズニー・ワールド（フロリダ）のセキュリティ担当副社長、リンダ・リード氏は2014年から当社と関係があり、パークやディズニー・スプリングスに多くのシステムを導入しています」と、チトカラ氏はWIREDが入手した2月7日付の市長室宛てのメールに記している。「彼らはEvolv Expressを使った武器検査で成功を収めています。…セキュリティにおける各人の役割について、皆さんがどのように考えているかと、興味深い共通点があるかもしれません。」

ニューヨークとディズニーワールドの安全性の比較は、アダムズチームを説得するのに役立ったようだ。数週間後、エボルブの技術は、2022年1月に救急室で男性が銃撃されたブロンクスの市立病院で、来訪者のスクリーニングに使用された。これはあまり効果がなく、7ヶ月間の試験運用期間中、スキャナーは85%の確率で誤検知を出した。

Evolvの病院での精度が低かったとすれば、ニューヨーク市の地下鉄駅での精度はさらに低い可能性があります。2024年3月15日の投資家向け電話会議で、同社のCEOであるピーター・ジョージ氏は、この技術が地下鉄駅向けではないことを認めました。「特に地下鉄は、鉄道との干渉があるため、当社の技術にとって良いユースケースとは考えていません」とジョージ氏は述べました。

にもかかわらず、3月下旬に地下鉄の線路に突き落とされた男性が死亡した事件を受け、アダムズ氏はエボルブ社の銃検知スキャナーをニューヨーク市内の駅で試験的に導入すると発表した。「これはスプートニクの瞬間だ」とアダムズ氏は3月28日に述べた。「ケネディ大統領が人類を月に送ると言ったあの瞬間だ」

Evolvの代表であるアレクサンドラ・スミス・オゼルキス氏は、WIREDの取材に対し、2019年に発売された主力製品であるEvolv Expressの開発当初は「ニューヨーク市の地下鉄システムを念頭に置いて開発していたわけではありません。とはいえ、私たちはミッションドリブンな企業であり、新しい環境で自社の技術をテストするよう依頼があれば、喜んで応じます」と語った。

しかし、アダムズ氏がニューヨーク市民の安全を託したいと考えているこの企業は、全米各地で数々の物議を醸しており、批評家たちはその技術が効果的に機能しているのかどうか疑問視している。銃やナイフなどの武器を検知するために「電磁場と高度なセンサー」を使用する同社のソフトウェアは、特に学校で何度も検知漏れを起こしている。しかし、この事実も、米国証券取引委員会がエボルブ社に対する事実調査を開始したという最近の発表（これは、2023年に連邦取引委員会が同社のマーケティング慣行をめぐって行った調査に続くものだ）も、アダムズ政権を思いとどまらせることはできなかった。アダムズ政権は、かつてニューヨーク市警に勤務していた同社の従業員と繋がりがあり、この点は同社が売り込みの中で強調しようとしていた点だ。

混合会社

2022年、アダムズ氏はニューヨーク市副市長のフィリップ・バンクス3世氏に銃器探知システムの導入を指示した。政権入りする前はニューヨーク市警察の局長を務めていたが、連邦贈収賄・汚職捜査の最中、2014年に辞任した。捜査では、後に起訴されていない共謀者として名前が挙がった。（バンクス氏は起訴されなかった。）

アダムズ氏は2022年5月にEvolvをオンラインで見つけたと述べているが、Evolvのオゼルキス氏はWIREDに対し、ニューヨーク市警が「暴力犯罪を抑制するための多面的な計画の一環として、市内で当社のスクリーニングソリューションを使用する可能性を探り、テストするために」Evolvに連絡してきたと語っている。

元ニューヨーク市警職員との重複が多かった。アダムズとバンクスも警察官として共に活動していた。チトカラ市長スタッフへのメールで名前を挙げられた、当時のエボルブの営業担当役員も同様だった。4月に地域マネージャーに昇進する前はエボルブの米国北東部営業部長を務めていたドミニク・ドラジオはブルックリン南部の指揮官で、バンクスもその直属の上司だった。バンクスは当時、ブルックリン南部区の巡査副署長だった。（バンクスはエボルブの従業員としてドラジオと面識があったことを否定している。）

エボルブとニューヨーク市警のつながりは、エボルブのCEOであるジョージ氏が自社の技術を売り込む上で大きな役割を果たしてきた。「当社の営業担当者の約3分の1は元警察官です」と、ジョージ氏は2022年6月のカンファレンスで述べた。「ニューヨークにいる営業担当者の1人は元ニューヨーク市警の警察官で、私たちが誰を相手に販売しているのかを理解しているので、本当に優秀な営業マンです。彼とは秘密の握手も交わしています。」

元ニューヨーク市警察情報局副局長のデイビッド・コーエン氏も、Evolv のセキュリティ諮問委員会に所属しています。

市長室は、Evolvを恒久的に導入する予定はないことを強調している。「誤解のないよう明確に申し上げますが、地下鉄駅にEvolvの技術を導入するとは言っていません」と、市長室の副報道官であるケイラ・マメラック氏はWIREDの取材にメールで回答した。「Evolvのような技術を地下鉄駅で活用するための検討期間として、90日間を設けると申し上げたのです」

公民権とテクノロジーの専門家たちは、地下鉄駅におけるエボルブ社のスキャナーの活用はおそらく無駄だと主張している。「これはまるでミッキーマウスのような公共安全対策だ」と、プライバシー擁護団体「監視技術監視プロジェクト」の創設者アルバート・フォックス・カーン氏は言う。「国内最大の交通システムにとって、これは真剣な解決策ではない」

さらに、同社の技術を導入しても効果がないばかりか、ニューヨーク市民の日常生活に警察官が加わることになり、アダムズ氏の警察支持政策をさらに強化する可能性がある。ニューヨーク市の地下鉄には472の駅がある。「これは地下鉄駅の出入口約1,000カ所に相当します」と、ニューヨーク大学ルーディン交通センター所長のサラ・カウフマン氏は説明する。「つまり、Evolvが効果を発揮するには、すべての出入口にEvolvを設置する必要があり、当然ながら監視も必要になります。」

ニューヨーク市警察が公表した政策案によると、地下鉄における武器探知技術に関する手続きは非常に曖昧で、依然として警察官の介入に大きく依存している。「検問所の監督官が検査対象となる乗客の頻度を決定する（例えば、乗客5人ごと、10人ごとなど）」と文書には記されている。また、検査実施にあたり利用可能な警察官の人員数も考慮される。

ニューヨーク市の地下鉄の1日の利用者数は推定360万人です。10人に1人が停車すると、1日あたり36万件の捜索が発生することになります。

「これは、人々が日常的に、侵入的で不便な検査を受けなければならないことを意味します」とカーン氏は言う。「ここで本当に象徴的なのは、市が、たとえそれが非常に効果がないとしても、目立つセキュリティ対策を試み続けていることです。」

学校用品

会議に出席したニューヨーク市当局者へのメールの中で、チトカラ氏はエボルブ社の学校導入の成功を誇示した。しかし、そこでもスキャナーは武器や銃器を複数回検知できなかった。アダムズ市政がこの技術の試験導入を説得されていた間、エボルブ社の技術を導入している大規模な学区から入手した内部メールは、日常的な物品がスキャナーによって誤検知されていたことを如実に示している。

「簡単な解決策は、子供たちにバインダーではなく普通のノートを使うように言うことだと分かっています」と、ノースカロライナ州シャーロット・メクレンバーグ学区傘下のピエモント中学校の校長、ジャクリーン・バローネ氏は2022年末に書いている。「しかし、スキャナーが武器と誤認するため、特定の備品は使えないと子供たちや教師に伝えなければならないのは、本当に心が痛みます」

4月中旬、学区の最高執行責任者はラスベガスでエボルブの幹部との会議パネルで、金属製の3リングバインダーを「廃止する」と発表した。

「新年度に移行するにつれ、教師たちは教室の備品を他の代替品に置き換えることになるでしょう」と、シャーロット・メクレンバーグ学区の広報担当者ジェシカ・サンダース氏はWIREDの取材にメールで答えた。また、武器探知システムに最も頻繁に反応するのは生徒のノートパソコンだと彼女は言う。

一方、同社は現在、ニューヨーク州北部の高校生から訴訟を起こされており、その高校生はエボルブ社が自社の技術を偽って伝え、彼を刺すのに使われた大型ナイフを検知できなかった責任があると主張している。

また、エボルブ社の株主らは最近、同社が証券法に違反して誤解を招くような発言をしたことで巨額の経済的損失を招いたとして集団訴訟を起こした。さらに、この技術は「ナイフや銃を確実に検知するものではない」とも主張している。

「Evolv Expressシステムは、様々なレベルのセキュリティプロファイルを、異なる感度設定で構成できるように設計されています。これらの設定は、お客様固有のニーズやイベントに基づいて選択されます」とオゼルキス氏はWIREDに語った。「これは、当社の技術が機能しないという意味ではありません。その環境の安全維持を担当するセキュリティ専門家が、異なる、あるいはより多様な脅威をスクリーニングする必要があると判断したということです。」

「言葉を広める」

ニューヨーク市のパイロットプログラムの一環として、現在、強制的な待機期間が設けられています。これは6月下旬に開始され、90日間続く見込みです。市長室によると、市は他の技術や企業の活用も検討する予定です。

「私たちはいくつかのテクノロジー企業に働きかけを行っており、市長も記者会見の目的は情報を広めることだと言っていました」と市長室のマメラック氏は語る。

Evolvの競合企業であるZeroEyesも、候補として検討されている企業の一つです。Evolvと同様に、ZeroEyesもロビイストのマイク・クライン氏が代理人を務めており、開示文書によると、2022年と2023年にはZeroEyesに代わって市長室にロビー活動を行っていました。（クライン氏はWIREDに対し、現在はZeroEyesの代理人ではないと語っています。）

これまでのところ、ZeroEyesは交通分野で完全に成功を収めたわけではない。南東ペンシルベニア交通局は12月に同社との試験プログラムをひっそりと終了した。ZeroEyesの担当者はWIREDに対し、同社の技術がニューヨークで試験運用されるかどうかは確認できないと述べている。

待機期間が始まると、市民は45日以内にこの技術の使用に関する意見を提出し、その後市長室で検討されることになるが、アダムス政権にはこの政策を変更する義務はない。

公共安全擁護派は、自分たちの懸念が聞き入れられるとは期待していない。「これは明らかに繰り返されるパターンです」と、ニューヨーク市民自由連合のプライバシー・テクノロジー戦略家、ダニエル・シュワルツ氏は言う。「彼らは監視技術をさらに導入し、ニューヨーク市民が必要とする真のサービスではなく、警察と監視インフラに資金を投入しているのです。」

フルトン駅での記者会見で、バンクス副市長とエボルブ社のスキャナーの隣に立ったアダムス氏は、この技術が成功すると確信しているようだった。

「スキャナーを導入しよう」とアダムズ氏は述べ、「私たちは公共の安全に向けて大きな一歩を踏み出している」と付け加えた。