自動ナンバープレート読み取りカメラは、法執行機関が導入した時点で既に物議を醸している。都市全体に交通監視のパノプティコン（監視カメラ）を構築できるからだ。今、あるハッカーが、その力の一部を、テスラと数百ドルの余裕があれば誰でも使えるようにする方法を発見した。ハッカーによると、安全と監視のために使えるとのことだ。
本日開催されたハッカーカンファレンス「デフコン」で、セキュリティ研究者のトルーマン・ケイン氏が「Surveillance Detection Scout」と名付けたデバイスを発表した。このDIYコンピューターはテスラ・モデルSまたはモデル3の中央コンソールに収まり、ダッシュボードのUSBポートに接続する。車に搭載されているカメラ（テスラのオートパイロットやセントリー機能に使われている360度ビューを提供するダッシュカメラとリアビューカメラと同じもの）が、ナンバープレートと顔を継続的に検知、追跡、保存するシステムになる。このツールはオープンソースの画像認識ソフトウェアを使用し、同じナンバープレートが繰り返し映ると、テスラのディスプレイとユーザーのスマートフォンに自動的に警告を表示する。駐車中は近くの顔を追跡し、繰り返し映る顔を特定できる。ケイン氏によると、このツールの目的は、誰かが車を盗もうとしたり、改ざんしたり、近くの自宅に侵入しようとしているかもしれないという警告を発することだという。
プライバシーへの懸念は明らかであるものの、ケイン氏は自身の発明を、偏執症の度合いが平均以上のテスラオーナーにとって役立つツールとして売り込んでいる。「これはあなたのテスラをAI搭載の監視ステーションに変えます」とケイン氏は語る。「これはもう1組の目となり、数日間、あるいは1回の走行で複数回、あなたを追跡しているナンバープレートを検知したことを知らせてくれるのです。」
セキュリティ企業テヴォラのコンサルタントであるケイン氏も、自身の発明品の不気味さに気づいている。Surveillance Detection Scoutは、自動運転車が既に収集しているデータを使ってどのような監視が可能になるかを示していると彼は言う。Surveillance Detection Scoutの大規模なユーザーグループがナンバープレート認識データを統合すれば（ケイン氏は意図的にこの機能をソフトウェアに組み込んでいない）、市販の自動ナンバープレート読み取りシステムが提供するのと同じ強力な監視機能をクラウドソーシングで実現できる可能性がある。このシステムは、一部の州では警察による使用が禁止されている。「このSurveillance Scoutネットワークに接続している何千台もの車、つまり全米中のあらゆる人々を見ることができるでしょう」とケイン氏は言う。「ですから、そこには真の倫理的問題があると思います」
コンソールのパノプティコン
Surveillance Detection Scout は、Tesla Model S のコンソールに収まる Nvidia ミニコンピューターにビデオを保存し、分析します。
ロジャー・キスビーKain氏がGitHubで公開しているソフトウェアを搭載したSurveillance Detection Scoutのプロトタイプは、テスラの3台のカメラ（サイドミラーに2台、前方に1台）からの映像を、700ドルのNVIDIA Jetson Xavierミニコンピューターでキャプチャ・分析することで動作します。機械学習エンジンにはDarknetと呼ばれるオープンソースのニューラルネットワークフレームワークを使用し、ナンバープレート認識にはALPR Unconstrained、顔認識にはFacenetを使用しています。これらのプログラムはいずれもGitHubで無料で入手できます。また、このシステムはトレーニングデータとしてGoogleのOpen Images Datasetも使用しています。
「最先端のAIを使っているわけではありません」とケイン氏は言う。「すでに無料で利用できる、既成概念にとらわれないAIを応用しているだけです」。このソフトウェアは、FindByPlate.comというサービスでナンバープレートを検索し、その情報に基づいて、車両のメーカーとモデルを特定することさえできる。（ケイン氏によると、ナンバープレートと実際の名前を結び付けるのははるかに困難で、そのデータをツールに組み込むつもりはないという。）
Surveillance Detection Scout から電話に送信されたプッシュ通知の例。
トルーマン・ケイン提供ケイン氏によると、フォロワー検出メカニズムのアイデアは、昨年のデフコンで対監視に関する講演に出席した後に思いついたという。テスラ モデル3を購入して以来、彼は車が収集し、削除するギガバイト単位の動画、そして1時間ごとに動画ログを上書きする動画のことを考えていた。「何かしなければ、この動画が全部消えてしまうのではないかという不安感を少し感じていました」とケイン氏は語る。
最近検出されたナンバープレートを表示する Surveillance Detection Scout のインターフェースのスクリーンショット。
トルーマン・ケイン提供ケイン氏は、GitHubで公開されている「Tesla USB」というツールについて知り、テスラオーナーが外付けドライブに動画を無期限に保存できることを知った。そして、そのストレージ機能と画像認識機能を組み合わせることで、自宅のNestカメラと同様の機能を車に搭載するというアイデアを思いついた。このカメラには、いわゆる「顔認識」機能も含まれている。このツールの顔認識機能は、ナンバープレートの追跡機能に加え、テスラの既存のセキュリティシステム「Sentry」のアップグレード版とも言える機能を持つ。Sentryは、誰かが車に触れると録画を開始し、車に侵入しようとすると警報を鳴らす。
ケイン氏の10センチ四方の箱は、公開されているコードを寄せ集めて、車のビデオストリームからナンバープレートの番号と顔を認識し、そのデータ内に同じナンバープレートや顔が重複して存在する場合、車の所有者に警告を発することができる。警告の送信には、ソフトウェア統合ツール「If This Then That」を使用する。デフォルトでは、システムは5分間に1分ごとに同じ車が追従しているのを見るとドライバーに通知するが、ケイン氏によると、設定はドライバーの好みに合わせて調整できるという。ケイン氏によると、テスラのカメラがビデオファイルを録画するのにかかる時間のため、通知には約1分の遅延が生じるという。また現時点では、ユーザーがこれを動作させるためには独自のウェブサーバーをセットアップする必要があるが、将来的には独自のサーバーでよりシンプルなウェブベースのログインを提供する可能性があるとケイン氏は述べている。
「車輪のついた監視カメラ」
ケイン氏は、このシステムが役立つシナリオをいくつか提案している。例えば、機密情報源がジャーナリストと会う場合や、監視や追跡を受けていると信じる理由のある人などだ。「誰かの安全を守るのに役立つなら、それは素晴らしいことです」とケイン氏は言う。「誰かが私の車の周りをこっそり動き回っていることを知らせてくれるのも、同様に素晴らしいことです」
しかし、民主主義と技術センターの主任技術者ジョセフ・ロレンゾ・ホール氏は、監視検知スカウトは倫理的問題だけでなく法的問題にも直面していると指摘する。自動運転免許証読み取り機は、たとえ個人使用であっても禁止されている州法があるため、アーカンソー州、ジョージア州、メイン州、ニューハンプシャー州では違法となる可能性が高い。また、顔認識機能を備えているため、イリノイ州では違法となる。
法律の問題はさておき、ホール氏はケイン氏の発明は意図しない結果や深刻なプライバシー侵害をもたらす可能性があると主張する。運転手が、たまたま同じ通勤経路の人物に尾行されていると誤解した場合、誤検知によって対立が生じる可能性があると同氏は指摘する。「人間がこの技術システムから下す主観的な判断を心配しています」とホール氏は言う。「その結果、実際には何も心配する必要がないのに、人々が互いに銃を突きつけ合う事態に陥る可能性があるのです。」
ホール氏はまた、このシステムがAIを活用した監視の広範な形態をもたらすことをより広く懸念している。特に、ユーザーがKainのコードを改変してデータを共有した場合、その懸念は深刻になる。「人々の行動に関する非常に詳細な記録が残ることになる」とホール氏は言う。「これは実質的に車輪のついた監視カメラのようなもので、誰にも気づかれることなく、人々が住む都市における移動経路の一部をマッピングしているのだ。」
ケイン氏は、この監視装置の不気味さに気づいていないわけではないと語る。「そこには本当に倫理的な問題があると思います」
ロジャー・キスビーホール氏によると、さらに問題なのは、法執行機関がデータにアクセスする可能性があることだ。それは、ドライバーに何らかのインセンティブを与えることによって（一部の都市の警察がアマゾンの家庭用監視カメラ「Ring」に補助金を出して、人々に情報提供を奨励したのと同じように）、あるいは召喚状を使ってユーザーにデータ共有を強制することによって行われる。
ケイン氏はこうした懸念を認識しており、このシステムを構築した理由の一つは、怪しげな商業スタートアップが先行する前に、自動運転車のビデオ監視の可能性を示すためだと述べている。このシステムでは、ユーザー間でデータを分散させるのではなく、集約する可能性がある。自動運転車のビデオデータがあらゆる場所で収集される時代が到来し、その多くが中央集権的なリポジトリに蓄積される可能性があると彼は述べている。
しかし彼は、誰かが彼のコードを簡単に改変してユーザー間のデータ共有を可能にすることは可能であり、まさに彼が警告する未来へと大きく一歩を踏み出すことになるだろうとも認めている。「開発経験があれば、誰でも簡単にそれを組み込むことができるでしょう」とケイン氏は言う。「危険な道筋ではないでしょうか？ 可能性としてはあります」
すべての画像はRoger Kisby/Redux Picturesによるものです。
このストーリーは、法執行機関の Ring 補助金の性質を明確にするために更新されました。
WIREDのその他の素晴らしい記事
- 科学者ががんを克服するための「生きた薬」をいかにして開発したか
- おい、Apple！「オプトアウト」は意味がない。オプトインできるようにしろよ
- 大手銀行も量子技術の波に乗る可能性がある
- 位置情報共有アプリの恐ろしい不安
- 今では葬儀もライブ配信されている
- 🏃🏽♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください。
- 📩 毎週配信されるBackchannelニュースレターで、さらに多くの内部情報を入手しましょう
