アクソンの倫理委員会はテーザー銃搭載ドローンをめぐって辞任。その後、同社は軍用ドローンメーカーを買収した。

この記事は 、公共の利益のためにテクノロジーを活用することを訴える非営利の調査報道機関「The Markup」と共同で公開されました 。ニュースレターへのご登録は こちらです。

2022年5月にテキサス州ユバルデで発生したロブ小学校銃乱射事件から10日も経たないうちに、アクソン・エンタープライズのCEO、リック・スミス氏は、同社がテーザー銃搭載ドローンの開発を正式に開始したと発表した。スミス氏は、この技術は銃乱射事件の際に銃撃犯を数秒以内に無力化することで人命を救う可能性があると主張した。

2017年にテイ​​ザーから社名を変更したアクソンにとって、このコンセプトはアクソンの公共安全の使命を共有する利害関係者にとって理にかなった次のステップに思えたとスミス氏は同社サイトで述べた。

「簡単に言えば」と彼は書いている。「非致死性ドローンは学校やその他の施設に設置でき、消防士にとってのスプリンクラーやその他の消火ツールと同じ役割を果たすことができます。つまり、壊滅的な事態を防ぐ、あるいは少なくとも最悪の影響を軽減するのです。」

しかし、この発表は他では大きな懸念を引き起こした。スミス氏の発表のわずか数週間前、アクソン社のAI倫理委員会（12名の学者、弁護士、活動家、元法執行官で構成される）の委員の過半数が、当時「プロジェクトION」と呼ばれていたテーザー銃搭載ドローンのパイロットスタディを進めないよう同社に勧告したのだ。委員会はテーザー銃搭載ドローンプロジェクトについて1年以上検討を重ねていたが、大量銃乱射事件の解決策となるようなユースケースは一度も検討していなかった。

諮問委員会のメンバーはマークアップ紙に対し、スミス氏の発表は予想外であり、過去4年間比較的良好な関係を築いてきた倫理委員会との協議や意見表明なしに行われたと述べた。過去には、委員会の働きかけにより、アクソン社はボディカメラへの顔認証技術の導入を、責任ある形で実現できないという懸念から禁止したことがある。

「私たちの運営原則で求められている通り、委員会に相談することなく武装ドローン計画を公表しないようリックに懇願した」とニューヨーク大学ロースクールの警察プロジェクトの創設者で、アクソン倫理諮問委員会の元委員長であるバリー・フリードマン氏はザ・マークアップに語った。

発表から1週間以内に、アクソンの倫理委員会12人のうち9人が辞任し、共同書簡で「アクソンが責任あるパートナーとなる能力に信頼を失った」と述べた。

「我々は全員、自分たちはあくまでも助言者であり、アクソン社が以前にも何度か我々の助言を拒否したという認識のもとこの委員会に参加したが、委員会が不必要に性急な行動を控えるよう促している時に、監視機能付きテーザー銃搭載ドローンの使用を急いで受け入れることは、我々の誰にとっても耐えられないことだ」と、退任メンバーは当時記した。

理事会解散を受け、アクソン社はテーザー銃搭載ドローン計画を一時停止した。一方、元理事たちは同社の取り組みに反対の声を上げ続けた。同団体は2023年1月に報告書を発表し、同社幹部らが「ユバルデとバッファローで発生したばかりの悲惨な銃撃事件に便乗した」と批判した。報告書には、テーザー銃搭載ドローン技術に関する数々の提言が含まれており、精度と安全性の閾値の必要性、地元議員の承認、ドローンの使用に関する社内規定の必要性などが挙げられている。元理事たちは、武力行使を行うドローンは決して自律型であってはならず、その判断は人間が行うべきだと提言した。

元メンバーらはまた、電気ショック兵器による負傷や死亡の身体的リスクに加え、提案されている装置は銃声で作動する監視システムに依存するため、プライバシーと精度にリスクが生じると指摘した。学校における監視体制の強化は、軽微な違反行為であっても懲戒処分の強化につながる可能性があると彼らは述べた。また、元メンバーらは、格差や人種差別的な影響が生じる可能性もあると指摘し、「黒人の生徒が監視レベルの高い学校に通う可能性は、黒人の生徒の4倍に上る」と述べた。

専門家らは報告書の中で、兵器化されたドローンは悪用されやすく、武力行使の頻度を高める可能性があると述べている。「ドローンの軍事利用に関する文献が増えており、遠隔地での武力行使の独特な特性が指摘されている。人間はコンピューター画面上の人物として現れ、武力行使の決定は個人ではなくチームによって行われることが多い」と専門家らは記している。「これは、ドローンの標的となった個人の非人間化につながり、操縦者の自身の決定に対する個人的な道徳的責任感を低下させ、武力行使の増加につながる可能性がある」

しかし、アクソンは依然として武装ドローン計画を進めているようだ。

「より長期的な視点で見ると、Axonはロボット工学を低致死性のロボットペイロードや運用にまで拡張できる可能性を探る機会を見出しています」と、同社幹部は今年4月にウェブサイトに掲載した声明で述べています。「これはまだ初期段階の構想ですが、十分な研究、倫理的な開発、そして最も適切なユースケースの特定によって、この能力は公共の安全の未来に大きく貢献できると確信しています。」

その後、同社は7月に、ベルギーに拠点を置き、ドローンや無人地上車両を製造するSky-Hero社を買収した。Sky-Hero社は既に、一部のドローンやローバー向けに、半自動小銃と同等の音圧レベルを発生させるいわゆる「ディストラクション」技術を開発しており、この技術を紹介するYouTube動画の説明文には、「真の非殺傷性閃光弾」として機能すると記されている。

ザ・マークアップとのインタビューで、元倫理諮問委員会メンバーは、同社が兵器用ドローン技術の開発を継続する計画について懸念を表明した。

「アクソンのようなベンダーは、公共の利益のために公的機関に製品を販売しており、自社製品が引き起こす可能性のある危害を考慮し、その危害を軽減するよう努める責任があると思います」と、委員会に協力したポリシング・プロジェクトの上級弁護士マックス・アイザックス氏は述べた。

「誰もが公共の安全を享受する権利があります」とアイザックス氏は付け加えた。「誰もが公共の安全の向上を望んでいます。問題はそこではありません。企業がこれらの製品を販売する際に、公共の安全に対するメリットを謳うとき、そのメリットは実証されているのか？独立したテストは行われているのか？これらの製品が私たちの安全を高めていると、私たちは確信しているのか？多くの場合、答えはノーです。」

アイザックス氏とマークアップのインタビューを受けた他の人々は、倫理委員会はドローンや人工知能のような進化する技術を取り巻く規制の空白を埋める不完全な手段であると指摘した。

「自社製品の害悪に対処するために、企業がこうした諮問委員会を設立することを期待しているという事実自体が、私にとっては非常に問題のある考え方だ」とアイザックス氏は語った。

アクソンの経営陣は新技術の「責任ある」開発に尽力していると述べているが、同社がこの計画について今も倫理の専門家と協議しているかどうかは明らかではない。

マークアップは、かつてAI倫理委員会が公表していた勧告や報告書を含む、以前の委員会に関する記述が同社のウェブサイトから削除されたように見えることを発見した。以前の委員会の運営原則と活動が掲載されていたウェブサイトaxon.com/ethicsは、現在、検索者をスミス氏からテーザー銃ドローン計画の一時停止を発表する書簡へと誘導している。同社は2022年9月、倫理・公平諮問委員会を設立した。これは、学者やコミュニティリーダーで構成される委員会で、同社によると「年間限定数の製品」について同社に助言を行う。Axon社によると、この委員会は独立しているものの、以前の倫理委員会とは異なり、同社のエグゼクティブバイスプレジデントが率いている。

同社はこの団体のメンバーへのインタビューを拒否した。同団体の公開報告書はウェブサイトに掲載されておらず、運営方針のコピーも公開されていない。

倫理は主観的であり、法的拘束力もないため、資本主義の命令によって容易に無視される可能性があると、ワシントン大学ロースクールの教授でアクソンの倫理委員会の元メンバーであるライアン・カロ氏は述べた。

「倫理は重要です」とカロ氏は述べた。「倫理は良いものです。しかし、法律は安全策として機能しなければなりません。法律は、社会が何を禁じ、何を要求するかを決定する場なのです。」

殺人の終わり？

アリゾナ州に拠点を置く同社は、入手可能な最新の2022～23年度年次報告書の中で、テーザー銃搭載ドローンをいかなる顧客にも出荷していないと述べた。また、「殺傷性」ドローンの製造は行わないと誓約した。

1993年に設立されたアクソンは、法執行機関および軍事技術分野のリーディングカンパニーです。テーザー銃やボディカメラを製造する同社が開発した技術は、米国の州および地方の法執行機関の95%以上で使用されていると、投資家向けレポートで主張しています。アクソンはまた、警察官向けのクラウドベースの証拠管理システムであるevidence.comプラットフォームを所有しており、同社が「世界有数の法執行データリポジトリ」と呼んでいます。テーザー銃搭載ドローンに関しては、アクソンは開発が不可欠だと主張しています。「適切な方法で開発するのに、世界でも当社ほど適した組織は存在しないと考えています」と、最新の投資家向けレポートには記されています。

同社は8月の投資家向け声明で、2023年には15億ドル以上の売上高を見込んでいると述べた。リック・スミス氏は2025年までに20億ドルの売上高達成を目標に掲げている。アクソンの報告書によると、2001年に上場したアクソンは、株主に「150億ドル以上の富」をもたらしたという。

それでも、ドローンにテーザー銃を搭載する計画は、アクソンの株主から必ずしも歓迎されたわけではなく、スミス氏の武装ドローンに関する発表を批判する株主もいた。オレゴン州ポートランドを拠点とし、紛争に代わる非暴力的な選択肢を推進する財団、ジュビッツ・ファミリー財団が提出した株主提案は、株主に対し、テーザー銃の開発中止に投票するよう促した。

「Axonは、銃乱射事件を阻止するために、AI監視、アルゴリズム予測、そして仮想現実シミュレーションの活用を提案した」と、同社の2022～23年度年次報告書に掲載されたこの提案には記されている。「Axonは、この発表に先立ち、社内のコミュニティ諮問連合、AI倫理委員会、あるいはコミュニティインパクト担当副社長から有意義な意見を求めていなかった」

昨年の倫理委員会の辞任後、「アクソンはコミュニティ諮問連合とAI倫理委員会の両方を新しい諮問委員会に置き換えたが、スミス氏は依然としてこれに従うことを約束していない」と財団は提案書の中で付け加えた。

「この提案の実施は、経営陣の自主管理手順の大きな失敗を示している」と財団は記し、子供たちに精神的、身体的危害を与えるだけでなく、訴訟や評判の失墜を招くリスクもあると述べた。

ジュビッツ・ファミリー財団は、ザ・マークアップからの提案に対するコメント要請に応じなかった。

アクソンは、ジュビッツ提案に対する長文の回答の中で、ロボット警備は警察に長距離の遠隔操作が可能な武器を提供することで銃による死亡者数を大幅に減らし、人命を救うことができると主張した。

「アクソンは暴力を減らし、致死的な武力の使用を、人命を奪うのではなく救える、より致死性の低い代替手段に置き換えることに取り組んでいる」と同社は述べた。

「ワシントン・ポスト紙が収集した警察官が関与した致命的な銃撃事件に関するデータセットを分析した結果、より効果的で射程距離の長い携帯型テーザー銃は、警察官が関与した致命的な銃撃事件を約40%削減できる可能性があると推定しています」と同社は述べた。「同じ分析を、警察が低致死性のドローンを活用できた事例に適用した場合、これらの致命的な銃撃事件の57%で、殺傷力のある武器の代わりにドローンが使用できた可能性が高いと推定されます。高度な携帯型テーザー銃と遠隔操作可能なドローンおよびロボットの能力を組み合わせれば、最大72%の致命的な銃撃事件を回避できる可能性があると推定されます」（同社は分析に関する質問に対し、情報を提供しなかった）。

アクソン社の技術は、ニューヨーク市警察、ロサンゼルス市警察、米国国土安全保障省、国防総省、司法省など、主要な警察署や連邦政府機関で使用されているものの、同社によると、これらの製品が警察による暴力の問題を解決しているという証拠はない。ワシントン・ポスト紙の警察による致命的な銃撃事件に関するデータベースによると、2022年のそのような銃撃事件の件数は、追跡調査対象の過去7年間のどの年よりも多かった。また最近では、一部の警察組合が、ボディカメラを使用するだけで給与を増額すべきだと主張しており、こうしたツールが利用可能であっても、重要な透明性の障壁となっている。

アクソン社は、新たに設立された公平・倫理諮問委員会が武装ドローン計画について同社に助言を行っているかどうか、また同社が学区からこうした製品の要望を受けているかどうかについての質問には直接回答しなかった。

しかし、Axonの広報担当者アレックス・エンゲル氏は、The Markup宛ての電子メールで次のように述べている。「テーザー銃搭載ドローンの市場投入時期に関するご質問についてですが、このコンセプトへの関心が最も高いのは、警察官や一般市民の命を救う上で最も役立つ公共安全分野であることが分かっています。しかし、まだ初期段階であり、販売可能な製品はありません。…当社は、このような緊張緩和ツールが被害軽減に最も役立つ状況を特定することに重点を置いて、研究開発パイプラインにおいてこのコンセプトの検討を継続していきます。」

「何よりも、私たちは、こうした技術に関して適切な倫理的措置が講じられるようにするために、相当の努力をする必要があることを認識しています」と彼は書いている。

スミス氏は、学校の安全に関する章で、保育園での銃乱射事件に関する架空のシナリオを読者に提示している。この悲劇は、部屋に仕掛けられたテーザー銃を装備したドローンによって回避された。このドローンは「銃の発砲音を常に監視するように設計されたAIアルゴリズム」によって起動され、「『Hey Siri』の音声パターンで目覚める世界中の何百万もの人々のiPhoneとそれほど変わらない」とスミス氏は書いている。

スミス氏によると、アルゴリズムが音の方向を計算し、パニック警報信号システムと組み合わせることで、1秒以内に小型ドローンの投下を開始する。ドローンに搭載された「コンピュータービジョンアルゴリズム」が銃口の閃光を検知する。さらに、武器と思われるものを感知した場合、警察はテーザー銃を装備したドローンを遠隔操作で展開し、「人間の神経系を麻痺させるように設計された」電気信号を銃撃者に向けて発射できるという。これらすべてが発砲から2秒以内に実行される可能性がある。

2023 年 9 月 8 日午後 9 時 30 分更新: 公開後に提供された Axon からのコメントを追加しました。