ロンドンの物議を醸している予測型警察ツール「ギャング・マトリックス」の厳しい現実

ビルが初めて警察に呼び止められ、身体検査を受けたのは、ロンドン南部にある友人の家の前に立っていた時だった。「警察が3台の車で私たちのところにやって来たんです」と彼は語る。「なぜ身体検査をするのかと尋ねると、一台が『やりたいから』と答えました」。ビルは当時11歳。それはほぼ10年前のことだ。

ビルの中学校には、ブリクストン、ペッカム、タルス・ヒルといった、その地域の様々な地区の生徒が通っていました。特に治安の悪い地域もあり、未成年者を含むギャングが蔓延していました。当時、3年間で4人の少年が亡くなったとビルは言います。1人はベッドで横になっているところを撃たれ、もう1人は心臓を刺されました。「そのうちの1人は私の親しい兄弟でした」とビルは言います。「あまり深く考えませんでした。とにかく前に進むことしか考えていなかったんです。」

それ以来、警官たちはビルに強い関心を寄せるようになった。それは、この地域の恵まれない環境出身の多くの黒人少年たちと同様だった。14歳の時、警察は彼を2週間で2度逮捕した。しかも、容疑はかけられなかった。「それがあのネットワークだ。彼らが持つ小さな網なんだ」と彼は付け加える。「私の知り合いが麻薬で逮捕されたことを知っているので、きっと私も麻薬を持っているだろうと決めつけるんだ」

ビルは、2011年のロンドン暴動の余波でロンドン警視庁（メット）が作成した、ギャング関連の暴力を犯す危険性のある人々だけでなく、その潜在的な被害者も特定し、監視することを目的としているとされる、物議を醸しているデータベース、いわゆる「ギャング・マトリックス」に登録されてしまった。

このマトリックスは、過去の犯罪歴、パトロール記録、ソーシャルメディアでの活動、友人関係といった様々な変数に基づき、数式を用いて各人の「リスクスコア」（赤、黄、緑）を算出します。これは、ギャングによる暴力行為に関与する可能性を示すものです。この情報は、理論上、警察の資源を効率的に活用し、裁判所での訴追を支援するものです。

しかし、批評家たちは、これは現代における警察の取り組みの中で最も欠陥のあるものの一つだと主張している。人権団体アムネスティ・インターナショナルは昨年の報告書で、これを「黒人の若い男性世代を犯罪者扱いする人種差別的なデータベース」と評し、マトリックスに登録されている人物の35%は、ギャング暴力との関連を示す警察の情報がなく、犯罪で起訴されたこともなかったと明らかにした。また、グライムやドリルミュージックの特定のYouTube動画を共有することは、ギャングとの関係を示す重要な指標とみなされている。

マトリックスに乗った状態は恐ろしいものですが、なぜ乗ったのか、ましてやそこから抜け出す方法を知ることは極めて困難です。ある家族は、息子がギャングとの関係をやめなければ家から追い出されると警告する手紙を受け取りましたが、息子は既に1年以上も亡くなっていました。障害を持つ母親が市から提供された車は、彼女の介護者として運転登録されていた息子が逮捕された後、押収されました。ビルの場合、マトリックスに乗ったために母親の家から追い出され、住宅型有料老人ホームに入所させられました。その後、彼はサウスロンドン学習センターへの通学を禁止されました。

11月、英国のデータ利用監視機関である情報コミッショナー事務局（ICO）は、このマトリックスがデータ保護規則に違反していると判断した。調査の結果、マトリックスは犯罪の被害者と加害者を明確に区別しておらず、一部の行政区ではマトリックスから除外されるべき人々の非公式なリストを保管していたこと、そして学校、職業紹介所、住宅協会を含む「第三者との（データの）包括的な共有」が行われていたことが明らかになった。

翌月、ロンドン市長室（ロンドン警視庁を監督する）が発表した別の厳しい報告書では、首都における暴力問題への対策の必要性はあるものの、マトリックスに登録されている黒人の若者の数は「犯罪や被害に遭う可能性に比べて不釣り合いに多い」と指摘された。この報告書は、警視庁に対し、1年以内にこのツールを抜本的に改革するよう命じた。警視庁は当時の声明で、「ギャング・マトリックスが特定のコミュニティを直接差別しているとは考えていない」と述べた。

しかし、WIREDが情報公開請求を通じて入手したデータによると、現在ロンドン警視庁のギャング・マトリックスには13歳という幼い子供までもがリストアップされている。リストには約3,000人が含まれており、そのほとんどは若い黒人少年で、16歳未満の子供55人が含まれている。マトリックスに載ったことがある人は7,000人以上に上る。リスト掲載者の約80%は「アフリカ系カリブ海諸国出身者」、12%はその他の少数民族出身者、「白人系ヨーロッパ人」はわずか8%だ。しかし、大多数は警察でさえ暴力の脅威が少ないとみなされており、現在、65%がグリーンリスクスコア、30%がアンバーリスク、5%がレッドリスクスコアで評価されている。

その結果、活動家たちは現在、800万人以上を対象とするこのツールの廃止を求めている。「これは非常に問題があると思います」と、アムネスティ・インターナショナルのグローバルテクノロジー・人権プログラムのディレクター、タニヤ・オキャロル氏は述べている。「これはデータを原始的に、よく考えられていない方法で使用しており、結果的に若い黒人少年にとって極めて差別的なものになっています。このマトリックスの仕組み上、人々に関する情報は基本的に伝聞、つまり感覚であり、事実ではないのです。」

このマトリックスは、英国全土の警察が犯罪抑止の一環としてオープンソースインテリジェンス、ビッグデータ、機械学習を活用するという、増加傾向にあるトレンドの一環だ。リバティが2月に発表した報告書によると、英国全土で少なくとも14の警察（約3分の1に相当）が既に「予測型警察活動」と呼ばれる手法を活用していることが明らかになった。

この報告書は、犯罪発生の可能性の高い地域を特定する「予測マッピング」と、個人が犯罪を犯す可能性を予測する「個人リスク評価」という2つの主要な要素を概説している。しかし、前者は特定のコミュニティへの過剰な警察活動につながり、後者は人種プロファイリングを助長していると批評家は指摘している。一方、予測型警察活動というより広範な問題は、法的に曖昧で、説明責任が欠如しており、その有効性も実証されていない。

ギャング・マトリックスは、他の多くの警察のツールとは異なり、人工知能や機械学習を正確に実装しているわけではないと、報告書を執筆したリバティの政策・キャンペーン担当官ハンナ・カウチマン氏は述べている。しかし、それでも「前犯罪」という概念は存在する。これは、警察が合理的な根拠なく捜査することを指すと彼女は付け加える。これは、「有罪が立証されるまでは無罪」や「相当な理由」といった年齢の概念と矛盾する。

「警察が十分な保護なしにこうした技術を導入しているというパターンが実際に見受けられます」とカウチマン氏は言う。

犯罪予測にコンピューターアルゴリズムの使用を試みた英国初の警察であるケント警察は、この技術が犯罪を減らすことができると証明することが困難であるとして、昨年3月に米国企業PredPolとの5年間の契約を終了した。

南ウェールズ警察とロンドン警視庁は、自動顔認識（AFR）の試験運用を行っている。特に女性と黒人の誤認率が高いにもかかわらずだ。エイボン・アンド・サマセット警察は、ストーカー被害やストレスによる病欠の可能性などを評価するため、広範囲のマッピングプログラムを導入し始めた。

しかし、重大な問題にもかかわらず、英国の法執行機関の全国調整機関はいかなる批判も否定している。「長年にわたり、警察は市民の保護と危害防止のために、革新的なテクノロジー活用を目指してきました。そして、これらの目標を達成するために、新たなアプローチの開発を続けています」と、全国警察長官会議の情報責任者であるジョン・ドレイク氏は述べている。

警察によるビッグデータ活用は避けられないかもしれないが、これらのシステムにおける説明責任の欠如は大きな懸念事項である。そのプロセスは、システム導入を担当する警察官、そしてシステムを構築した専門家にとってさえも謎のままである。インペリアル・カレッジ・ロンドンのニック・ジェニングス教授は、コンピューターによる自動判断を覆すことを躊躇する「自動化バイアス」も重大な問題だと指摘する。

「私たちは意思決定を行うために、非常に多くのデバイスから膨大なデータを生成します。私たち自身でそれを行うのは不可能で、コンピューターのサポートが必要です」と彼は付け加えます。「しかし、AIプログラムを構築する者でさえ、最も強力なマシンの背後にあるロジックを理解するのは容易ではありません。ですから、私たちは入力する情報の種類と、それがどのようなバイアスを持っているかについて、非常に注意を払う必要があります。」

英国政府は1月、こうした課題を認識し、世界初のデータ倫理・イノベーションセンターを設立しました。このセンターは「データ活用技術」に関する助言を提供します。ナフィールド財団が新たに設立した500万ポンドのエイダ・ラブレス研究所も同様の役割を果たし、ビッグデータ、アルゴリズム、AIがもたらす倫理的問題を検討します。ウェスト・ミッドランズ警察も、予測分析の一環として倫理委員会を導入すると見られています。

しかし、透明性の欠如は依然としてこの分野を悩ませている。ロンドン警視庁とグレーター・ロンドン32行政区の各拠点との連絡役となる、スコットランドヤードを拠点とする「コンサーン・ハブ」と呼ばれる秘密の新システムが、既にロンドンで非公開の試験運用中であることが明らかになった。

ロンドン警視庁の広報担当者によると、コンサーン・ハブは「複数の機関が連携した新たなダイバージョン・イニシアチブ」で、4月にロンドン南東部で開始され、今後数ヶ月で市内全域に拡大される予定だ。その目的は、「暴力、薬物、ギャング活動に巻き込まれるリスクが高い若者を保護すること」だ。

続きを読む：英国警察は拘留に関する判断にAIを活用しているが、貧困層に対する差別になる可能性がある

ロンドン北部トッテナム選出の労働党議員、デイビッド・ラミー氏は、こうした秘密主義的な警察活動は信頼を損なう可能性があると指摘する。「地域社会との十分な協議もなしに、また同じようなツールが作られようとしていることは非常に憂慮すべきことだ」。マトリックス事件を数多く手がけてきたビンドマンズ法律事務所の刑事法アソシエイト、ジュード・ランチン氏は、こうした新たな手法は相変わらず不透明だと指摘する。

被告人が「ギャング名義人」（ギャング・マトリックスでギャングとの関係を示すために使われる用語で、必ずしもギャングのメンバーである必要はない）と表現される事件を担当した豊富な経験を持つ弁護士らも、法廷における警察検察の透明性の欠如を激しく非難している。

「『ギャング名義』という言葉が証拠として挙げられていますが、その情報が何に基づいているのか説明がありません」と、タッカーズ法律事務所の少年法廷専門家で、2012年に初めてマトリックス事件を担当したスザンヌ・オコネル氏は語る。彼女は、担当した裁判の80%でこの言葉が言及されていると推定している。「この秘密主義の雲行きに異議を唱えるのは非常に困難です」と彼女は付け加える。

しかし、ロンドンにおける殺人事件の憂慮すべき増加は、無視できない問題です。昨年だけでロンドンでは135人が殺害または不法に殺害され、過去10年間で最多となりました。そのうち40%以上が30歳未満の男性です。首都では刺傷事件の報告がほぼ毎日のように寄せられています。

しかし、ギャングに焦点を当てることには常に欠陥があった。保守党政権は当初、2011年の暴動の原因をギャングに求めていたが、その後の検証で、略奪、放火、そして市民の不安が蔓延したこの時期の原因は、はるかに広範囲に及んでいたことが判明した。また、市長警察犯罪対策局の調査では、25歳未満の被害者に傷害を負わせたナイフ犯罪事件の80%以上が、ギャングとは無関係と推定されている。

端的に言えば、ロンドンにおける暴力行為の背後にある原因は根深く、犯罪組織やテクノロジーの限界をはるかに超えている可能性がある。「これは社会の偏見を反映している」と、キャンペーン団体「ストップウォッチ」の最高経営責任者、カトリーナ・フレンチ氏は考えている。「私はこれが人種差別的でないなどとは思っていません。なぜそう思うのでしょうか？」

2019年1月24日 9時50分（GMT）更新：この記事は、ロンドン警視庁のギャング・マトリックスに掲載されている子供の大多数は、暴力の脅威が少ないと考えられるという記述を追加して更新されました。また、以前の記事ではニック・ジェニングス氏がLSEの教授であると誤って記載されていましたが、実際はインペリアル・カレッジ・ロンドンの教授です。ハンナ・カウチマン氏の発言も訂正しました。

この記事はWIRED UKで最初に公開されました。