ブエノスアイレス上空の歪んだ目

このストーリーは、ピューリッツァーセンターの AI アカウンタビリティ ネットワークの支援により実現しました。

「そして悪夢が始まった」と、私たちが立っているブエノスアイレスの中心部にある混雑した駅で逮捕されたときのことを思い出しながら、ギジェルモ・イバロラは語る。

彼は線路の端に設置されたカメラを指差し、それから指を動かして、歴史的建造物に指定されている駅舎の大きなホールの端にあるドアを見つめた。「そこで6日間監禁されたんだ」。彼はむき出しのコンクリートの上の小さな独房で眠った。2日目の夜、毛布が渡された。「顔認識システムが私を犯罪者と認識したんだ」と彼は言う。彼が犯したとされる罪状は「人生で一度も行ったことのない街での武装強盗。刑期は最長15年だと言われた」。

中背で短髪、灰色のパーカーを着たイバローラは、決して騒ぎを起こそうとも、トラブルを起こそうともしない男だ。10年以上も生の鶏肉を梱包している食品工場の社長に対しても、元妻に対しても、ましてや警察に対しても、決してそんなことはしない。彼は常に、一人で育てている娘たちの模範となることを願っていた。 

自然光のない中で約1週間拘留された後、イバローラは事件現場となったブエノスアイレスの南東600キロに位置するバイア・ブランカの裁判所に連行された。彼を刑務所に送還する直前、検察官は取り違えに気づいた。少し年上の別のギジェルモ・イバローラが強盗を犯していたのだ。数分後、無実のイバローラは靴紐を取り戻し、持ち帰り用のコーヒーと帰りのバスの切符を手に入れた。「誰かが、探していたギジェルモのID番号ではなく、私のID番号を入力したのです。顔認識システムは正常に機能していましたが、データベースが間違っていました」とイバローラは語る。「彼らにとっては単なるデータ入力ミスでしょう。しかし、私たちは人の命に関わる問題なのです。」

アルゼンチンの首都圏の75%はビデオ監視下に置かれており、政府は看板で誇らしげに宣伝している。しかし、顔認識システムは批判を浴びている。2019年のシステム稼働開始以来、そして2020年3月の新型コロナウイルス感染症によるロックダウンで停止される前に、少なくとも140件のデータベースエラーが警察による検問や逮捕につながったからだ。イバローラ氏の逮捕はその最初の例の一つだった。

活動家たちは市政府を提訴し、初の勝利を収めました。2022年4月、裁判官はシステムの停止を維持する決定を下しました。それ以来、ブエノスアイレス市はシステムの再開を求めて闘ってきました。この争いの勝者は、強力な監視ツールに対する厳格な管理を求める側か、市民の安全にとってシステムが不可欠であると確信している市政府か、まだ明らかではありません。法律により、このシステムは逮捕状が出ている人物、つまりアルゼンチンの「最重要指名手配犯」の捜索にのみ使用できます。このリストは毎日更新されていると言われています。

裁判官が調査する

アンドレス・ガヤルド判事が市の顔認識システムの調査に着手した際、まず最初に市の監視センターを訪問することにした。WIREDが入手したガヤルド氏の訪問時の映像には、ブエノスアイレス市の元治安大臣マルセロ・ダレッサンドロ氏を含む一団が大きな会議テーブルに座っている様子が映っている。ダレッサンドロ氏はガヤルド氏に対し、法律上、顔認識による捜索は逃亡者のみに限られており、リストに新たな人物を追加することはできないと保証した。しかし、ガヤルド氏の訪問後に判事が命じた省庁のコンピューターのデジタルフォレンジック調査により、このシステムが罪のない市民を監視し、巨大なデータベースに情報を提供するのに使われていた可能性があるとガヤルド氏は疑うに至った。

「逃亡者を追跡する以上の意味があったのは間違いありません。私たちは全く信じられず、何度も確認しました」とガヤルド氏は語る。彼はピンク色の庁舎からわずか数百メートル、アベニダ・デ・マヨ通りにあるオフィスに座っている。オフィスは広々としており、光が溢れている。壁にはフランシスコ教皇と判事の写真が目立つように飾られている。書棚には過去の刑法典が並んでいる。「このシステムで検索できるのは、アルゼンチンの逃亡犯約4万人だけです」と彼は言う。「しかし、市が要求した個人情報の数は1,000万人近くに上りました。逃亡犯に属さないデータがなぜこれほど多く要求されたのか、政府は説明しきれませんでした」

アルゼンチン副大統領クリスティーナ・フェルナンデス・デ・キルチネル氏の個人情報は226回、アルベルト・フェルナンデス大統領の個人情報は76回、それぞれ開示請求を受けた。対象者には、様々な政党の政治家、人権活動家、ジャーナリストが含まれていた。ガヤルド氏は、ブエノスアイレス市が大ブエノスアイレス地域に居住する全市民の写真データベースを作成しているかどうかの調査を開始した。

当時治安大臣だったダレッサンドロ氏は、スーツとネクタイを締め、白髪交じりの髪を振り乱し、アルゼンチン国旗を背負い、重厚な木製の書斎机に腰掛けている。まず、彼はその利点を強調する。「顔認証のおかげで、国際逮捕状を持つ強姦犯や殺人犯を含む、約1,700人の逃亡犯を逮捕しました。偽の身元でアルゼンチンに避難してきた外国人を逮捕することもできました」。彼は、恣意的にデータを要求したという裁判官の非難を強く否定する。「これは捜査手続き、つまり身元確認に関する問題です。例えば、フェスティバルやサッカースタジアムに入る際には、犯罪者が入らないようにするために、Tribuna Segura（安全な護民官）というプログラムを導入しています。裁判所の命令なしに顔認証による身体検査を受ける人は、実際には誰もいません」。

しかし、例えばクリスティナ・キルチネル副大統領はなぜ200回以上、時には真夜中にも捜索を受けたのだろうか？「副大統領は多くの刑事事件で告発されており、司法当局は公式文書を用いて身元照会と確認を求めています。警察は24時間365日体制で活動しています。午前2時にデータが照会された可能性も十分にあります」と彼は付け加えた。「私たちは透明性のあるシステムを採用しており、ログインした人は誰でも登録されています。誰がいつどこからログインし、何を探していたのかを追跡することが可能です」

この点において、ダレッサンドロ氏の証言とガヤルド氏の疑惑は対立している。裁判官は、治安省が数百万件の個人データを要求したことは証明できるものの、それらのデータがどのように使用されたか、あるいは省がコピーを保管していたかどうかは証明できない。治安省のコンピューターを捜索した警察のIT専門家による報告書がなければ、この争いはここで終結していたかもしれない。アルゼンチンのような政治的に二極化した国では、司法機関や警察といった機関は必ずしも独立して機能するわけではない。幸いにも、IT監査人の報告書は市警察と空港警察の代表者によって共同で作成され、署名された。市警察は市長に、空港警察は連邦政府に従属しており、両者は相容れない対立関係にある。この協力によって報告書の信憑性は高まった。

報告書は、大臣が言及する追跡可能性は存在しないこと、そしてシステムが操作可能であることを明確に示しています。IT専門家の報告書は、「顔認識システムで、重大犯罪で指名手配されている人物の国家データベースに登録されていない15,459件の記録が見つかった。言い換えれば、15,459人が司法機関の要請なしに、つまり法的根拠なしに顔認識システムに読み込まれたのだ」と述べています。

フォレンジック監査では、関連するログファイルを含む356件の手動データ削除の痕跡も発見されました。つまり、誰が削除したのかは不明です。なぜなら、誰かがデータだけでなく削除の痕跡も削除しようと多大な努力を払ったからです。さらに悪いことに、データとログファイルを削除した人物の身元は不明です。監査報告書によると、複数のユーザープロファイルが「実在の人物の登録データにリンクされておらず、特定可能な実在の人物と関連付けることができない」ためです。さらに、17人のユーザーが管理者権限を持っています。少なくとも6つのユーザーアカウントが実在のIDにリンクされていないため、誰がいつシステムを操作したかを追跡することはできません。「大臣はシステムは自動化されており、生体認証データセットを手動で入力することは不可能だと言っていますが、これは事実ではありません」とガヤルド氏は言います。「専門家は、指名手配リストが変更可能であることを証明しました。これにより、システム利用者は、あなたや私を含む個人を、私生活においても制御することが可能になります。私たちはいつ家を出て、いつ戻ってくるのでしょうか？」

ガヤルド氏は調査を進める中で、繰り返し制約に直面した。市は、顔認識カメラに使用されているアルゴリズムの提供元とその仕組みを明らかにすることを拒否した。カメラを設置した地元企業の従業員、ダナイデ氏は、宣誓下でさえも口を閉ざした。また、報道によると、顔認識システムの入札公告からわずか6分後にダナイデ氏が契約を獲得した理由も不明である。

その後、私たちのインタビューから間もなく、ブエノスアイレス市の要請により、ガラルド氏は偏見と職権逸脱の疑いでこの事件から外された。元大臣は、ガラルド氏を悪意と偽証、そして市が生体認証データを入手した著名人の名前を公表することで「メディアショー」を演出したと非難した。これ以前にも10人以上の裁判官が書簡でガラルド氏を支持していたが、いずれも認められていなかった。

裁判官は大臣を訴え、大臣は裁判官を訴えた。問題は残る。彼は本当に偏見を持っていたのだろうか？それとも、彼の研究が市にとって不都合なものだったのだろうか？

すべてを見守る目

南米といえば、大規模監視技術はまず思い浮かばないかもしれません。しかし、データ保護団体Access Nowの調査によると、アルゼンチンはブラジルやエクアドルと並んで、この地域で最も監視が厳しい国の一つです。ブエノスアイレスだけでも1万5000台以上の監視カメラが設置されています。メンドーサ、コルドバ、サルタ、サンファン、ティグレ、サンサルバドルデフフイといった都市でも顔認識システムが活用されています。サンフランシスコやボストンといったアメリカの都市では、公共空間でのリアルタイム顔認識が禁止されていますが、南米では投資が進んでいます。批評家たちは、この状況を最悪のシナリオと見ています。適切な規制枠組みと十分な管理体制がないまま、この技術が利用されているのです。

ブエノスアイレスの中心部を歩くと、至る所にカメラがあることに気づく。太陽が輝くマヨ広場はピンク色の政府庁舎前の広場で、特に監視が厳重で、通行人に大規模な監視についてどう思うか尋ねるにはうってつけの場所だ。結論：迷惑に思っている人はほとんどいない。若者や年配者、ビジネススーツを着た女性や男性、Tシャツとジーンズの人、露天商と話をした。皆、カメラは役に立っている、より安全だと感じると言う。司法が暴露したデータスキャンダルについては、誰も何も聞いていない。その話を聞いても彼らは心配しない。彼らには別の懸念がある。世論調査機関が2023年5月に実施した調査によると、高インフレ（昨年は115％）と犯罪がアルゼンチン人の懸念事項のトップに挙げられている。

中道左派のビクトリア・モンテネグロ議員は、40年前に終焉を迎えた残虐な独裁政権の犠牲者の娘であり、活力に満ちた女性です。軍人の家庭で偽の身分で育ちました。人権団体「プラザ・デ・マヨの祖母たち」の調査活動のおかげで、ようやく自分の本当の名前を知ることができました。この団体は、前回の軍事独裁政権下で誘拐され、偽の身分で育てられた子供たちを探し出す非営利団体です。現在、彼女は人権擁護活動に取り組んでいます。モンテネグロ議員はビデオ監視に原則的に反対しているわけではありませんが、例えば警察の暴力事件などにおいて、それが適切に使用されているかどうか疑問視しています。「何千台ものカメラの1台が必要になった時、まさに探しているカメラが機能しないのです。例えば、若者が警察に殺害されるような組織的暴力事件では、このカメラ、まさにこのカメラが機能しないのです。それは組織的なものです。」

モンテネグロ氏は、顔認証の審査を行う公式の「管理委員会」のメンバーだが、政府から妨害を受けていると訴える。「政府から何も報告がないのに、どうやって法の遵守状況を監視し、確認すればいいのでしょうか？ 数百万件ものデータ不正スキャンダル後に設立された管理委員会は、一度も会合を開いていません。理由は分かりません」と彼女は訴える。「顔認証に関する規制を制定できれば、危険な犯罪者の摘発に役立つでしょう。しかし、どんな犠牲を払ってでもというわけにはいきません」。ダレッサンドロ氏は非協力的だと彼女は言う。「要求された生体認証データはどうなったのですか？ 治安大臣は今のところメディアでしか回答しておらず、私は公式の回答を受け取っていません。私には疑念を抱く権利があります」

モンテネグロは、おそらく答えを得ることはできないだろう。少なくとも、ダレッサンドロ氏からは。ダレッサンドロ氏は、複数のスキャンダルが疑われたことを受けて3月に辞任した。スキャンダルには、市内のレッカーサービスに関する汚職疑惑や、アルゼンチン南部への秘密旅行疑惑（連邦判事と大手メディアグループ「クラリン」の幹部に情報提供）が含まれており、その旅行先は、人脈の広い英国人大富豪の自宅だった。

ガヤルド判事が顔認識訴訟から外された後、他の2人の判事がシステムの違憲性を主張した。しかし、彼らの判決はブエノスアイレス市にシステムを再開させる道筋を残している。まず、市議会の管理委員会が機能していることが条件となる。次に、ソフトウェアの監査が義務付けられる。これは、全面禁止を望んでいた監視反対活動家にとっては曖昧すぎる決定であり、システムを一刻も早く稼働させたいブエノスアイレス市にとっては厳しい判断である。

一方、汚職事件を専門とする国家検察官セルヒオ・ロドリゲスは、市政府と国家人物登録局の捜査を決定した。検察官は近いうちに更なる証拠を提示したいと考えている。「ブエノスアイレス市が行った協議の回数と逃亡者データベースの間には、論理的な関連性は全くありません」とロドリゲスは述べている。「機密性の高い保護対象データが、いかなる法的裏付けもなしに持ち出されていました。また、合意では、これらのデータは取得目的に使用された後、一定の手順に従って破棄しなければならないと定められていましたが、データ破棄の記録は一つも残っていません。」

ロドリゲス氏は氏名を明かしていないものの、市当局、国民登録局、そして「もしかしたら他の誰か」に対し、「個人」に対する刑事告訴を行う計画を発表した。刑法では、「法律により秘密とされるべき事実、行動、文書、またはデータを漏洩した」公務員に対し、1ヶ月から2年の懲役刑と資格停止刑が規定されている。

ロッキーのリブート

一方、市当局は、まるで何事もなかったかのようにビデオ監視システムの宣伝を続けている。ブエノスアイレス市長オラシオ・ロドリゲス・ラレタ氏の政党は、10月の大統領選挙での勝利を目指している。有力候補は、元連邦安全保障大臣で顔認証システムの推進者であるパトリシア・ブルリッチ氏だ。彼女は、ギジェルモ・イバロラ氏が逮捕されたレティーロ駅に設置されたシステムの開所式に直接参加した。

ブルリッチ氏は8月初旬の予備選挙で国内2位の得票数を獲得し、決選投票進出の可能性もある。興味深い事実が一つある。ブルリッチ氏はブエノスアイレスで顔認証技術の被害者候補の一人である。市当局は2019年から2021年の間に18回にわたり、彼女の生体認証データの提供を要求した。彼女はこの件について公にコメントしていない。

アルゼンチンは依然としてアフリカ大陸で最も安全な国の一つですが、12月10日に新大統領に就任する人物は、治安問題を非常に真剣に受け止めなければなりません。人々は強盗を恐れ、組織犯罪が蔓延しています。ロサリオ市は麻薬ギャングの脅威にさらされ、不安定化しています。治安は投票行動を促すのに非常に効果的な問題であり、多くの市民は治安のためにデータ保護に関して犠牲を払う覚悟があります。

ベアトリス・ブサニチェ氏は、ブエノスアイレス大学でコミュニケーション科学の講師を務め、データ保護、フリーソフトウェア、そして新技術の社会的影響に関する議論を促進する非営利団体、ビア・リブレ財団の理事を務めている。私たちは外務省前のサン・マルティン広場で待ち合わせた。そこは厳重に警備された広場で、いたるところにカメラが設置されている。IT専門家のブサニチェ氏は、背の高い木々の間の木陰のベンチを選んだ。「ブエノスアイレスでは、顔認識システムに関するあらゆる問題がうまくいかなかったと思います。プライバシー権、人権に対する意識が欠如しているのです」と彼女は言う。「アルゼンチンでは、テクノロジーは問題のある側面ではなく、解決策として議論されることが多いのです。ガラルド判事は良い判断を下し、この訴訟は彼から取り上げられました。」

ブサニチェ氏にとって、ブエノスアイレスにおける監視は特にデリケートな問題だ。なぜなら、市長の政党の代表者たちが諜報機関に監視されていると疑われていることがすでに何度もあるからだ。

彼女はまた、顔認識による社会統制の可能性も認識している。「過去40年間のアルゼンチンにおける民主主義の構築は、非常に活発な社会運動、つまり人々が街頭に出て、基本的な権利として抗議する権利を擁護してきたことに基づいていました。」ブサニチェは、顔認識が近い将来、どのような用途に使われる可能性があるのか​​疑問に思う。デモ参加者を威嚇するためか？抑止力としてか？「道路を封鎖することが正しいかどうかは議論の余地があります。しかし、顔認識システムは、市民が権利を求めて行動するのを阻止するために活用できます。」

ブエノスアイレス市は、顔認証システムの復旧に依然として苦戦している。いわゆる「偽陽性者」にとって、これは悪い知らせとなるかもしれない。司法省のIT専門家による報告によると、司法捜査の時点で、少なくとも1人の生体認証データが顔認証システムに保存されていたという。冤罪で告発された父親のイバローラ氏は、バイア・ブランカ出身の指名手配犯ではないことを確認する司法当局からの手紙を見せてくれた。「これで少し安心しました」と彼は言う。

セルヒオ・ロドリゲス検事の事務所は、イベロアメリカ汚職対策検察ネットワークに所属しており、ロドリゲス検事は顔認識問題をこのネットワークにとって興味深いテーマだと考えている。「アルゼンチンでの私たちの研究は、他の国々への警告となるかもしれません。政府は機密データをもっと保護すべきではないでしょうか？ データが過剰に取得された場合に、より効果的な警告システムを導入すべきではないでしょうか？ 世界中で、私たち全員が予防システムの確立に向けて取り組むべきです。」

この記事の公開数時間前、ロドリゲス元大臣の事務所は、ブエノスアイレス市が要求したデータの中に、この記事の著者と写真家の生体認証データが含まれていることを確認しました。インタビューの中で、ロドリゲス元大臣は、すべてのデータ要求は追跡可能であり、すべての要求には説明責任があると述べました。この事実関係を確認するための調査が現在進行中です。