EUの不気味な新しい国境技術の背後にある科学は完全に欠陥がある

ヨーロッパで亡命を申請する難民は、広範かつ厳格な官僚主義に直面する。来年から、EU加盟国の一部が旅行者の表情を分析し、虚偽の可能性を探る技術を試験的に導入することになり、状況はさらに困難になる可能性がある。

この技術は法執行目的だけでなく、個人の移動を迅速化する手段としても活用される可能性があります。しかし、一部の科学者は、これが技術の正確かつ道徳的な利用方法であるとは確信していません。

欧州委員会が公開した文書によると、ルクセンブルクに拠点を置くEuropean Dynamicsという企業が、国境にいる人々の表情を分析して「微表情」を探す「IBORDERCTRL」というシステムを開発したという。

これは、1/25秒から1/5秒程度続く小さな顔面チックで、人物が真実を語っていない可能性を示唆する可能性があります。この審査は2段階のプロセスを経て行われます。まず「事前審査」では、旅行者はオンラインアプリケーションを使用してパスポートと資金証明書の写真をアップロードし、その後、ウェブカメラを介して旅行者の「性別、民族、言語」に合わせてカスタマイズされた質問に答えます。

第二段階は国境で行われます。この時点で、システムは事前審査で得られた人物の表情画像と、過去の国境通過時に撮影された写真とを照合します。国境を越えたことがない人の場合はどうなるかは明らかにされていません。

その後、旅行者の「潜在的リスク」が「再計算」され、この時点で国境警備隊が自動システムから業務を引き継ぎます。ハンガリー、ギリシャ、ラトビアで6ヶ月間の試験運用が行われており、費用は450万ユーロ（全額EUが負担）です。

6ヶ月間の試験運用終了後、その結果を分析し、より広範囲に展開すべきかどうかについて更なる判断を下す予定です。この技術が採用される保証はありません。

このシステムは国民の移動を迅速化する可能性を秘めている。しかし、この実験のウェブサイトには、このシステムは「不法移民の摘発」と「犯罪とテロの防止」に貢献するために利用されると記されている。

続きを読む: ブレグジットが迫る中、アイルランド国境問題を解決する技術は未検証か架空のものであることは明らかだ

これはディストピア小説のシナリオのように聞こえるかもしれませんが、テクノロジーと科学を用いて国境を強制することは、特に目新しいことではありません。ダラム大学でアルゴリズムの倫理を研究するルイーズ・アムーア教授は、2005年の論文で「生体認証国境」という造語を用い、現実の境界であろうと強制された境界であろうと、テクノロジーは今後ますます国境を強制するために利用されるようになると述べています。

「国境でのアルゴリズムの試験運用により、さらに多くの訓練データが得られ、誤りや誤検知がアルゴリズムに取り込まれる可能性が非常に高くなります」と彼女は言う。「私や他の研究者が行った調査では、誤検知の傾向が非常に強い技術のせいで、人々が不当に拘束され、尋問され、職務質問され、職務質問され、捜索され、さらには国外追放されたことは疑いようがありません。」

このプロジェクトの技術的枠組みは国境警備の複数の分野にまたがっていますが、評価の側面では、顔認識で一般的に使用されている畳み込みニューラルネットワーク（CNN）アルゴリズムに依存しています。（この技術は必ずしも正確ではありません。）

これらのシステムは、国境付近の映像など、訓練に使用したビデオや画像からデータのクラスターを生成し、それらに真実を語る確率などのグループ属性を付与します。アムーア氏はこのプロセスを、「機械が生成した真実性の閾値」と表現しており、ポリグラフのような「嘘を欺く」ツールではないとしています。ポリグラフは、以前は「嘘を欺く」ツールであると報告されていましたが、科学的根拠は疑わしいものです。

しかし、ジョイ・ブオラムウィニが自身のプロジェクト「コード化された視線」で探求しているように、動画や画像は機械によって誤解される可能性があります。これは、白人以外の顔が正確にラベル付けされない傾向であり、特に、そもそも白人以外の顔は不信感や欺瞞と関連付けられる可能性があるためです。

英国王立協会フェローであり、ロンドン大学ロンドン校（UCL）の神経科学者でもあるクリス・フリスは、この技術自体は曖昧であまり役に立たない可能性が高いと述べている。「このような技術で『嘘』と一般的な恐怖や不安を区別できるとは到底考えられません」と彼は言う。「人々は常に手軽で安価な解決策を期待し、科学の客観性を主張したがります。そのため、科学的技術を恣意的に選び、大多数の科学的意見を無視する傾向が強まっているのかもしれません。」

王立協会は、社会における神経科学の応用を研究する「ブレインウェーブス」プロジェクトの一環として、以前から法執行機関が神経科学のこの利用をさらなる発展の可能性のある分野として認識していたと報告書に記している。

続きを読む: 欧州はスマートフォンのデータを難民追放の武器として利用している

嘘をついている場合、脳機能に違いが生じるという証拠はあるものの、決定的な証拠ではありません。しかし、システムを騙す方法は数多く存在します。嘘をつき続けることで、自分が真実を語っていると思い込むことができることや、「対抗策」を自ら訓練できることは、十分に裏付けられています。

マンチェスター大学で社会学の上級講師を務め、嘘の見抜きを研究しているアンドリュー・バルマー氏は、真実を見つけようとするあらゆる試みは本質的に政治的なものだと言う。「嘘は習慣化され、自動的につくようになる。特に、嘘を頻繁についたり、繰り返したりすると、その傾向が強まる」と彼は言う。「したがって、嘘の見抜きは科学的にも社会学的にも意味をなさない。誰かが嘘をついているかどうかを客観的に判断しようとする試みは、必ず失敗するのだ。」

「ポリグラフ検査機が広く使用されている米国では、こうした尋問によって深刻な不正義がもたらされた事例が数多くあります」と彼は付け加えた。「英国や欧州の他の国々では、司法制度から嘘発見器を排除することに成功してきました。今こそ、それが蔓延するのを許すべきではありません。」

欧州における新たな実験の説明の中で、コーディネーターは、このプロジェクトは生体認証技術の枠を超えたものを目指して設計されていると述べた。「既存の実績ある技術だけでなく、革新的な技術も活用することで、国境警備官が国境検査の精度と効率を向上させることを目指しています」と、European Dynamicsのジョージ・ボルタダキス氏はプレスリリースで述べた。

各国政府が科学技術を用いて国境管理を強化しようとしたのは今回が初めてではありません。英国では、国境管理当局が数年前から自動顔認証ゲートを導入しています。このeパスポートゲートでは、旅行者がパスポートを機械に提示すると、カメラが表示された画像と顔写真を照合します。このゲートは広く利用されています。

状況は異なりますが、英国政府は2009年に国境でのDNA同位体検査を提案し、短期間試験的に実施しました。この制度は、亡命希望者や難民がソマリアなど、彼らが主張する出身地の出身者かどうかを特定し、安全な避難場所を確保できる可能性を高めることを目的としていました。また、家族間の血縁関係を確認するためにも利用され、ビザ申請に影響を与える可能性がありました。当時の科学者たちは、これは危険な前例となると述べ、この制度は中止されました。

しかし、サジド・ジャヴィド内務大臣は10月下旬、家族の支援を受けて英国に居住するための申請条件としてDNA検査を受けた移民希望者に対し謝罪した。今年7月に広く報道されたように、米墨国境で家族​​と引き離された子どもたちが両親を探すためにDNA検査を受けることになり、様々な道徳的問題を引き起こしている。

しかし、こうした技術の利用は誤った方向に進む可能性もある一方で、ツール自体はより広い意味で有用です。例えば、この種のニューラルネットワークは、腫瘍の検出など、人命救助の目的で効果的に利用されています。「どちらのケースも、機械は人間には見えないものを可視化できるという前提があります」とアムーア氏は言います。「しかし、そのうちの1つの例では、科学が非倫理的な方法で利用されています。」

この記事はWIRED UKで最初に公開されました。