欧州の道徳闘士が暗号化に関する法律を制定

4月23日、ドイツの政治家パトリック・ブレイヤー氏が自身のマストドンアカウントにミームを投稿した。「ビッグシスターがあなたを見張っています」と、EU内務委員イルヴァ・ヨハンソン氏の笑顔の写真の後ろに、大きな白い文字で警告が書かれていた。ブリュッセルの官僚機構の中で、政治家がミームに登場するほどの怒りを呼ぶことは稀だ。ましてや、同僚から作家ジョージ・オーウェルの現代版ビッグブラザーとレッテルを貼られることなど、考えられない。

しかし、ヨハンソン氏はヨーロッパで物議を醸す人物となっている。このスウェーデン人政治家は、個人のプライバシーと脆弱な若者の安全を対立させる、オンライン上の児童性的虐待コンテンツ（CSAM）をめぐる激しい論争の渦中に身を置いている。EU内務委員である彼女は、暗号化プラットフォームを持つ企業を含むテクノロジー企業に対し、ユーザーのプライベートメッセージをスキャンすることを義務付け、CSAMとグルーミング行為の両方をインターネットから排除しようとする、非常に物議を醸している新法案の立案者でもある。これは、率直な物言いで鮮やかな色のブレザーを愛用するスウェーデン人ヨハンソン氏にとって、個人的な闘いである。支持者も反対者も、ヨハンソン氏をこの法案の情熱的で頑固な推進力と評し、彼女はこの法案を「私の提案」と常々表現している。

ヨハンソン氏に対抗しているのは、プライバシー擁護団体、アメリカのユーチューバー、ドイツのサッカーファン、そしてIT企業の幹部らによる猛烈な連合体で、彼らはこの提案がオンラインプライバシーに深刻な影響を与えると主張している。彼らはこれを「チャットコントロール」法案と呼び、暗号化されたアプリに危険なバックドアを開けてしまうと警告している。ヨハンソン氏がこの法案の顔となっているため、批判は彼女個人に向けられている。「彼女は愚かか、邪悪かのどちらかだ」と、スウェーデンのVPNサービスMullvadのCEO、ヤン・ヨンソン氏は述べている。2月、彼女はオランダのビッグブラザー賞で疑わしい「賞」を受賞した。これはデジタル権利団体Bits of Freedomが主催するイベントで、プライバシーを守る戦いにおける英雄と悪人を表彰するものだ。ヨハンソン氏は間違いなく後者のカテゴリーに属し、個人のプライバシーを最も脅かした人物に一般投票で選ばれた。

授賞式はヨハンソンの誕生日に行われました。しかし、彼女は（少なくともバーチャルではありますが）出席し、受賞スピーチを行いました。彼女は批判を気にしていないと言います。「行動を起こす道徳的義務があると思っています」と彼女は3月にWIREDに語っています。「もし行動しなければ、私は一体何者なのでしょうか？小さなネズミになってしまうでしょう。何者でもない私になってしまうのです。」

児童性的虐待は、テクノロジーのせいにできる犯罪ではありません。しかし、インターネットはそれを拡散する世界的な市場を生み出しました。2022年、米国の慈善団体である国立行方不明・被搾取児童センター（NCMEC）は、オンライン上の児童性的虐待の疑いに関する報告を3,200万件受け取りました。そして、この市場は欧州にもある程度の責任があります。英国の非営利団体インターネット・ウォッチ財団（IWF）によると、昨年、既知の児童性的虐待資料の60%以上がEUのサーバーでホストされていました。

これは巨大IT企業にとって目新しい話ではない。世界最大級のソーシャルメディアプラットフォームは、既にこうしたコンテンツを根絶するためのシステムを構築している。例えばFacebookは、プラットフォームに投稿された写真や動画を既知のCSAMコンテンツのデータベースと照合する写真マッチング技術を用いており、複製を自動的に削除している。同社はまた、AIを用いてこれまで未確認だったCSAMコンテンツも検出している。AIが発見したコンテンツはNCMECに送られる。NCMECは長年にわたり、インターネット上で最も不快なコンテンツを扱う情報センターへと進化を遂げてきた。NCMECはコンテンツを受け取ると、スタッフが次に何をすべきかを判断する。警察に通報するか、動画に映っている子供の救出を試みるかどうかだ。

WhatsAppのようなエンドツーエンド暗号化プラットフォームは、写真照合技術を用いてメッセージをスキャンすることはできません。WhatsAppはグループ写真やプロフィール写真をスキャンするツールを導入しており、メタデータやユーザーからの報告も活用して疑わしいパターンを特定しています。同社は、これらの手法は毎月3万件のアカウントを停止するのに十分であると述べています。

現在、EU域内のプラットフォームにおけるCSAM検出は完全に任意です。また、CSAMの検索は違法であるため、企業は自社のプラットフォーム上で検索を行うにも許可が必要です。この許可を与えるEU法は2024年8月に失効予定ですが、ヨハンソン氏はその代替案を提唱しています。彼女の新制度構想は多岐にわたり、EU版NCMECの設立や、裁判所がリスクがあると判断するプラットフォームにはCSAM検出を義務付けることも含まれています。しかし、この提案の真の難題は、ヨハンソン氏が裁判所に対し、暗号化されたものも含めすべてのプラットフォームに対し、メタデータだけでなくメッセージの内容もスキャンし、違法と疑われるコンテンツを当局に提出するよう強制できる権限を与えたいと考えている点です。

ヨハンソン氏の提案の文言は「技術中立」であり、暗号化された空間については全く言及されていない。しかし、重要なのは、暗号化されたサービスを排除していない点だ。

ヨハンソン氏の支持者たちは、エンドツーエンドで暗号化されたメッセンジャーがCSAMを共有する人々の安全な避難場所となるべきではないと主張する。反対派は、ヨハンソン氏の提案が現状のまま可決されれば、暗号化されたメッセンジャーは存在しなくなると主張する。なぜなら、エンドツーエンドの暗号化を破ることなくスキャンを可能にする技術が存在しないからだ。「テクノロジーはそういう風には機能しません」と、デジタル権利団体European Digital Rights（EDRi）のシニア政策アドバイザー、エラ・ヤクボウスカ氏は言う。「暗号化は、あるか、ないかのどちらかなのです。」

ヤクボウスカ氏にとって、暗号化に対する真の脅威はスキャンそのものではなく、プライベートメッセージで検出された問題のあるコンテンツ（ビーチにいる子供の写真や、合意の上でセクスティングをしているティーンエイジャーの写真など、誤検知も含む）がEUの児童虐待センターに転送されるという提案である。ヨハンソン氏はしばしば、WhatsAppなどの暗号化されたメッセンジャーは既にユーザーのメッセージをスキャンして疑わしいリンクを検出していると公に主張している。しかしヤクボウスカ氏は、そのスキャン結果がWhatsAppから外部に送信されることはないと述べている。アプリはユーザーにリンクが疑わしいというメッセージを送ることはあるかもしれないが、その疑わしいリンクを警察に通報することはない。「つまり、メッセージの完全性が損なわれることはない」とヤクボウスカ氏は付け加える。「技術的にも法的にも、（ヨハンソン氏の）提案とは根本的に異なる」

ブリュッセルで繰り広げられている議論は、エンドツーエンド暗号化をめぐる政府とテクノロジー企業間の継続的な緊張関係の、またしても繰り返される事態に過ぎない。2021年、WhatsAppはインド政府を相手取り、裁判所の要請があればメッセージアプリに対しメッセージの「最初の発信者」を追跡することを義務付ける新規則を阻止しようと訴訟を起こした。今年、WhatsAppは、現在議会で審議中の英国オンライン安全法案が暗号化を弱める場合、英国から撤退すると警告した。Signalも撤退を示唆した。しかし、EU法が可決されれば、他の国で利用、あるいは悪用される可能性のある前例となるだろう。

「EUがサービスプロバイダーに対し、バックドアを通して特定のコンテンツをスキャンするよう義務付ければ、他国も同じバックドアを通して（別の何かを）スキャンするよう義務付けることができるようになる」と、スウェーデンの新聞「スヴェンスカ ・ ダーグブラーデット」が運営するポッドキャストでヨハンソン氏と議論したITセキュリティ専門家のカール・エミル・ニッカ氏は述べている。ニッカ氏は、他の国々がこのバックドアを利用して、内部告発者、中絶、LGBTQコミュニティのメンバーに関するコンテンツを検索する可能性を示唆している。

ヨハンソン氏は、この法案はプライバシーではなく、児童の保護に関するものだと強調する。性的な画像を誰かに送るよう強要され、それがインターネット上で拡散している11歳の少女のことを考えるべきだと彼女は言う。「彼女のプライバシーはどうなるのでしょうか？」

これは難しい議論だ。子どもの安全とプライバシーが対立するイデオロギー的な争いだ。他の国でこのような事態が起きた際、政治家たちは児童虐待の悲惨な詳細について語ることを避けてきた。そうすれば国民が関心を示さなくなると期待したからだ。しかし、ヨハンソン氏は別のアプローチを試みている。彼女は詳細について語ることにこだわり、反対派はこうした問題が存在しないかのように装っていると非難する。「今や、子どもたちにグルーミングを仕掛けるロボットが大量に登場している。これは全く新しい現象だ」と彼女は言う。「フィリピンでは、特別な家に閉じ込められた子どもたちがレイプされ、その様子がライブ配信されている。それもライブ配信だ」

彼女は、WhatsAppのようなテクノロジー企業が暗号化が弱まるのではないかと懸念している点を否定する。「規制されたくない企業もある」と彼女は言う。

法案の技術的基盤について尋ねられると、ヨハンソン氏は、この法律が企業のイノベーションを促すと考えていると述べた。暗号化されたメッセージをスキャンできる技術が発明されたとしても、各国がそれを導入するにはEUの認定を受ける必要がある。「技術が存在しないなら、当然使うことはできません。それは明白です」と彼女は言う。

WhatsAppは、このような技術の開発可能性について否定的な姿勢を示してきた。「これほど効果的なものは見たことがありません」と、WhatsAppの責任者であるウィル・キャスカート氏は3月にWIREDの取材に答えている。しかし、そのような発言はジョンソン氏を動揺させない。「私は大企業に挑んでいるんです」と彼女は言う。「彼らは強い。私の提案に対抗するために、多大なエネルギー、おそらく資金を投じているでしょう。でも、それが人生です。民主主義とはそういうものなのです」

ヨハンソン氏にとって、自身の提案は目新しいものでも過激なものでもない。彼女は、自身の提案はテクノロジー企業が既に自主的に行っていることを正式なものにしたに過ぎないと考えている。「この検出は現在も進行中です」と彼女は言う。「昨年は500万件以上の動画、写真、そしてグルーミング行為の報告を受けました。もちろん、それはこの検出が現在も進行中だからです。」

ヨハンソン氏には著名な支持者がいる。NCMECとインターネット・ウォッチ財団という、最も活発な児童安全団体の2団体は、彼女の法案に楽観的な見方を示している。しかし、ブリュッセルで最も支持を集めているのは、ハリウッド俳優のアシュトン・カッチャーだ。「イルヴァ・ヨハンソンさん、あなたとあなたのチームの尽力に心から感謝します」と、カッチャーは昨年ツイートした。3月には、カッチャー氏がブリュッセルを訪れ、欧州議会議員と面会してヨハンソン氏の提案を訴えたため、欧州議会議員とのセレブリティによるセルフィーが相次いで投稿された。カッチャー氏は、元妻で女優のデミ・ムーア氏と共同設立したテクノロジー系非営利団体Thornを通じてこの問題に関わっている。Thornは、プラットフォームがCSAMをスキャンするためのツールを開発している。

カッチャー氏の存在は奇妙に感じるかもしれない。しかし、彼は議論に分かりやすさをもたらしてくれると、ソーン・グループの同僚で政策ディレクターを務め、ブリュッセルを拠点とするエミリー・スリファー氏は言う。スリファー氏はヨハンソン氏の提案を支持しており、暗号化プラットフォームへの適用を可能にする技術が確立されれば、この法案が適用されることが重要だと述べた。「この法案の技術中立性は実に重要だと思います」と彼女は述べ、ソーン・グループは現時点では暗号化プラットフォームをスキャンするツールを開発していないが、将来的には開発する可能性があると付け加えた。「規制のスピードが遅く、技術の進化が速いことは周知の事実です」

ヨハンソン氏の提案は、今後2ヶ月間、欧州議会で審議される予定だ。議論は緊迫したものになると予想されており、欧州議会議員らはすでに、議論の感情的な激しさを「道徳的脅迫」に例えている。しかし、ヨハンソン氏は、欧州各国におけるプライバシーに対する考え方の相違を明らかにした。提案に対する最も激しい反対勢力の一つはドイツから出ている。ドイツは、シュタージ時代の監視の歴史もあり、プライバシーを非常に重視する傾向がある。ドイツでは人種データは記録されておらず、多くのドイツ人がソーシャルメディアで仮名を使用している。一方、ヨハンソン氏の出身国スウェーデンは透明性を重視する国である。給与データ、住所、電話番号はすべて公開されており、企業はそれらのデータを用いて製品を開発することが認められている。スウェーデンではこの法案に強い反対意見があるものの、ヨハンソン氏の古巣である社会民主党や、法務大臣を含む政府要人らも支持を表明している。

この議論は以前にも起きている。しかし、ヨハンソン氏はプライバシーをめぐる反発に毅然と立ち向かう稀有な公人だ。ヨハンソン氏に動機を尋ねると、彼女は母親として、大人として、そして政治家として、自らの義務にいつも立ち返る。「この子どもたちは守られなければならない」と彼女は言う。「そのために、私たちはできることをしなければならない」