英国はインターネットに悪法を施行しようとしている

英国が提案した野心的かつ物議を醸したインターネット規制は、プレタ・マンジェのブリーチーズとクランベリーのサンドイッチのパッケージ裏に走り書きされたメモから始まりました。ローナ・ウッズとウィリアム・ペリンという2人の学者が、テクノロジー企業にオンライン上の危害に対する責任を負わせる方法について議論したメモは、2019年に影響力のある白書となりました。そして、この白書は「オンラインセーフティ法案」と呼ばれる法案の基盤となり、児童性的虐待画像、ネットいじめ、偽情報などの有害コンテンツへのプラットフォームの対応を規制することで、英国を「世界で最も安全なオンラインの場所」にするという野心的な試みとなりました。

それ以来、英国は3人の首相（とレタス1本）、4人のデジタル大臣、パンデミック、そしてEUからの不安定な離脱を経験してきた。与党保守党政権の交代により、ウッズ氏とペリン氏の論文から生まれたこの法案は拡大され、有害コンテンツのホスティングについてテクノロジープラットフォームに責任を負わせようとする真摯な試みから、ブレグジット後の英国の政治的機能不全を反映するものへと変貌を遂げた。

現政権は来年の選挙で政権を追われると広く予想されているが、法案は本日下院に戻り、議員たちはその内容を議論する最後の機会を得ることになる。「サンドイッチのパッケージとは大きく異なります。ブリーチーズの汚れが付いていないのも大きな違いです」と、エセックス大学法学教授のウッズ氏は言う。さらに重要なのは、それぞれの保守党政権がそれぞれ独自の痕跡を残してきたことだ。「それがバロック調の装飾性を高めているのかもしれません」とウッズ氏は言う。

批判の度合いははるかに緩い人々も大勢いる。現行の法案は260ページ以上にも及び、キャンセルカルチャーから安全保障、移民問題に至るまで、大臣や議員たちがそれぞれの関心事に首を突っ込んだことを反映している。当初の誤情報対策規定の多くは削除、あるいは骨抜きにされている。法案に追加された項目には、メッセージングプラットフォームに対し、児童性的虐待画像の有無をスキャンするよう求めるという物議を醸す要件が含まれているが、これはエンドツーエンドの暗号化を弱めることでしか実現できないとテクノロジー企業やプライバシー保護活動家は指摘している。

WhatsAppやSignalなどの大手プラットフォームは、この法律が可決された場合、英国から撤退すると警告している。彼らはおそらくブラフを言っているわけではなく、法案は可決される可能性が高い。

この法案の初期段階では、オンライン上の危険なコンテンツへの対処について、比較的慎重なアプローチが取られていました。児童性的虐待コンテンツ（CSAM）など、明らかに違法で有害なコンテンツを防止するための規定に加え、合法的なコンテンツであっても、その拡散方法や標的の特定方法によっては有害となる場合があることも認識されていました。例えば、「ワクチンは効かない」という発言は違法ではないかもしれませんが、致命的なパンデミックの状況下では、そのようなメッセージが広く共有され、プラットフォームのアルゴリズムによってそれを信じやすい人々に繰り返し提供されると、非常に有害になる可能性があります。この法案は当初、こうした「合法だが有害」なコンテンツがオフラインで被害をもたらすのを阻止または制限する方法を検討していました。必ずしもコンテンツを禁止するのではなく、ユーザーのフィードに表示される方法や、誰に提供されるかを制限することで対応していました。例えば、苦しんでいる人々に自殺を促す投稿や、若いユーザーに極端な減量に関する投稿を推奨しないように、アルゴリズムを微調整する必要があるかもしれません。

プラットフォームレベルでオンライン上の危害を標的とするこのアプローチは、欧州連合（EU）における規制の基盤を形成しており、デジタル市場法とデジタルサービス法（DSA）は、テクノロジー企業に自社のビジネスモデルがオフラインに及ぼす影響について責任を負わせることを目指しています。しかし、オンラインセーフティ法案の変遷により、英国の規制の焦点は、コンテンツを危険にさらす可能性のあるシステムやアルゴリズムの規制から、コンテンツそのものへと移っています。

この法案は、オンライン上で合法的な言論とそうでない言論を特定し、違法な言論については企業に対策を義務付けるものです。一方、合法ではあるものの潜在的に有害なコンテンツについては、プラットフォームが独自の利用規約で規制するか、あるいは放置するかの判断に委ねられています。プラットフォームに合法ではあるものの有害なコンテンツの制限を義務付けることは検閲であり、言論の自由を侵害するものである、という論理です。成人は潜在的に有害なコンテンツを確認し、自ら判断を下す権利を持つべきです。

一部の批評家は、この変化は、2016年のEU離脱を問う国民投票で分裂が起こり、以来ポピュリスト的かつ国家主義的な色合いを帯びてきた保守党の派閥主義的かつ過激な政策に法案が乗っ取られた結果だと見ている。「保守党は突然、支持基盤の様々な部分をこの法案に取り込まなければならなくなった」と、キャンペーン団体「フェア・ボートUK」の創設者兼事務局長で、以前の法案の支持者だったカイル・テイラー氏は語る。

テイラー氏は、ニュース出版社は法案で提案されている規則の一部から免除されており、「民主的に重要な」発言も同様だと指摘する。この例外規定は、オンラインで多くのフォロワーを持つ政治家が法案に抵触しないようにするためのものだと思われる。保守党内の一派は、トランスジェンダーの権利や新型コロナウイルスによるロックダウンといった物議を醸す問題について、米国式の文化戦争的な言論を展開しており、自分たちの影響力を制限するものはすべて「キャンセルカルチャー」とレッテルを貼ってきた。党幹部の中には、交通規制や気候変動に関して、あからさまな陰謀論に近い言論をほのめかす者もいる。「大規模な被害をもたらす可能性が最も高いのは、もちろん登録済みのニュース出版社と、政治家のように多くのフォロワーを持つ人々です」とテイラー氏は言う。「つまり、この法案はFacebookで18人の友達を持つ人を罰し、政治家や政界関係者には何の対策も講じないという形になるのです」

保守党の現在の執念の一つは「ボートの阻止」、つまりイギリス海峡を渡って英国に到着する難民やその他の移民の数を制限することだ。政府は1月、海峡を渡る移民を「肯定的に」描写するコンテンツは法案に違反すると述べた。しかし、医学的な誤情報など、より一般的に有害と見なされる可能性のあるコンテンツは、このリストに含まれていない。つまり、例えば、英国で反ワクチン関連のコンテンツを削除するか、優先順位を下げるかは、カリフォルニア州で制定されたMetaのワクチンに関する誤情報に関するポリシーによって決定されることになる。

「（政府の）目には、偽情報を拡散する自由があるというだけのことです」とテイラー氏は言う。「これは文化戦争の問題となり、党の極右派と純粋な言論の自由を擁護する人々を維持しなければならなかった。そのため、偽情報対策に実際に役立つあらゆる手段を放棄してしまった。良き政策よりも政治を優先しているのです」

法案には他にも多くのアイデアが盛り込まれている。現在の条文には、ポルノサイトの年齢確認、詐欺広告やヌード画像の同意のない共有への対策などが含まれている。

法案成立が近づくにつれ、その内容をめぐる最も論争を巻き起こし、短期的には重大な影響を与える論争は、オンラインコンテンツがどのようなものかを違法とすべきかという点ではなく、政府の提案がプライバシーに及ぼす影響についてです。現在の草案では、メッセージングアプリなどのプラットフォームは、メッセージ内のCSAM（秘密情報）をスキャンするために「認定技術」を使用する必要があるとされています。テクノロジー企業やサイバーセキュリティの専門家によると、これは事実上、メッセージの完全なエンドツーエンド暗号化を禁止するものです。エンドツーエンド暗号化では、メッセージの送信者と受信者のみがメッセージの内容を読むことができます。

英国政府は、この矛盾に対する技術的な解決策を見つけるのはテクノロジー企業の責任だと述べている。「彼らは『エンドツーエンドの暗号化には手を出すつもりはない。何も解読する必要はない』と、かなり不誠実に言っている」と、サリー大学サイバーセキュリティ客員教授のアラン・ウッドワード氏は言う。「結局のところ、数学のルールではそんなことはできない。そして彼らは結局、『もっと頑張れ』と言うだけだ」

考えられるアプローチの一つは、クライアントサイドスキャンです。これは、携帯電話などのデバイスがメッセージの内容を暗号化前にスキャンし、違反コンテンツにフラグを付けたりブロックしたりするものです。しかし、セキュリティ専門家は、この方法は多くの新たな問題を引き起こすと指摘しています。「プライバシーを維持しながら、そのような方法を取ることは不可能です」とウッドワード氏は言います。「オンラインセーフティ法案は、基本的に大規模監視を再導入し、『万が一、これらの画像が見つかった場合に備えて、すべての携帯電話、すべてのデバイスを検査しなければならない』と定めているのです。」

Appleは、iCloudストレージサービス上の画像をスキャンしてCSAMを識別するツールの開発に取り組んでおり、ユーザーのプライバシーを脅かすことなく虐待画像の拡散を防止できると期待していた。しかし昨年12月、同社はこのプロジェクトを棚上げにした。また、児童虐待反対運動を展開する団体からの最近の批判への回答として、Appleはより広範な監視につながるバックドアを開けるリスクを冒したくないと述べた。プライバシー保護活動家や他のテック企業も同調する同社の主張は、ある目的でユーザーのファイルをスキャンする方法があれば、最終的には犯罪者や干渉好きな政府によって別の目的に利用されてしまうというものだ。セキュアメッセージングアプリSignalの社長メレディス・ウィテカー氏は、この決定を、暗号化されたプラットフォーム上のコンテンツを安全にスキャンできるという考えに対する「弔いの鐘」と呼んだ。

Signalは英国法案に強く反対しており、現状のまま可決された場合は英国から撤退する可能性があると述べている。MetaもWhatsAppについて同様の声明を出している。英国政府を含む政府や軍隊に安全なメッセージングサービスを提供するElementのような小規模企業も、撤退を余儀なくされる可能性があると述べている。ElementのCEO、マシュー・ホジソン氏は、メッセージングアプリを通過するすべての情報を企業にスキャンさせることは「暗号化通信システムのプライバシー保証を根本的に損なうため、大惨事となるだろう」と述べている。

表現の自由を訴える団体「インデックス・オン・センサーシップ」が委託した法案の法的分析によると、この法案は英国の通信規制当局であるオフコム（Ofcom）に治安機関よりも強力な監視権限を与える一方で、その監視権限の行使に対する牽制と均衡が危険なほど弱いことが明らかになった。市民社会団体やオンラインプライバシー擁護団体は、抗議活動の権利を厳しく取り締まり、2016年に制定された捜査権限法に基づきインターネット利用者を広範囲に監視する権限を自らに与えてきた政府によって、これらの権限が付与されていると指摘している。7月、アップルは同法の改正案に抗議した。改正案が成立すれば、テック企業は製品のセキュリティ侵害を修正するたびに英国政府に報告しなければならないことになるとアップルは主張している。

メッセージセキュリティとCSAM施行のトレードオフに関する政府の提案は、オンライン安全法案を概ね支持してきた児童保護団体の支持を得ている。法案の現状を批判する人々でさえ、テクノロジー業界が強硬な反対派に対して譲歩する必要があるかもしれないと認めている。「プライバシーは重要ですが、虐待を受けている子供たちの基本的人権も重要です。そして、権利について議論する際に、おそらくこの点が見落とされがちな点だと思います」と、この騒動の発端となったサンドイッチパックの持ち主であるウッズ氏は語る。「私たちは単に一つの権利について話しているのではなく、幅広い権利について話しているのです。ですから、非常に難しいバランス調整をしなければなりません」。法案には当初の構想から逸脱した部分も多いが、それでも優れたアイデアは含まれているとウッズ氏は言う。

最終的に妥協点が見つかるかどうかはさておき、WIREDの取材に応じた専門家たちの見解は、オンラインセーフティ法案が本日可決される可能性が高いというものだ。議会を通過して成立するまでに、政府の任期は1年を切り、保守党は来年秋に政権の座から追われることになるだろう。この法律がすぐに撤廃される可能性は低いため、無秩序で物議を醸す新たなインターネット体制は、その遺産として長く残る可能性が高い。ウッズ氏をはじめとする一部の人々は、テック企業の英国からの撤退の脅しにはブラフの要素があると考えている。一方で、ブレグジット後の英国の世界における地位の低下を考えると、政府はやり過ぎている可能性があると指摘する専門家もいる。

「Signalは撤退すると思います。WhatsAppも撤退するでしょう。Metaは英国で他のサービスを展開しているからです。そしてAppleもiMessageの運用を停止するでしょう」と、Fair Vote UKのテイラー氏は言う。「かつて英国は世界最大の経済大国であり、大企業に対して強い影響力を持っていたことを忘れてはなりません。しかし今、英国ではFacebookよりも規模の小さい中堅企業として、Facebookが勝利を収めています。」