Cloudflareが過激派の拠点を焼き払った理由

2016年秋、南部貧困法律センター（SPLC）のアナリスト、キーガン・ハンケスは、ネオナチのウェブサイト「デイリー・ストーマー」を訪れた。これは珍しいことではなかった。ハンケスの公民権団体での仕事の一部は、オンラインで白人至上主義者を追跡することであり、それは彼らのサイトを読むことを意味していた。しかし、アラバマ州モンゴメリーにあるSPLC本部のコンピューターでそのページを開くと、ハンケスの目に留まったものがある。「アクセスする前にブラウザを確認しています…最大5秒お待ちください」というポップアップウィンドウだ。小さな文字で「CloudflareによるDDoS保護」という謎めいた文言が書かれていた。SPLCで3年間働いていたハンケスは、Cloudflareが何なのか全く知らなかった。しかしすぐに、他のヘイトサイトにもこのポップアップが表示されることに気づき、調べ始めた。

ハンケス氏と同様に、あなたも Cloudflare について聞いたことがない可能性は高いでしょう。しかし、そのシステムを経由した何かをオンラインで見たことがあるはずです。Cloudflare はインターネットのバックエンドの一部です。Web ページへの全リクエストのほぼ 10% が、世界 118 都市に設置されている Cloudflare のサーバーを通過します。これらのサーバーはコンテンツの配信を高速化し、クライアントの Web ページが通常よりも速く読み込まれるようにしています。しかし、Cloudflare の主な役割は保護です。そのテクノロジーは、分散型サービス拒否 (DDoS) 攻撃 (偽のトラフィックで Web サイトを圧倒して機能を停止させるハッカーの活動) に対する目に見えない盾として機能します。同社には 700 万人を超える顧客がおり、基本的なセキュリティ サービスにお金を払わない個人ブロガーから、24 時間サポート保証に年間最大 100 万ドルを支払うフォーチュン 50 企業までがいます。

ハンクスはCloudflareのビジネスについて何かを学びたいと考えており、特にCloudflareが誰を守ろうとしているのかを知ることに強い関心を抱いていた。数ヶ月の調査を経て、彼は重要な事実を発見したと確信し、2017年3月7日、Cloudflareが「少なくとも48のヘイトウェブサイトのコンテンツを最適化している」と非難するブログ記事を執筆した。これらのサイトには、白人至上主義オンライン掲示板の祖とも言えるStormfrontや、当時インターネット上で最も重要なヘイトサイトの一つだったDaily Stormerが含まれていた。激しい反ユダヤ主義を掲げるDaily Stormerは、2013年にアンドリュー・アングリンという名の、凶暴で謎めいた白人至上主義者によって創刊された（「Total Fascism」は、彼が以前に発行していた雑誌の一つの明るいタイトルだった）。

Cloudflareの保護がなければ、Daily Stormerをはじめとするサイトは、ナチスや白人至上主義のオンラインプロパガンダを排除しようとする自警団のハッカーによってダウンさせられていた可能性も十分にありました。もちろん、ハンケス氏とSPLCは、Cloudflare自体が人種差別的なイデオロギーを撒き散らしていると非難していたわけではありません。むしろ、Cloudflareがナチスの集会で演壇を守る武官のように振る舞っていたと非難していたのです。

インターネットインフラ企業が、いかにしてナチスの一団との言論の自由をめぐる重大な争いに巻き込まれたのか？多くの偉大な物語と同様に、この物語もサンフランシスコの個室やイスタンブールの売春宿から始まる。

2010年、 Cloudflareが創業したばかりの頃、顧客数が数百万人に達するずっと前、プリンスと共同創業者のミシェル・ザトリン、リー・ホロウェイは、狭いソーマのオフィスにベルを設置しました。誰かがCloudflareのサービスにサインアップするたびにベルが鳴り、10人ほどの従業員は皆、作業を中断して新しい顧客が誰なのかを確認しました。

2011年のある日、ベルが鳴り、プリンスは誰が登録したか確認しに行った。「その時、『従業員ハンドブックが必要だ』と思ったんです」。新規顧客はトルコのエスコートサービスで、プロモーションウェブサイトのサイバー保護を必要としていた。しかし、それは最初の1社に過ぎなかった。2週間も経たないうちに、約150のトルコのエスコートサイトがCloudflareのサービスに登録した。この新興企業は、どういうわけかイスタンブールの性産業にとって頼りになるサービスになっていた。

このニッチビジネスの人気ぶりに興味をそそられたCloudflareの従業員が、あるエスコートサイトのウェブマスターに連絡を取りました。ウェブマスターは、TechCrunchでCloudflareについて読んだ友人からCloudflareのことを聞き、同社の保護を求めた理由を説明しました。正統派イスラム教のハッカーたちが、自らの手で法的手段を取り、エスコートサイトをウェブから一掃しようと決意したのです。彼らはほぼ成功していましたが、Cloudflareが登場するまでは。

トルコのウェブマスターたちがCloudflareに殺到した理由を理解するには、一般ユーザーと情報を配信するサーバーの間でやり取りされる、目に見えない、ほぼ瞬時に流れるビットの流れに、同社がどこで介入しているのかをもう少し理解する必要があります。ブラウザにURLを入力してReturnキーを押すと、そのリクエストはまずドメインネームサーバーに送られ、そこで人間が読める形式のURL（例えばwww.turkishescort.com）が、コンテンツをホストしているウェブサーバーの数値IPアドレスに変換されます。この時点で、ビットパケットがドメインネームサーバーからホスティングサーバーに送信され、リクエストされたコンテンツがブラウザに返されます。

問題は、「あなた」が実はあなたではないかもしれないということです。あなたのコンピュータがマルウェアに感染し、ハッカーがDDoS攻撃を実行するために利用するゾンビマシンの軍団、つまりボットネットに乗っ取られているかもしれません。一見何もしていないように見えるノートパソコンが、毎秒数千ものリクエストで無害なウェブサイトを圧倒し、標的のサーバーに過負荷をかけ、正当なリクエストが通過できない状態にしているかもしれません。そこでCloudflareの出番です。

Cloudflareは、ブラウザとコンテンツを含むホストサーバーの間に介入することで、こうした攻撃から保護します。ユーザーにとって、スムーズなエクスペリエンスを提供します。例えば、地元紙のブックマークをクリックすると、一瞬のうちに高校スポーツのスコアや市長選の報道が画面に表示されます。しかし、その裏では、情報リクエストはCloudflareのデータセンターを経由してフィルタリングされています。

「データセンターでは、一連の判断を行います」とプリンスは説明する。「あなたは善人か悪人か？サイトに危害を加えようとしているのか？それとも正当な顧客なのか？悪人だと判断された場合、私たちはそこであなたを阻止します。私たちは本質的に、お客様を守り、保護する力の盾のような役割を果たしています。」

9月にCloudflare本社（現在はSoMaにあるより広々としたオフィス）を訪れた際、プリンス氏は私を同社のネットワークオペレーションセンターに案内してくれた。そこには壁一面にモニターが並び、それぞれのモニターにはグラフや鮮やかな色のテキストブロックが表示されていた。これらは、Cloudflareネットワーク全体でリアルタイムに試行されている数百もの異なる攻撃を表していた。Cloudflareはパターン認識を用いて、善玉と悪玉を区別している。見慣れた悪質なパターンが出現すると、人間の免疫システムがウイルスを攻撃するように、それを阻止する。トルコの売春宿を狙ったサイバー攻撃者たちは、特徴的なパターンを示していた。Cloudflareでは、その指紋は「TE攻撃」（Turkish Escortsの頭文字）と呼ばれていた。

最初のトルコ人エスコートサイトが顧客になってから約1年後、プリンスは「オランダ紳士」と彼が呼ぶ人物から電話を受けた。発信者は、大人気のユーロビジョン・ソング・コンテストのウェブサイトの責任者だった。テレビのタレントショー、決勝戦の2日前、サイトはDDoS攻撃によってオフラインになっていた。Cloudflareのセキュリティチームがデータを確認すると、すぐに類似点に気づいた。それはTE攻撃だった。その年のユーロビジョン・コンテストは、イスラム教徒が多数を占めるアゼルバイジャンで開催されており、ハッカーたちはユーロビジョンをオフラインにすることを決定したのだ。以前にもこの攻撃を経験していたCloudflareは、決勝戦の開催まで十分な時間、30分もかからずにサイトを復旧させることができた。それからさらに6ヶ月が過ぎた。プリンスはニューヨークの大手金融会社に呼び出され、最近行われたサーバーへの攻撃の分析を手伝うこととなった。会議室では、財務チームがテーブル越しにプリンスと同僚たちにログファイルを手渡した。ログに目を通すと、彼らの顔に見覚えのある笑みが浮かんだ。トルコの護衛部隊が攻撃したのと同じ作戦だった。

TE攻撃は、Cloudflareがウォール街の巨人たちに感銘を与えるだけでなく、不快なコンテンツを保護することの価値を同社に教えてくれた。どこかの誰かが深く嫌っているサイトは、攻撃を受けやすいタイプのサイトだ。そして、サイトが攻撃されると、Cloudflareはより優れた対応力を発揮する。パターン認識能力が向上するのだ。「物議を醸すものに自ら立ち向かうことで、システムはより賢くなるのです」とプリンス氏は言う。「まるで子供たちに土の上を転がらせてあげるようなものです」。これが、Cloudflareが無料のセルフサービスプラットフォームを提供するのが理にかなっている理由の一つだ。潜在的な侵入因子のプールを広げることで、免疫システムの反応性が高まるのだ。 「一銭も払わないエスコート嬢たちが良い客であるかどうかは、自明ではありません。ネオナチのサイトなど、常に攻撃を受けているような人たちを、当然のように自分のネットワークに繋ぎたいと思うかどうかも、自明ではありません。しかし、私たちは常に、より多くのものを見れば見るほど、他の皆をより良く守れると考えています。」

Cloudflareは現在、TE攻撃のようにそれぞれが識別可能なシグネチャを持つ、数百万種類もの攻撃を記録しています。この悪意ある攻撃のデータベースは拡大を続け、最終的にCloudflareをインターネットのゲートキーパーとして、目立たないながらも中心的な地位へと押し上げました。私がCloudflareのオフィスを訪問する前日には、2万2000人の新規顧客が同社のサービスに登録しました。言うまでもなく、登録者ごとにベルが鳴ることはありません。

マシュー・プリンスはユタ州パークシティで育ちました。彼の父親はジャーナリストとしてキャリアをスタートし、後にドライブタイムのラジオパーソナリティになりました。プリンスは「夕食のテーブルを囲んで、憲法修正第一条と言論の自由の重要性について話し合った」という思い出を語ります。コネチカット州ハートフォードのトリニティ・カレッジ在学中、プリンスは一時的にコンピュータサイエンスを専攻することを検討しましたが、最終的には英文学を選びました。また、デジタル限定の雑誌も創刊しました。その後、シカゴ大学で法律を学び、そこでオバマ教授の講義に出席しました。その後、ハーバード・ビジネス・スクールに進学し、そこでザトリンと出会いました。

プリンスの多様な経歴は、クラウドフレアの言論のジレンマにあらゆるレベルで取り組む自信を彼に与えた。彼は訓練を受けた弁護士として、企業が言論行為を取り締まる法的影響を理解していた。テクノロジー企業の創業者として、顧客対応における技術的能力とビジネス上の必然性に精通していた。そして、ジャーナリストの息子として文系の出身で、オンラインではどのようなレトリックが許容されるかについて深く考えていた。プリンスは、クラウドフレアが運営されているインターネットの目に見えないインフラ層は、言論を制限したり裁いたりする場所であってはならないと強く感じていた。プリンスの統治の比喩で言えば、それはAT&Tが電話の会話を盗聴して「おい、あなたの政治的見解は気に入らない。ネットワークから締め出すぞ」と言っているようなものだ。

Cloudflareの立ち上げ後、彼は公共知識人的なスタイルで、オンライン上の言論の自由とインターネットのインフラ層の中立性を守ることの重要性を主張した。プリンス氏とその同僚がSPLCによる当初の調査を却下できたのも、こうした経緯があったからである。「私たちは常に何かについて論争を続けています」とザトリンは言う。

5月初旬、新たなニュースが浮上した。Cloudflareにとって無視できないものだった。ProPublicaの記事によると、Daily StormerについてCloudflareに苦情を申し立てた人々が、嫌がらせや脅迫の電話やメールを受けており、中には「くたばれ、死ね」と脅すものもあったという。ProPublicaの記事は、アングリン氏名義のブログ記事を引用し、「我々に手を出すと、それ相応の罰が下ることを、これらの人々全員に明確に伝える必要がある。我々は、蹴飛ばされるような赤ん坊の集団ではない。復讐する。そして、今、実行する」と記していた。まるでCloudflareがまともな人間をファシスト・トロールの軍団に密告したかのようだった。

Cloudflareは、言論の自由を唱えても消し去ることのできない正当な問題を抱えていることを認識した上で、速やかに不正使用ポリシーを変更し、ユーザーに個人情報と連絡先を送信しない選択肢を与えました。ProPublicaはまた、アングリン氏が、このヘイトサイトがCloudflareの保護に月額200ドルを支払っていると述べたと報じましたが、Cloudflare側はこの点についてコメントを控えました。Cloudflareは、どんなに悪質なサイトであっても保護することに誇りを持っていますが、プリンス氏はDaily Stormerによる苦情を訴えた人々への攻撃には不意を突かれたと述べています。「私たちが予想していなかったのは、世界には本当にひどい人間がいるということです」とプリンス氏は悲しそうに語りました。

数ヶ月後の8月11日金曜日、バージニア州シャーロッツビルの路上で、トーチを掲げた白人至上主義者の一団がデモ行進を行いました。翌日、ヘザー・ヘイヤーという名の抗議活動参加者が、政治的暴力とみられる行為によって轢かれました。その日の午後、ドナルド・トランプはヘイヤーの死には触れず、シャーロッツビルでの暴力行為は「多くの側面」によるものだと非難しました。そして突如、国全体がナチスに立ち向かうために我々は何をするつもりなのかという問いに巻き込まれました。デイリー・ストーマー紙は、アングリンの署名入りで「ロードレイジ事件で死亡した女性は、32歳の太った子供を持たない女だった」という不快な記事を掲載しました。事態はそこから悪化するばかりでした。

その投稿を読んだジェスターとして知られる反ファシストの自警団ハッカーが「素晴らしいサイトだね、アンドリュー。もし何か『起こった』としたら残念だね」とツイートした。しかし、Cloudflareが保護を提供し続けている限り、その脅しは空虚なものに過ぎなかった。「その晩、私は家にいたんだ、そしてジェスターからTwitterでダイレクトメッセージを受け取ったんだ」とプリンス氏は言う。「彼はこう言っていたんだ。『おい、こいつらは最低だ。インターネットをDDoS攻撃で遮断したいんだ。どいてくれないか？』」プリンス氏によると、彼はインターネットセキュリティカンファレンスで行った言論の自由の原則を擁護するスピーチへのリンクを返信したという（ジェスターはコメントの要請に応じなかった）。一方、Cloudflareに対する怒りは高まっていた。「突然、大量の人がTwitterで私たちに怒鳴りつけたんだ」とプリンス氏は回想する。Daily Stormerのドメインを管理していたオンラインサービスのGoDaddyは、この契約をキャンセルすると発表した。デイリー・ストーマーはドメイン登録をGoogle Domainsに移行しようとしたが、拒否された。このネオナチサイトとの取引を希望する最後の大手プロバイダーはCloudflareだったようで、今回もヘイトスピーチ保護に尽力しているようだ。

月曜日の午後、プリンス氏と経営陣は、高まる論争に対処するため集まった。この反発は、クラウドフレアの一般社員の心に重くのしかかっていた。「井戸端会議ではもちろん話題になりました」と、従業員と人事を統括するジャネット・ヴァン・ヒュイス氏は回想する。「ニュースで取り上げられていました。社員たちは苦境に立たされていました。『より良いインターネットの構築に貢献したくてこの会社に入社したのです。私たちは自由で開かれたインターネットを強く信じています。しかし、現在ウェブ上には本当にひどいコンテンツが存在し、それが世間に広まっているのは私たちのせいです』という人がたくさんいました」。その週の後半に行われた従業員向けのタウンホール形式のミーティングでは、さまざまな感情が浮かび上がった。ある参加者はプリンス氏にこう言った。「誇り高きクラウドフレア社員として、今後どのような発言をすべきか、良い答えがありません。何と言えばいいのでしょうか？」。別の参加者は、なぜネオナチ系サイトはプラットフォームから排除することを検討しているのに、ISISとされるサイトは排除しないのかと尋ねた。

火曜日の夜、プリンス氏はサンフランシスコの自宅でCloudflareのインターン生たちを招いて夕食会を主催していた。イベント中のある時点で、Cloudflareの法務顧問ダグ・クレイマー氏がプリンス氏を呼び出し、「状況はどんどん悪化しているようだ」と言った。食事中にこっそりと携帯電話をチェックしていたプリンス氏は、ソーシャルメディアサービスRebelMouseの創業者兼CEOで、同僚の技術者ポール・ベリー氏がTwitterで、Cloudflareが「@GoDaddyでさえ削除したナチス憎悪コンテンツ」をホストしていると非難していることに気づいた。

インターンたちがアパートを去った後、プリンスと婚約者のタチアナ・リンゴス＝ウェッブは片付けと皿洗いをしました（二人はその後結婚しました）。ベリーのツイートに心を痛めたプリンスは、人々が言論の自由という基本的な理念をいとも簡単に放棄してしまう様子に嘆き始めました。「ナチス関連のコンテンツには何か特別なところがあるのか​​もしれませんね」とリンゴス＝ウェッブは言い放ちました。「それで私は彼女を見て、『あなたも？』と言いました」とプリンスは回想します。

「怒りながら寝たんだ」とプリンスは言う。「朝になってもまだ怒りが残っていた」。Twitterをチェックすると、デイリー・ストーマーのサイトで、カエルとサソリの真似をした誰かが、サイトを支え続ける唯一のサービスに敵意を抱こうとしていることに気づいた。サイトの技術的問題に関する匿名のコメントには、GoDaddyとGoogleがデイリー・ストーマーを排除しようと動いていることが記されていた。「彼らはすべて成功した。ただし、Cloudflareは上層部で密かに私たちの仲間だと聞いている」。一夜にして、プリンスと彼の同僚たちは、実践的な白人至上主義者の仲間入りを果たしたのだ。

プリンスはベリーに電話をかけ、デイリー・ストーマーを守り続ける理由を説明した。プリンスはテクノロジーカンファレンスを通して長年、レベルマウスのCEOと親交があり、彼の意見を尊重していた。緊迫した電話だった。ベリーはプリンスの苦境を理解していると伝えた。「でも、あれだけ苦労して成功したものを作るなら、誰が使うかを選ぶ権利がある」とベリーはプリンスに言ったのを覚えている。「そして、人々に明確に伝わる行動規範を定める権利がある。白人至上主義、人種差別、ヘイトを支持しないという行動規範だ」

「僕は自分の主張を述べようとしたんだ」とプリンスは当時の会話について語る。「するとポールは『ナチスども、そんなことは問題じゃない』と言うんだ。僕は『まあ、ある意味問題なんだけどね。だって、もし電話会社が僕の通話を盗聴していて、僕の話が気に入らないと判断すれば、電話を切るなんて、不気味だと思うからね』って答えたよ」

ベリーとの電話を切ると、プリンスはシャワーを浴びた。ほとんど眠れなかった。友人たちは言論の自由をめぐる議論で間違った側に立っているようだった。しかし、論争がどこへ向かうのかは分かっていた。デイリー・ストーマーを守り続ければ、必然的にCloudflareの顧客ボイコットが起こり、ビジネスに深刻な悪影響が出る。しかし、もし彼らを排除したら、「その後に起こる恐ろしい出来事を想像した」と彼は振り返る。突如、Cloudflareネットワーク上の物議を醸すサイトはすべてレビューの対象となり、Cloudflareは言論を規制するディープインフラサービスの先例を築くことになるだろう。シャワーを浴びながら、様々な考えが頭の中を駆け巡った。「文字通り、壁に頭をもたれかかりたくなるような瞬間だった。一体どうすればいいんだ？」

「でも、ふと考えたんだ。彼らを追い出して、なぜそれがそんなに危険なのか話し合おうじゃないか。そうすれば、議論が変わるかもしれない」。プリンスは自らの信念を裏切り、その裏切りを、なぜその信念が重要なのかを主張する議論へと昇華させた。

「その日の朝10時頃、マシューから電話がかかってきて、『彼らを追い出す』って言われたんです」とザトリンは振り返る。彼女はCloudflareは検閲をするのに適した場所ではないと感じ、会社の方針に従うだろうと思い込んで寝床についた。「言葉を失い、少し呆然としました。『そんなことを言われて驚きました。まさかそんなことを言うとは思っていませんでした。でも、わかりました』って」

午前遅くには、同社のトラスト＆セーフティチームは、Daily StormerをCloudflareネットワークから削除する手続きを完了していました。そして、プリンスはブログ記事の下書きをしました。記事は事実のみを述べるスタイルで始まりました。「本日、CloudflareはDaily Stormerのアカウントを停止しました。」

「当社の利用規約には、当社の単独の裁量により、当社のネットワークのユーザーを終了する権利が留保されています。」プリンス氏にとっての転機となったのは、Daily StormerのサイトでCloudflareの幹部が「密かに彼らのイデオロギーを支持していた」と示唆されたことでした。しかしその後、プリンス氏は言葉を巧みに切り替えました。「その決断を下した今、なぜそれが危険なのか説明させてください。」

プリンス氏はDDoS攻撃がもたらす危険性について語った。「デイリー・ストーマーのようなコンテンツはオンライン上に存在すべきではないという点には誰もが同意するだろうが、そうした声を封じ込める手段が自警団的なハッカーであってはならない」とプリンス氏は主張した。

彼の主張の主眼は、Cloudflareのような民間企業（GoogleやAmazon Web Servicesは言うまでもない）が、許容される言論の範疇を決める危険性についてだった。「コンテンツ規制の指針となる明確な枠組みがなければ、少数の企業がオンラインで何ができて何ができないかをほぼ決定することになる」とプリンスは説明した。おそらく最も印象的な指摘は、彼がスタッフに宛てた別のメモにあった。「文字通り、機嫌が悪く目が覚めて、誰かをインターネットに繋げてはいけないと決めた。誰もそんな力を持つべきではない」

プリンスがデイリー・ストーマーをめぐって抱いたジレンマは、オンラインコミュニティの黎明期からネット文化に存在してきた。しかし、どのような言論形態を禁じるべきかという議論は往々にして学問的かつ遠いものと見なされてきたが、今日では社会的な言論の中心となっている。かつては常軌を逸していると思われていた白人至上主義運動は、より声高に発言するようになり、その思想は主流へと公然と広がっている。政治指導者たちは必ずしも彼らを非難するわけではない。SPLCのハンケス氏は、ソーシャルメディアには過激な思想を増幅させる力があるため、少数派のヘイトサイトでさえ「甚大な影響を与える可能性がある」と述べている。「私たちの立場は、インターネット・サービス・プロバイダーのすぐ南側、つまりオンラインコンテンツをホストまたは保護するほぼすべての人が、これらの問題について立場を表明する責任がある、あるいは、そのサービスを悪用する人々がもたらす結果について責任を負う覚悟ができている、というものです」とハンケス氏は述べている。

インターネットを形作った言論の自由という本来の精神もまた、揺らぎ始めている。当時、憲法修正第1条の確固たる価値観は、初期の文化を形作ったリバタリアンと進歩主義者の間で合意された数少ない分野の一つだった。しかし今日、その連携は不安定になっている。大学キャンパスでの積極的な反ヘイトスピーチ運動はリバタリアンの怒りを買っており、進歩主義者の間では、大手IT企業が悪意の温床になっているという認識が高まっている。Twitterの利用規約や、同プラットフォームを蝕む蔓延する嫌がらせや虐待をめぐっては、隔週ごとに新たな論争が巻き起こっているようだ。

「正直言って、とても悲しいです」とベリー氏は言った。「シリコンバレーで育ち、10歳からコードを書き、テクノロジーを信じていました。」しかし今、ベリー氏は、プラットフォーム企業が市民の良識に打ち勝ち、金儲けを優先していると考えている。「今、私たちは経済的な成功と人間らしさの間で葛藤を抱えています。」

Google、Facebook、Twitter、そして独自のやり方でCloudflareといったゲートキーパーの巨大な規模は、サイバースペースを抑制されない言論の領域とする従来のビジョンにも挑戦を仕掛けてきた。Usenetの時代からオンライン上には憎悪の暗い泉が存在したが、当時は人間嫌いの感情は何千もの異なるプラットフォームに分散していた。たとえ一部の発言が沈黙させるほど不快だと感じたとしても、それをすべて排除することは事実上不可能だった。単一の組織で一つの考えを沈黙させることはできなかった。しかしFacebookやGoogleが数十億人のユーザーを抱える世界では、これらの大企業の1つの決定が、不人気な声を実質的に黙らせる可能性がある。実際、12月にTwitterは、プロフィール情報で複数の中傷語や人種差別的または性差別的な比喩を使用するユーザーのアカウントを停止するという新しいルールの施行を開始した。

プリンス氏はその力を認識しているものの、インターネットという混沌とした世界を構成する様々な要素を注意深く分析している。FacebookやTwitterのようなコンテンツを提供するサイトと、ホスティングやセキュリティサービスといったインフラ基盤との間には根本的な違いがあるとプリンス氏は主張する。一般消費者にとってCloudflareは比較的目に見えない存在であるため、プリンス氏にとって言論の自由を問うべき場所ではない。「この事実は、インフラ基盤はコンテンツを規制するのに適した場所ではないと言える枠組みを与えてくれると思います」と彼は言う。「FacebookとYouTubeはまだそうかもしれません。そして、彼らは広告で運営されている企業なので、彼らにとってはより容易な問題です。プロクター・アンド・ギャンブル（P&G）なら、テロリストのコンテンツの隣に広告を掲載したくありません。ですから、ビジネスモデルとポリシーは合致しているのです。」

責任転嫁のように聞こえるかもしれないが、プリンスの主張は人権擁護団体から理念的な支持を得ている。電子フロンティア財団（EFF）は、CloudflareやGoDaddyのようにコンテンツを自ら生成しない「仲介者」と呼ばれるサービスが、どのような言論が許容されるかを判断するべきではないという立場をとっている。EFFは、たとえ下品な言論であっても、ほとんどの言論は許容されるべきだと強く主張しているが、暴力扇動や名誉毀損といった違法行為が発生した場合、適切な対処手段は法制度にある。「仲介者に、何が許容されるかの判断を委任させるのは、私たちが最も避けるべきことだと思います」と、EFFの法務責任者であるコリン・マクシェリー氏は述べている。「法執行機関は、潜在的に危険なグループをダークウェブに追いやることなく、追跡できる方がよいと言うでしょう」。彼女はさらにこう付け加えた。「私はナチスを目に見える場所に置きたいのです」

シャーロッツビルの週末から数ヶ月、デイリー・ストーマーは一連のウェブサイトを転々とし、一時的にロシアのドメイン、その後アルバニアのドメインに新しいURLで現れた。プリンス氏自身も、自社が言論規制ビジネスに携わるべきではないという確信を深めている。デイリー・ストーマーを排除して以来、クラウドフレアはネットワーク上のサイトに関する苦情を7,000件以上受け取っている。「一番奇妙だったのは、全くの無党派の料理ブログでした」とプリンス氏は言う。「本当にひどいのかどうか確かめるために、いくつかのレシピを作ってみようかとも考えました」。プリンス氏のブログ投稿では、ネットワーク上の不適切なサイトを管理するための枠組みを確立すると誓っていたが、ほとんど変わっていない。「まだ議論は続いているが、インフラ企業として中立の立場を取り、デイリー・ストーマーに対してやったようなことは二度としないというのが、おそらく結論だろう」とプリンス氏は今語っている。

Cloudflareは、自社のポリシーを擁護するために言論の自由の伝統を正当に受け入れることができる。しかし、同社はまた、ビジネス上の利益を守っている。ネットワークソフトウェアとアルゴリズムにより、大手IT企業は膨大な量の情報を整理・配信（そしてCloudflareの場合は保護）することが可能になった。DDoS攻撃のパターンを探すこと、Turkish Escortの攻撃者のシグネチャを検出することなどは、コードを使えば大規模に解決できる種類の問題だ。しかし、例えば7,000のウェブサイトを暴力扇動の可能性について評価することは、ソフトウェアだけで最終判断できるものではなく、必ず人間の判断が必要になる。FacebookとGoogleは昨年、ロシアの広告やフェイクニュースがフィードや画面に侵入するという問題に取り組んできた。しかし、人員は高価だ。FacebookとYouTubeは、国民の抗議を受けて初めて、疑わしい広告や子供に不適切な動画に対処するために何千人もの人間のモデレーターを雇うことを約束した。 Cloudflare のようなサービスはそうした評価を行うのに適さないというプリンスの意見は正しいかもしれないが、それはまた便利でもある。その義務を回避すれば、彼のビジネスははるかに運営しやすくなるからだ。

Cloudflareで未だに解決されていない議論の一つは、Daily Stormerの削除決定をどのように記録に残すべきかという点だ。「当社は年に2回透明性レポートを作成していますが、その中に『これまで一度も行ったことのないこと』のリストがあります」。それは短いリストで、その中の重要な記述の一つに「政治的圧力によって顧客を解約したり、コンテンツを削除したりしたことは一度もありません」とある。しかし、これはもはや真実ではない。「ですから、現在社内で、Daily Stormerを削除する必要があるかどうかについて議論しています」とプリンス氏は語る。

プリンス氏によると、12月の時点では、声明文は維持しつつも、デイリー・ストーマー事件の詳細な説明へのリンクを示すアスタリスクを追加する方向で検討していたという。「そうすれば、次に論争が起こった際に、その声明文を指して『これは一度だけやったことで、それがどんな危険をもたらしたか』と言えるようになります」。しかし、デイリー・ストーマーは再び掲載を依頼されていない。

• テクノロジー、混乱、そして新たな検閲: Zeynep Tufekci は、テクノロジーが言論の自由について私たちが知っていると思っていたすべてを覆している様子を探ります。
• あなたが言うことはすべて、あなたに不利に働く可能性があり、実際に使われるでしょう。ダグ・ボック・クラークが、極右過激派に対するアンティファの秘密兵器を紹介します。
• どうか、あなたの言葉を黙らせてください。アリス・グレゴリーは、スマートフォンを無力化し、世界を変えないことを目指すスタートアップ企業を訪問します。
• インターネット上の公正な議論にとって最大の希望は...Reddit にあります: Virginia Heffernan が Change My View に投稿。
• 検閲に関する 6 つの物語: Facebook からアカウントを停止されたり、トランプ大統領からブロックされたり、その他さまざまなことが、対象者自身の言葉で語られます。

スティーブン・ジョンソン (@stevenbjohnson) は 10 冊の本の著者であり、最新作は『Wonderland: How Play Made the Modern World』です。

この記事は2月号に掲載されています。今すぐ購読をお願いします。

この記事とその他のWIREDの特集はAudmアプリでお聞きいただけます。