民主主義を蝕む言論の自由の黄金時代

近代史の大半において、思想の拡散を阻止する最も簡単な方法は、それが機械的に拡散されるのを防ぐことだった。新聞を閉鎖し、放送局長に圧力をかけ、出版社に正式な検閲官を設置する。あるいは、いざとなれば、アナウンサーの頭に弾の込められた銃を突きつけることもあった。

トルコでは実際にこのような出来事がありました。1960年の春、軍将校の一団が政府と国営メディアを掌握し、クーデターへの脅威となる動きを封じ込めるため情報統制を敷いたばかりでした。しかし、陰謀家たちにとって不都合なことに、クーデターの2週間後には、トルコとスコットランドの間で大きな注目を集めていたサッカーの試合が首都で開催される予定でした。このような試合は国営ラジオで生中継され、アナウンサーが試合の実況を逐一解説しました。トルコ中の人々がテレビの前に集まり、代表チームを応援しました。

試合を中止することは軍事政権にとってあまりにもリスクが高かった。抗議行動を引き起こす恐れがあったからだ。しかし、もしアナウンサーが生放送のラジオで政治的な発言をしたらどうなるだろうか？たった一言の発言で国が混乱に陥る可能性がある。そこで当局は明白な解決策を思いついた。生放送の2時間45分の間、アナウンサーに銃を向け続けたのだ。

リスクは確かにあったが、うまくコントロールできた。結局のところ、脅威となるアナウンサーはたった一人、電波制御のボトルネックが一つだけだったのだ。

検閲の一般的な手法、つまり適切なボトルネックを見つけて締め上げるという手法は、かつては世界中で一般的でした。というのも、最近まで放送と出版は困難で費用のかかる事業であり、インフラはボトルネックだらけで、少数の者に集中していたからです。

しかし、今日ではその戦略はほぼ時代遅れだ。誰でも数秒でTwitterアカウントを作成でき、スマートフォンを手にした一般市民がほぼあらゆる出来事を録画できる今、一体誰の首を絞めるというのだろうか？ 2014年8月にミズーリ州ファーガソンで抗議活動が勃発した際、ムスタファ・フセインという名のライブストリーマーが、一時CNNに匹敵する視聴者数を獲得したと報じられている。ボスニア・ヘルツェゴビナのクロアチア人戦争犯罪者が法廷で毒物を飲めば、Twitter全体が数分でその情報を知ることになる。

誰もが生放送をしたり、ソーシャルネットワークに自分の考えを投稿したりできる今日のネットワーク環境では、検閲は不可能であるように思われます。これは言論の自由の黄金時代であるべきです。

確かに、今は言論の自由の黄金時代です。もし自分の嘘の目を信じることができればの話ですが。あなたが見ているあの映像は本物ですか？本当に、そこに書かれている場所で、いつ撮影されたのでしょうか？オルタナ右翼の荒らしやロシアのボット集団によって共有されているのでしょうか？もしかしたら、人工知能の助けを借りて生成されたものなのでしょうか？（確かに、ますます説得力のある偽動画を作成できるシステムは存在します。）

あるいは、あなたがその動画を投稿したとしましょう。もしそうだとしたら、一体誰が見ているのでしょうか？それとも、何億人ものコンテンツ制作者による投稿の海に埋もれてしまっていないでしょうか？Facebookのアルゴリズムにうまく適合しているでしょうか？YouTubeはそれをおすすめしているでしょうか？

もしかしたら、あなたは運が良くて、今日のアルゴリズム的な公共圏で大当たりを当てたのかもしれません。あなたを愛するか嫌うかのどちらかのオーディエンスです。あなたの投稿は「いいね！」やシェアを獲得していますか？それとも、別の種類の「エンゲージメント」を獲得していますか？何千ものメッセージ、メンション、通知、メールが届き、脅迫や嘲笑の標的になったことはありませんか？あなたのトラブルのせいで個人情報が漏洩しましたか？目に見えない怒り狂った群衆が100枚のピザをあなたの家に注文しましたか？夕食の最中に、銃を構えた黒服の男たちがSWATチームを呼んできたでしょうか？

両手を頭に当てて立っていると、自分の意見を言ったことで国家の強大な権力に逆らってしまったような気分になるかもしれない。しかし実際には、あなたは4chanを怒らせただけだ。あるいは、彼らを楽しませただけだ。いずれにせよ、おめでとう。あなたは聴衆を見つけたのだ。

この言論の黄金時代は、実際にはこうなっている。21世紀において、アイデアを広め、聴衆に届く能力は、もはや高価で集中化された放送インフラへのアクセスによって制限されることはない。むしろ、注目を集め、拡散させる能力によって制限されるのだ。そして今、世界の注目の流れは、Facebook、Google（YouTubeを所有）、そしてそれほどではないがTwitterといった、ごく少数のデジタルプラットフォームによって、圧倒的な規模で構造化されている。

自らを表現の自由の象徴と称することを好むこれらの企業は、かつてないほどの規模を世界に築き上げ、メディア配信を支配し、公共圏そのものの代弁者となることさえ増えている。しかし、彼らのビジネスの根幹は平凡だ。彼らは広告ブローカーなのだ。金銭さえ払えば、事実上誰にでも、私たちの視線を正確にターゲティングする能力を売っている。彼らはオンラインとオフラインの両方で私たちの行動を徹底的に監視し、私たちが最も影響を受けやすい広告や、どんなコンテンツをクリック、タップ、そして無限のフィードをスクロールし続けるのかを、ますます正確かつ自動的に予測している。

では、このアルゴリズム的な公共圏は私たちに何を提供してくれるのでしょうか？テクノロジー用語で言えば、FacebookとYouTubeは「エンゲージメントに最適化されている」と言われます。擁護者たちは、ただ私たちが求めているものを提供しているだけだと言うでしょう。しかし、FacebookとYouTubeが私たちの注意を惹きつける具体的な方法には、自然さや必然性などありません。そのパターンは今や周知の事実です。BuzzFeedが2016年11月に報じたように、「Facebook上でのフェイクニュースは、主要ニュースメディア19社の選挙ニュースを合わせたよりも多くのエンゲージメントを生み出した」のです。

人間は社会的な生物であり、知識を獲得し、共同で活動する集団に留まる能力以外に、自然界に対する防御手段はほとんど備えていません。私たちは特に、目新しいもの、肯定や帰属意識を示すメッセージ、そして敵とみなした人々への怒りのメッセージに影響を受けやすいのです。こうしたメッセージは、人間の食欲における塩、砂糖、脂肪のような存在であり、Facebookは私たちをこれらのメッセージで満たします。これは、同社の初代社長であるショーン・パーカー氏が最近「社会的承認のフィードバックループ」と呼んだものです。

さらに、このカフェテリアには栄養成分表示もありません。Facebook、YouTube、Twitterでは、速報ニュースであれ、甘ったるい動物動画であれ、反ユダヤ主義のミームであれ、巧妙なカミソリの広告であれ、あらゆる発言は単なる「コンテンツ」であり、投稿はカルーセル上のパイの切れ端に過ぎません。個人の投稿は広告とほとんど同じように見え、広告はニューヨーク・タイムズの記事と非常によく似ており、ニューヨーク・タイムズの記事は午後に作られた偽の新聞のような視覚的な印象しか持ちません。

さらに、こうしたオンライン上の言論はもはや、従来の意味での公共性を失いつつある。確かに、FacebookやTwitterは、大勢の人が同時に何かを体験する場所のように感じられることもある。しかし実際には、投稿はターゲットを絞られ、画面ごとに個別に配信されている。今日の幻影的な公共圏は断片化され、数十億もの個々の毛細血管へと埋没してしまった。確かに、大衆による言論は誰もがはるかに容易に参加できるようになった。しかし同時に、それはあなたの背後で、そして誰の背後でも繰り広げられる、プライベートな会話の集合体にもなっているのだ。

あまり細かいことを言うつもりはありませんが、これらすべては、概念的にも、法的にも、倫理的にも、私たちが言論の自由について考えていることの多くを無効にします。

今日最も効果的な検閲は、言論そのものを封じるのではなく、信頼と注目に介入することだ。その結果、従来の検閲とは全く異なる様相を呈している。それは、拡散する怒りの力学を巧みに利用し、発言という行為に耐え難く不釣り合いな代償を強いる、バイラル型あるいは組織的な嫌がらせキャンペーンのようだ。それは、正当な情報源の信頼性を損なわせることを目的とした、偽情報の蔓延のようだ。それは、ボットを駆使した荒らしや妨害行為、あるいはハッキングされた情報の断片的なリークのようで、従来型メディアの注目を奪うことを目的としたものでもある。

これらの戦術は通常、法律に違反したり、憲法修正第一条に抵触したりすることはありません。しかし、いずれも従来の検閲と同じ目的を果たします。つまり、思想の拡散と定着を阻止するための最良の手段なのです。また、大規模プラットフォームを他者との交流の場として最悪のものにしてしまう可能性もあるのです。

大手プラットフォームが「コミュニティ規約」違反を理由にユーザーをネットワークから追放したり、アカウントを停止したりしたとしても――多くの人にとっては古風な検閲のように思える行為だが――それは厳密には言論の自由の侵害ではない。たとえそれがプラットフォームの巨大な力の誇示であったとしても。世界中の誰もが、極右の荒らしであるティム・「ベイクド・アラスカ」・ギオネットがインターネット上で何を言おうと、それを読むことができる。Twitterが彼を排除することで、彼が失ったのは注目だ。

言論の自由に関する古くからある崇高な理念の多くは、ソーシャルメディアの時代には到底通用しません。ジョン・スチュアート・ミルが唱えた「思想の市場」が真実を高めるという考えは、フェイクニュースの拡散性によって完全に否定されています。また、「悪い言論に対する最良の治療法は、より多くの言論である」というアメリカの有名な格言（最高裁判事ルイス・ブランダイスの言葉）は、言論が大衆的でありながら非公開である以上、全く意味を失っています。目に見えないものにどう対応すればいいのでしょうか？元のメッセージを受け取った同じ聴衆をターゲットにする手段がないのに、より多くの言論で「悪い」言論の影響をどうやって治せるのでしょうか？

これは懐古主義を煽るものではない。かつては、周縁化された人々の声が大衆に届くことはほとんどなかった。マンハッタンとワシントンD.C.で数ブロック圏内に住み、働き、夕方のニュースを放送する門番たちの耳目を集めることは、往々にして不可能だった。反体制派にできることといえば、門番たちが無視できないような、自己犠牲的な見せ物を作り出すことくらいだった。アメリカの公民権運動指導者たちが、アラバマ州バーミングハムの路上で小学生をデモ行進させ、南部警察の残虐行為の最も露骨な形態をカメラの前で引き出したように。

しかし当時は、あらゆる政治関係者が、少なくとも他の人々が見ているものを多かれ少なかれ見ることができた。今日では、最も強力なエリートでさえ、バイラルメッセージに対抗するために適切な層の大衆を効果的に召集することができないことが多い。ジョシュア・グリーンとサーシャ・イッセンバーグがブルームバーグで報告したように、2016年の大統領選挙では、トランプ陣営はいわゆるダークポスト（特定の聴衆をターゲットにした非公開の投稿）を使用して、激戦州でアフリカ系アメリカ人の投票を阻止した。クリントン陣営は、直接対抗することはおろか、これらのメッセージを監視することさえほとんどできなかった。たとえヒラリー・クリントン自身が夕方のニュースに出演したとしても、影響を受けた聴衆にリーチする方法ではなかっただろう。なぜなら、聴衆が誰であるかを知っていたのはトランプ陣営とFacebookだけだったからだ。

重要なのは、トランプ陣営がこれらのダークポストを利用したのは、無害なツールを逸脱した武器として利用したからではないということです。彼らは単に、Facebookを本来の用途通りに利用しただけです。陣営はコストを抑えて、Facebookのスタッフがオフィスで直接支援しました。これは、多くの大手広告主や政治キャンペーンに対してFacebookが行っていることです。人々が広告を見る限り、その発言がどこから来たのか、何をするのかなど、誰が気にするでしょうか？それ以外のことはFacebookの管轄ではありません。

マーク・ザッカーバーグは、 Facebookの「世界をつなぐ」そして「世界をより近づける」という使命を、同社の公民としての徳の証として掲げている。「2016年、人々はFacebook上で何十億もの交流と自由な議論を交わしました」と、彼はオンライン動画の中で、米国大統領選挙を振り返りながら誇らしげに語った。「候補者たちは何千万人もの市民と直接コミュニケーションをとるためのチャンネルを持っていました。」

発言が増えること、参加が増えること、つながりが増えることが、最高で最も純粋な善であるという考え方は、テクノロジー業界ではよく言われることです。しかし、歴史家ならこの考えが明らかに誤りだと気づくでしょう。つながりは簡単なことではありません。Facebookは、民主主義を愛するエジプトの反体制派とビデオゲーム「シヴィライゼーション」のファンを結びつけるだけではありません。白人至上主義者たちを結びつけ、彼らははるかに効果的に集会を行えるようになりました。また、ミャンマーの過激な仏教僧侶たちの活動を結びつけることにも貢献しています。彼らは今や、民族浄化を煽動するより強力な手段を手にしており、世界で最も急速に拡大している難民危機を助長しています。

言論の自由は重要な民主主義的価値ですが、唯一の価値ではありません。リベラルな伝統において、言論の自由は通常、手段、つまり他の社会的な理想を実現するための必要条件として理解されています。例えば、知識豊富な国民を育成し、健全で理性的かつ情報に基づいた議論を促し、権力者や機関に責任を負わせ、地域社会を活気に満ちた状態に保つことです。しかし、今私たちが目にしているのは、言論の自由が手段ではなく目的として扱われると、本来もたらされるべきあらゆるものが阻害され、歪められてしまう可能性が非常に高いということです。

知識豊富な大衆を育成するには、少なくとも真実と虚偽を区別する有効なシグナルが必要です。大衆社会において健全で合理的​​、かつ情報に基づいた議論を促進するには、反対意見、できればその最良のバージョンを重視するメカニズムが必要です。誤解のないよう明確に述べれば、これらの理想的な条件を完全に達成した公共圏はこれまで存在しません。しかし、少なくともそれらは失敗するための理想でした。対照的に、今日のエンゲージメント・アルゴリズムは、健全な公共圏に関する理想を一切掲げていません。

一部の科学者は、今後数年のうちに肥満に苦しむ子供の数が飢餓に苦しむ子供の数を上回ると予測しています。なぜでしょうか？ 飢餓と飢饉に特徴づけられていた時代、濃縮されたカロリーと塩分を渇望するのは当然のことでした。今、私たちは食料過剰の環境に生きており、健康に対するこの新たな脅威に対する遺伝的、文化的、心理的な防御手段はほとんど存在しません。同様に、かつてないほど多くの言論に溺れているにもかかわらず、民主主義的言論の理想に対するこれらの新しく強力な脅威に対する防御手段はほとんど存在しません。

ここでのリスクは決して小さくない。過去において、人類が情報革命の斬新さと激動に対する政治的、文化的、そして制度的な抵抗力を獲得するには、何世代もかかってきた。もし『國民の創生』と『意志の勝利』が今公開されたら、大失敗に終わるだろう。しかし、どちらも映画がまだ黎明期にあった時代にデビューし、その革新的なメディア活用は、クー・クラックス・クラン（KKK）の大規模な復活とナチズムの台頭を促したのだ。

ここまでで、巨大テックプラットフォームの根底にある中核的なビジネスモデル、すなわち、大規模な監視インフラを用いて人々の注目を集め、ターゲットを絞った、主に自動化された広告を大規模に展開するというビジネスモデルが、権威主義、プロパガンダ、誤情報、そして分極化とあまりにも相性が悪いことを私たちは十分に理解している。人類がこれまで検閲やプロパガンダから身を守るために開発してきた制度的防御手段、すなわち法律、ジャーナリズム倫理規定、独立した監視機関、大衆教育などは、いずれも少数のゲートキーパーを絞め殺し、少数の個人を脅迫することが言論を封じる効果的な手段であった世界のために進化してきた。もはやそれらは十分ではない。

しかし、現状に甘んじる必要はありません。Facebookは設立からまだ13年、Twitterは11年、Googleでさえまだ19年です。自動車産業が進化を遂げたこの時期には、シートベルトもエアバッグも排ガス規制も、クラッシャブルゾーンの設置義務もありませんでした。インターネットにおける監視と監視の仕組みの根底にあるルールとインセンティブ構造は変革が必要です。Facebook、Google、Twitterに公平を期すならば、改善できる点はたくさんあるものの、これらすべての問題を解決するよう求める世論の抗議は根本的に間違っています。デジタル言説の問題に対する解決策は、大きなトレードオフを伴わないものはほとんどありません。そして、それらはマーク・ザッカーバーグだけが決められる選択ではありません。これらは深く政治的な決断です。20世紀には、米国で塗料やガソリンに含まれる鉛を禁止する法律、家主が借主にどの程度のプライバシーを与えるべきかを定義する法律、そして電話会社が顧客をどの程度監視できるかを定める法律が制定されました。デジタル監視、注意誘導、嫌がらせ、データ収集、そしてアルゴリズムによる意思決定にどう対処するかは、私たちが決めることができます。議論を始める必要があるだけです。今すぐに。

• 「素晴らしいウェブサイト。もし何かあったら残念だ。」：スティーブン・ジョンソンが、過激派の拠点を焼き払ったCloudflareの決断の内幕を明かす。
• あなたが言うことはすべて、あなたに不利に働く可能性があり、実際に使われるでしょう。ダグ・ボック・クラークが、極右過激派に対するアンティファの秘密兵器を紹介します。
• どうか、あなたの言葉を黙らせてください。アリス・グレゴリーは、スマートフォンを無力化し、世界を変えないことを目指すスタートアップ企業を訪問します。
• インターネット上の公正な議論にとって最大の希望は...Reddit にあります: Virginia Heffernan が Change My View に投稿。
• 検閲に関する 6 つの物語: Facebook からアカウントを停止されたり、トランプ大統領からブロックされたり、その他さまざまなことが、対象者自身の言葉で語られます。

Zeynep Tufekci ( @zeynep ) は、ノースカロライナ大学の准教授であり、ニューヨーク・タイムズの論説委員です。

この記事は2月号に掲載されています。 今すぐ購読をお願いします。