ソーシャルメディアでは、アメリカ式の言論の自由は死んでいる

アメリカのソーシャルメディアプラットフォームは長らく、自由な表現の場としての地位を確立しようと努めてきました。10年前、Twitterの従業員は同社を「言論の自由を掲げる党の言論の自由部門」と位置付けていました。2019年末、マーク・ザッカーバーグはFacebookが憲法修正第1条の原則を遵守していることを擁護する演説を行いました。これには、プラットフォームは「真実の裁定者」であってはならないという、彼がしばしば表明してきた信念も含まれています。

パンデミックは、その考えを嘲笑の的とした。世界的な公衆衛生上の緊急事態という状況下で、Facebook、Twitter、Googleなどの企業は、新型コロナウイルスに関する誤解を招く情報を含む投稿の削除を開始し、真偽の判断を迫られた。大統領選挙は、彼らをファクトチェックの作業にさらに深く関わらせた。2020年春までに、Twitterはドナルド・トランプのアカウントに警告ラベルを表示し、夏までにすべてのプラットフォームが選挙に関する誤情報への積極的な取り組みを宣伝した。

エブリン・ドゥーク氏はハーバード大学ロースクールの博士課程に在籍し、バークマン・クライン・インターネット＆ソサエティ・センターのアソシエイト（研究員）です。オーストラリア出身の学者として、彼女は言論の自由に関する問題に国際的な視点をもたらしています。コロンビア・ロー・レビュー誌に掲載された新しい論文の中で、ドゥーク氏は、パンデミックによってソーシャルメディア・プラットフォームが主張するアメリカ式の言論の自由の絶対主義の空虚さが露呈したと主張しています。ドゥーク氏は、「初期のインターネットを支配していた、憲法修正第1条に影響を受けながらオンライン言論統制を行うアプローチはもはや通用しない」ことを認識すべき時が来たと述べています。プラットフォームは今、社会の利益のバランスを取ることに完全に専念しているのです。

先週のインタビューで、ドゥーク氏は、オンライン上の言論に対するより「均衡のとれた」アプローチへの移行がなぜ良いことなのか、プラットフォームがモデレーションシステムの透明性を高める必要がある理由、そして「タマネギ」と「胸」を混同することの危険性について説明しました。インタビューは、分かりやすさを考慮して要約および編集されています。

WIRED：この記事では、コンテンツ・モデレーションについて2つの考え方を区別されていますね。1つ目は、よりアメリカ的な、憲法修正第一条に着想を得たアプローチなので、まずはそこから始めましょう。その主な特徴は何でしょうか？

エヴリン・ドゥーク：これはコンテンツ・モデレーションの伝承の一部です。シリコンバレーのアメリカ人弁護士たちが、憲法修正第一条の例外主義に触発されて始めたものです。彼らはコンテンツの真実性の裁定者になるべきではない、言論に対する最善の救済策はより多くの言論であるべきだ、そして彼らのプラットフォームは、ユーザーが素晴らしい公共の議論を通して真実にたどり着く、典型的なアイデアの市場のようなものであるべきだ、という考え方です。

彼らが持ち出したのは、まさにそういう考えでした。そして、特定の発言を精査し、その社会的コストや真実性を評価するようなことは、彼らが行うべきではないという考えです。しかし、これは常に一種の神話であり、一種の芝居がかったものでした。なぜなら、コンテンツモデレーションは当初から存在していたからです。彼らは常に、ポルノやスパムなど、サイトを荒廃させてしまうような特定のカテゴリーの発言を削除してきました。

記事の中で「カテゴリー」という非常に重要な言葉を使われましたね。ご指摘の点の一つは、この憲法修正第一条のようなアプローチでは、区別がよりカテゴリー的になるということですね。そのような考え方を体現するようなコンテンツ・モデレーションの判断例を挙げていただけますか？

ええ、これは本当に重要です。なぜなら、これはアメリカの言論の自由に関する法理を決定づける特徴の一つであり、世界の他の国々はこれを見て「うーん、あまり重要ではない」と感じてしまうからです。少し技術的な話になりますが、分かりやすくするために、例えば成人のヌードを例に挙げてみましょう。

ソーシャルメディアの始まり方は、かなり単純なものでした。「胸が写っているなら削除する」といった感じでした。しばらくの間、それが主流でした。すると人々は、「ちょっと待て、社会的価値のあるものをすべて削除しているじゃないか」と言うようになりました。例えば、乳がんへの意識を高める人々や、差別されるべきではない授乳中の人々のことなどです。あるいは、多くの文化圏では、成人のヌードや胸は全く普通の、受け入れられ、祝福される表現です。そのため、成人のヌードというカテゴリーは、まず第一に、絶対的なカテゴリーとして維持できなくなっていきました。そして、それはますます細かく細分化され、もはや確固たるカテゴリーとは見えなくなり、「よし、これらのより細かい事例を取り上げ、バランスをとろう。これの社会的コストは何か、メリットは何か、そしてそれをどのように調和させ、より適切な方法でアプローチすべきか」というようになっていきました。

つまり、あなたがおっしゃっているのは、コンテンツモデレーションに対するカテゴリー的なアプローチ、つまり、許可されない投稿のカテゴリーとそれ以外の投稿のカテゴリーを明確に区別しようとする試みのように思えます。しかし、時間の経過とともに、これらのカテゴリーはますます細分化されていかなければなりません。そして、ある時点、正確には言いにくいかもしれませんが、判断が非常に微妙なものになるため、真のカテゴリーとは思えなくなるのです。

はい、基本的にはその通りです。もう一つのカテゴリー、虚偽の発言について考えてみましょう。これは、コンテンツモデレーションの歴史において、ほぼ普遍的にプラットフォームによって完全に保護されてきたカテゴリーです。「虚偽であるという事実だけでは、私たちが介入する理由にはならず、それ以上調査するつもりはありません。『単に虚偽である』というだけでは、その発言の価値を調査する理由にはなりません。」という考え方です。

パンデミックはそれを大きく変えました。プラットフォーム各社が初めて公に出て、「新型コロナウイルス感染症に関する誤情報に関するこうした虚偽の発言の代償は、公衆衛生上の緊急事態という状況下ではあまりにも大きいため、この小さなカテゴリーについては削除する」と宣言したのです。そして、彼らはその甲斐あってかなりの成果を得ました。WIREDの同僚は「コロナウイルスはテックラッシュに終止符を打ったのか？」という記事を掲載しました。3月には数週間、プラットフォーム各社が再び「善良」な状態に戻りました。なぜなら、彼らはあらゆる対策を講じ、ある種の教訓を学んだからです。2020年後半、突如としてFacebookはホロコースト否定の投稿を禁止するなどの措置を取りました。これは、言論の自由を保障し、虚偽の発言は取り締まらないという憲法修正第1条の草創期には考えられなかったことです。これは、アメリカ式のアプローチを象徴する最も顕著な例と言えるでしょう。そして今、彼らはこう言っている。「いや、その特定の種類の虚偽の発言のコストは高すぎる、そのコストは利益を上回らない、だから、そのコストと利益を天秤にかけた上で、私たちはそれを排除し始めるつもりだ。」

ホロコースト否定の例は、いくつかの理由から非常に興味深いものです。これらの企業がグローバル化するにつれて、ホロコースト否定をどう扱うべきかについて、より国際的な考え方を吸収してきました。なぜなら、アメリカの伝統は世界史における異例のものだと考えているからです。私たちと同じようにホロコースト否定を実践している企業は他にありません。

それで、あなたが書かれているコンテンツ・モデレーションの2つ目のアプローチについてお話します。プラットフォームがユーザーの発言を扱う際に、ますます見られるようになっている、より国際的な考え方とはどのようなものでしょうか？

憲法修正第一条の伝統は、単に実質的な例外的なだけでなく、他の法域よりも保護的であるという点でも例外的です。その分類的アプローチにおいて、方法論的にも例外的です。

ほぼすべての他の法域では、この比例性アプローチが採用されています。つまり、「確かに、言​​論は保護されるべきだという命題から出発します。しかし、成熟した表現の自由のシステムは、言論を制限しなければならない特定の状況があることを認めなければなりません」というものです。では、これをどのように考えればよいのでしょうか。まず、「その言論を制限する理由は何ですか？」という問いかけです。単に「気に入らない」という理由ではなく、何らかのやむを得ない理由がなければなりません。そして次に、「制限は最小限に抑えられていますか？」という問いかけです。例えば、完全に禁止する必要はないかもしれません。より適切な方法で制限できるかもしれません。さらに、制限の方法は、制限する目的を達成するのに実際に効果的でなければなりません。

2019年末、マーク・ザッカーバーグはジョージタウン大学で行ったスピーチの中で、Facebookを憲法修正第一条の原則に強く結び付けました。もちろん、Facebookは民間企業であり、憲法修正第一条の規定に厳密に従うわけではありません。しかし、ザッカーバーグは、Facebookは憲法修正第一条の価値観に従うことを選択していると明言しました。

ホロコースト否定論は、それが事実ではないことを示す好例です。アメリカ合衆国では、ホロコーストは起こらなかったと主張しても政府から罰せられることはありません。しかし、他の国、特にヨーロッパでは罰せられる可能性があります。そのため、Facebookがこの件に関する方針を変更したことは、これまで表明してきた憲法修正第一条へのコミットメントから大きく逸脱しているように見えます。興味深い疑問が浮かび上がります。これは、Facebookが利益と害を天秤にかけて異なる結論に達した例なのか、それとも、世論の圧力と批判に屈し、そもそも不人気なこの主張を擁護することにうんざりしただけなのか、ということです。

ホロコースト否定の決定はまさに象徴的な決定です。なぜなら、ある意味では、彼らは既にパンデミックなど他の理由で虚偽の発言を削除するというビジネスに携わっていたからです。しかし、彼らがホロコースト否定を本当に堅持したのは、それがアメリカの言論の自由の伝統の最も有名な象徴だからです。アメリカの言論の自由の歴史の中で最も誇らしい瞬間の一つは、ナチスがスコーキーでデモ行進を許可されたことです。これは、アメリカの言論の自由について最初に学ぶことの一つと言えるでしょう。ですから、Facebookにとって、世論が反対に転じたにもかかわらず、それを揺るぎなく守り続けたことは、本当に象徴的な決定だったのです。

そして、判決の覆しは、確かにその伝統を破ったことを示しています。これは、ある意味で原則的な判決と言えるのでしょうか。Facebook社の弁護士たちは、裁定方法に関する理論を大量に読み、類型的アプローチと比例性アプローチを検討し、あるアプローチが他のアプローチよりも優れているという深い法学的認識に達しているのでしょうか？いいえ、そうは思いません。ここで起こっているのはそういうことではないと思います。もちろん、世論の圧力が主な要因であることは間違いありません。

でも、ある程度は…それでいいんです！社会の変化はそういうふうに起こるものです。裁判所も世論の圧力に様々な形で反応します。世論に基づいているかどうかに関わらず、裁判所が今やバランス調整に取り組んでいるという事実を私が指摘したいのは、それを受け入れてより深く考えてみると、「裁判所は本当に私たちの利益とバランスを取っているのか、それとも裁判所自身の利益とバランスを取っているのか」と自問自答できるようになるからです。そして、裁判所はそうした主張をより説得力のあるものにする必要があります。

あなたは論文の中で、比例制への移行は良いことだと主張しています。比例制のアプローチはどのような点で優れているのでしょうか？

比例的アプローチの非常に優れた点の一つは、依然として最も制限の少ない方法で制限する必要があるということです。一方、カテゴリー的アプローチの欠点の一つは、中途半端な措置は単なる弱気な逃げ道のように見えてしまうことです。まるで、「これはもはや保護されるべき言論のカテゴリーではないと言うなら、なぜそれを廃止しないのか？」というようなものです。

社会的なコストを細かく見ていないふりをすれば、中途半端な対策や、発言の種類によって異なる対応を正当化することは非常に難しくなります。しかし、現在行われているコンテンツ・モデレーションのほとんどは、削除するか残すかという二者択一の強引なやり方から脱却しつつあります。個人的には、ラベル表示、摩擦の導入、ファクトチェック、警告画面、反対意見の促進といった、より刺激的な中間的な対策が見られるようになっています。こうした方法の方が将来性があると思いますし、ある意味では、比例性アプローチの方が言論の自由を守る上で効果的かもしれません。なぜなら、プラットフォームは、被害に対してより制限が少なく、より均衡のとれた対応を模索する必要があるからです。

言論の自由に関する法理と規則にとって、これは最も刺激的な時期の一つとなるはずです。言論の自由に関する法律は、基本的にこれまで検証の及ばなかった経験的仮説に基づいてきました。例えば、この規則の「萎縮効果」とは何でしょうか？ある種の言論を禁止すれば、他のあらゆる言論も萎縮してしまうだろうと想定し、それはコストが大きすぎるのでできない、と考えがちです。しかし、誰もそれを実際に理解したことはありません。一部の裁判官が「そうだな、おそらくそうなるだろう」と言っているだけです。そして、私たちは「萎縮効果」の原則を唱えるのです。

人類史上初めて、私たちはこうした多くのことを驚くほどの精度で測定できるようになりました。こうしたデータはすべて存在し、企業は常に「自分たちのルールはどんな効果をもたらすのか」を評価しています。ルールを作るたびに、その施行効果と可能性を検証しているのです。問題は、もちろん、これらがすべてロックされていることです。シリコンバレーの人々以外、誰もアクセスできません。ですから、非常にワクワクする一方で、非常にフラストレーションも感じます。

これは、あなたの論文の中で私が最も興味を持った点、つまり確率的思考の概念と結びついています。コンテンツモデレーションに関する報道や議論の多くは、人間がよくあるように、逸話的な話に焦点を当てています。例えば、「このコンテンツはFacebookでは許可されていないと表示されたのに、2万回も閲覧された」といった話です。あなたが論文で指摘している点は、すべてを禁止しない限り、大規模な完璧なコンテンツモデレーションは不可能だということです。しかし、それは誰も望んでいません。エラー率が存在することを受け入れなければなりません。そして、すべての選択は、エラー率をどちらの方向に導きたいかということです。つまり、偽陽性を増やしたいのか、偽陰性を増やしたいのか、ということです。

問題は、Facebook が「ああ、見た目が悪いのは分かっていますが、実際には悪いものの 90 パーセントを削除しました」と言ったとしても、誰も納得しないということです。その理由の 1 つは、私たちがこれらの企業の言葉をそのまま信じてしまうことにあると思います。

全くその通りです。全く分かりません。ブログ記事に書かれたような発言に翻弄されるしかないんです。

しかし、そこには一片の真実があります。例えば、マーク・ザッカーバーグは議会での証言やインタビューでいつもこう言っています。「警察がすべての犯罪を解決するわけではないし、犯罪のない街はあり得ないし、完璧な執行は期待できない」と。そして、そこには一片の真実があります。コンテンツ・モデレーションによって人間の表現の混沌全体に秩序をもたらすことができるという考えは空想に過ぎません。そして、私たちが報道で絶えず目にする「これは一つの誤り、あるいはたくさんの誤り、つまりこのルールが完全に施行されていない例です」という話は、非常に苛立たしく、非現実的で、非生産的です。

ルールを完璧に施行する唯一の方法は、そういうものに少しでも似ているものをすべて禁止することだ。そうすると、タマネギが「おっぱいに似ている」とか何とかいう理由で削除されてしまう。タマネギの言論の自由をそれほど心配していない人もいるかもしれないが、もっとひどい例は他にもある。

いいえ、料理動画をよく見る人間としては

それは高い代償を支払うことになるでしょう？

私はネット上で胸の画像よりも玉ねぎの画像を見ることが多いので、それは私にとって大きな衝撃となるでしょう。

そうです、まさに、タマネギのための言論の自由を主張する議員連盟は強力です。

私も参加します。

私たちは何らかの形で間違いを受け入れなければなりません。ですから、私の論文で用いている例はパンデミックという文脈です。これは非常に役立つ例だと思います。なぜなら、非常に明確に示しているからです。パンデミックが始まった当初、プラットフォーム企業は他の企業と同様に従業員を自宅待機させざるを得ませんでした。つまり、機械への依存度を高める必要があったのです。チェックを行う人間は以前ほど多くありませんでした。そして初めて、彼らはその影響について本当に率直に認めました。「さあ、私たちはもっと間違いを犯すことになるだろう」と。普段は「私たちの機械は素晴らしい、魔法のようで、こんなことを全部きれいにしてくれる」と公言するのですが、その後初めて「ところで、パンデミックの状況下では、私たちはもっと間違いを犯すことになるだろう」と言い出したのです。しかし、パンデミックによって、彼らはそう言う余地が生まれました。なぜなら、誰もが「いいから、間違いを犯してもいい！こういうものは排除しなければならない」という気持ちになったからです。そして彼らは、誤情報を取り除く際に誤検知を増やす方向に誤りを犯した。機械を全く使わない場合の社会的コストがあまりにも高く、人間に頼ることができなかったからだ。

そのような状況下で、私たちはエラー率を受け入れました。マスクが悪質だと言われ、マスク広告が禁止されていた頃、機械が誤ってそれを強制し、ボランティアのマスク製造者を多数排除してしまったという記事を新聞で読んだことがあります。機械が「マスクは悪質だ。外せ」と判断した結果です。確かに理想的ではありませんが、同時に、そこでどのような選択をさせたいのでしょうか？ 大規模なシステムでは、文字通り何十億もの意思決定が常に行われ、それなりのコストがかかります。私たちはマスク広告にパニックに陥っていました。ですから、それはより合理的なトレードオフだと考えています。

しかし、私たちが今行っている議論は、そういうものではありません。個々のエラーが問題視されている例があります。そして、エラーが多すぎるのかもしれません。エラーを受け入れなければならないと認識するということは、すべてのエラーを受け入れなければならないという意味ではありません。多くのカテゴリーにおいてエラー率が十分ではないことを示す証拠は数多くあります。しかし、私たちがすべき議論はまさにこれであり、私たちが生きなければならない、居心地の悪い領域なのです。

そうです。だからこそ、透明性が重要になるのです。企業はこうした情報を有用かつ包括的な形で共有していないため、社外の人々は、自分自身で情報を探し出し、個人的な逸話に頼らざるを得ない状況に陥っているのです。

プラットフォームはオープンになり、この点についてより率直になる必要があります。そして、私たちはまさにその方向に進んでいると言えるでしょう。

Facebookは昨年、初めてヘイトスピーチの蔓延状況を報告し始めました。これは「どれだけのヘイトスピーチを見逃したのか？平均的なユーザーは、コンテンツモデレーションを行った後でも、Facebook上でどれだけのヘイトスピーチを目にしたのか？」というものです。これは基本的にエラー率です。YouTubeもほんの数週間前に初めて同様の報告を始めました。これは「大量のヘイトスピーチを削除しました」といった報告よりもはるかに意味のある透明性指標です。「素晴らしい、よくやった。これはヘイトスピーチの2%なのか、それとも98%なのか？誰にも分かりません。 」といった感じです。

つまり、普及率という指標は有用であり、適切な対応を促すことにもなります。特に興味深いのは、Facebookが今年初めに発表した透明性レポートで「ヘイトスピーチの普及率を低下させた」と述べられていることです。彼らはどのようにそれを実現したのでしょうか？過剰な取り締まりや削除ではなく、ニュースフィードのランキング調整によって実現しました。これは、この種の問題を解決するための、より適切で効果的な対応です。つまり、私たちは正しい方向に進んでいますが、データへのアクセスをもっと増やす必要があります。

そもそもコンテンツモデレーションについてなぜ議論する必要があるのでしょうか？コンテンツモデレーションに対するより賢明なアプローチは、私たちが関心を持つべきほど何を達成できるのでしょうか？

ですから、私たちはコンテンツ・モデレーションに重点を置きすぎている、あるいはコンテンツ・モデレーションよりもはるかに大きな問題の解決に過度のプレッシャーをかけすぎていると思います。それは、コンテンツ・モデレーションが最も分かりやすい手段だからという側面もあります。プラットフォーム上のコンテンツは、他の社会問題の最も目に見える表現であり、コンテンツ・モデレーションはまさにそこに存在し、その目に見える表現を排除してしまう可能性があります。これは、コンテンツ・モデレーションが社会問題を解決できるとは思わない、そしてその手段には限界があるという、私のメタ的な主張に戻ります。

それでも、毎日起きて仕事に取り組み、長文の記事を書く理由はまだあります。たとえそれが私たちが考えているよりもはるかに小さな問題の一部だとしても、私はそれが本当に重要だと考えているからです。コンテンツ・モデレーションが共和党の崩壊やパンデミック、社会的孤立を解決できないと言うことは、それが現実的で意味のある重要な影響を与えられないという意味ではありません。コンテンツ・モデレーションの影響が実際に目に見える形で現れる事例もあります。例えば、紛争地域における不十分なモデレーションや、戦争犯罪の証拠の隠蔽などです。これは非常に重要な問題です。また、社会の価値観を表現するものであり、社会として規範について何を考え、何が許容されるのかを議論する場でもあります。そして、これらは私たちの公共圏のあるべき姿についての重要な議論であり、私はそれが本当に刺激的だと思っています。この分野にいるのは本当に刺激的な場所であり、より良い世界へと導くことができるからです。

マーク・ザッカーバーグとジャック・ドーシーが生涯、彼らの思い通りに振る舞うようなことがないように、私は心から願っています。この分野では、私たちが想像する以上に大きな混乱と変化が起こるでしょう。これらの企業はまだ非常に若く、このアイデア自体もまだ初期段階です。

しかし、「インターネット上のコンテンツとそれを規定するルールについて考える方法が必要だ」という根本的な問題は、決して消えることはないと思います。だからこそ、私たちはその規範を整備し始める必要があります。私たちは社会的な利益のバランスを取ろうとしており、エラー率は避けられないことを認識しなければなりません。この点について共通の認識を持つことができれば、初めて私たちが何をしているのかについて、適切な議論を始めることができるのです。

WIREDのその他の素晴らしい記事

• 📩 テクノロジー、科学などの最新情報: ニュースレターを購読しましょう!
• マクドナルドのアイスクリームマシンのハッキングをめぐる冷戦
• タコの夢が睡眠の進化について教えてくれること
• 怠け者のゲーマーのためのケーブル管理ガイド
• パスワードなしでデバイスにログインする方法
• 助けて！同僚と情報をシェアしすぎていませんか？
• 👁️ 新しいデータベースで、これまでにないAIを探索しましょう
• 🎮 WIRED Games: 最新のヒントやレビューなどを入手
• 🏃🏽‍♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください