終わりのない偽情報の緊急事態に警戒せよ

2022年3月11日午前8時

YouTubeは依然として、トランプ大統領の不正選挙の主張に対して強硬な姿勢をとっている。しかし、2年経った今、その主張は通用しなくなっている。

「このインタビューを全部公開したら、インスタグラムやフェイスブック、ツイッターなどがこれを削除したらどうなるか見てみよう」とドナルド・トランプ氏は水曜日の午後、ポッドキャストのライブ配信で語った。

トランプ氏は間違ったプラットフォームを挙げた。YouTubeで配信されていたのは、ややローガン風のブロフェスト番組「Full Send」だった。しかし、それ以外は彼の予測は的を射ていた。インタビューの中で、彼はジョー・バイデンではなく自分こそが2020年選挙の正当な勝者であるという主張を繰り返したからだ。「選挙不正は甚大だった」と、このテーマに関するいくつかの発言の中で彼は述べた。「私はこれを『世紀の犯罪』と呼んでいる。この件について本を書いているところだ」

YouTubeは、2020年の選挙が盗まれたという主張に対して厳格なポリシーを設けています。しかし、この動画は24時間以上も公開され、500万回以上再生されました。YouTubeは、WIREDが問い合わせてから数時間後の木曜日の夕方にこの動画を削除しました。これは、プラットフォームが厳格な誤情報ポリシーの適用に苦労する様子を示す新たな例であり、そもそもこのようなコンテンツの禁止が本当に理にかなっているのかという疑問を提起しています。

ヒルに何が起こったか考えてみましょう。

先週、YouTubeはワシントンD.C.の政治系メディア「ザ・ヒル」のYouTubeチャンネルで、トランプ氏が選挙不正を主張する動画を配信したため、7日間の配信停止処分を科した。1つは保守政治行動会議（CPAC）でのトランプ氏の最近の演説の動画で、もう1つはトランプ氏がFox Newsに出演したインタビューの一部で、ザ・ヒルの解説番組「ライジング」で放送された。

後者の動画は、そもそも選挙そのものを主題としていたわけではありません。トランプ氏はロシアのウクライナ侵攻について、政治家らしくない分析を披露し、番組の司会者たちはそれを嘲笑しました。しかし、動画の最後でトランプ氏は「そして、これはすべて不正選挙のせいで起こったのだ」と語っています。

これはYouTubeの選挙の公正性に関するポリシーに抵触するのに十分なもので、過去の大統領選挙において「広範囲にわたる不正、誤り、または不具合が選挙結果を変えたという虚偽の主張」を禁じている。このポリシーでは、そうした主張を明確に反証または非難した場合にのみ、そうした主張を掲載できる。しかし、ヒル紙が誤った判断を下したのはこの点だ。「審査の結果、このチャンネルから削除されたコンテンツには、2020年の米国大統領選挙が不正操作されたと主張する映像（これは当社の選挙の公正性に関するポリシーに違反する）が十分な文脈なしに含まれていたと判断しました」と、YouTube広報担当のアイビー・チョイ氏はメールで述べた。1回の「ストライク」で警告、2回で1週間のアカウント停止、3回でプラットフォームから追放される。

オンライン上の誤情報に注目が集まる中、大手プラットフォームが2020年まで、単に虚偽であるという理由だけで虚偽コンテンツを削除することを拒否していたという事実は忘れられがちだ。事実に関する論争に介入することへの抵抗感を克服できたのは、新型コロナウイルス感染症（COVID-19）と、そして選挙だった。しかし、パンデミックから2年、そして1月6日から1年以上が経過した今、問うべきことがある。緊急事態において採択される政策の最終目標は一体何なのか？

マーク・ザッカーバーグの有名な言葉にあるように、プラットフォームが「真実の裁定者」になりたくないのには、十分な理由があることを忘れてはなりません。トランプ氏も理解しているようですが、それは、権力者が議論を恐れる考えがあるという人々の意識を助長するのです。「選挙不正について話しても、彼らは報道しないだろう」とトランプ氏はポッドキャストで「腐敗した」メディアに言及し、司会者たちに検閲的なソーシャルメディアの覇権者たちに立ち向かうよう挑発しました。「彼らに脅されたらどうなるか見てみよう」と彼は言いました。「これは試練だ」。そしてもちろん、プラットフォームは完全に合法的なコンテンツを制限し、悪質なコンテンツを見逃すのは避けられません。なぜなら、完璧な執行など不可能だからです。ポッドキャストのインタビューに加えて、トランプ氏のCPACでのスピーチ全文（そのクリップがヒルの活動停止につながった）は、CPACのYouTubeチャンネルで、公開から11日後も視聴可能でした。YouTubeはこの動画も、WIREDが問い合わせた後に削除されました。

ヒル氏の場合、YouTubeの選挙の公正性に関するポリシーは、特に疑わしい前提に基づいているように思われます。私がポッドキャストからトランプ氏の発言を引用した際、彼の主張が虚偽であるとは付け加えなかったことに注目してください。つまり、あなたは既にそう思っていなかったとしても、彼の主張を信じてしまうリスクがあったのでしょうか？YouTubeのようなポリシーの暗黙の前提は、2022年には、実際にそうしていたであろう人が相当数存在するということです。

こうした一連の想定により、視聴者にリーチするために YouTube に依存しているジャーナリストは奇妙な立場に置かれる可能性があります。

「ウゴ・チャベスが2020年の選挙結果を覆したわけではないと視聴者に告げるのは、まるで自分がバカみたいだ」と、ライジングの共同司会者の一人、ライアン・グリムは語る。これは、故ベネズエラ大統領が死後にアメリカの投票機の不正操作に関与したという陰謀論を指している。グリムの本業は、左派系メディア「インターセプト」のワシントン支局長だ。ライジングでトランプ氏の映像が放映されたことが、支持表明に相当すると考える人がいることに、彼は困惑している。「まるでYouTubeの幹部のためにジャグリングをする、踊るピエロになったような気分だ」と彼は言う。

一方、Facebookの元誠実性研究者で、シンクタンクIntegrity Instituteの共同創設者でもあるジェフ・アレン氏は、YouTubeのポリシーに一定の論理性を見出している。YouTubeが教育目的でナチスのイデオロギーへの言及を許可するようルールを変更した際、白人至上主義者が教育を装って人種差別を持ち込み、システムを悪用しようとしたとアレン氏は指摘する。選挙不正の主張に対し、厳格な免責事項を義務付けることで、同様の悪質な行為を防ぐことができるかもしれない。「選挙に関する陰謀論を実際に提唱するために、YouTubeの選挙に関する誤情報対策ポリシーの限界を探っているYouTubeチャンネルは数多くあるだろう」とアレン氏はメールで述べた。

それでも、ニュースの司会者に選挙不正への言及を明確に非難するよう求めることで、YouTube は独自のコンテンツ決定を行っているだけでなく、実際のメディアの編集プロセスに介入しているのだ。

「YouTubeが編集会議に介入するなんて、実に奇妙な話だ」とグリム氏は言う。より良いアプローチは、正当なメディア組織に、物議を醸すコンテンツをどのように提示するかを自ら決定させるべきだと彼は主張する。これは、誰が正当なメディア組織なのかという難しい問題を提起するだろうが、プラットフォームは既に多くの状況でこうした区別を行っている。寝室にいる子供とニュースルームにいる記者を全く同じように扱うシステムは、全くもって不合理だ。「ニュースルームには介入させるべきではないと思う」とグリム氏は言う。「多くの独立系コンテンツ制作者が憤慨していることは承知しているが、そもそもプロのニュース運営を担う人々がいるのに、なぜYouTubeの幹部まで会議に招き入れる必要があるのか、理解に苦しむ」

そもそも、選挙が終わってからずっと経った後でも、YouTube が選挙不正の申し立てを取り締まる必要があるのはなぜでしょうか?

ソーシャルメディア企業は民間企業であり、合衆国憲法修正第一条の制約を受けません。しかし、コミュニケーションに対する彼らの影響力は非常に大きく、そのポリシーは法律そのものとほぼ同等に重要です。選挙法の専門家リック・ヘイゼン氏は、新著『チープ・スピーチ』の中で、プラットフォームは政治的発言を禁止すべきだと主張しています。「その発言が民主的な統治を支援するのではなく、むしろ損なう恐れがあることが明確に示された場合にのみ」です。こうした発言の明確な例の一つは、政敵に対する暴力を扇動することです。もう一つの例は、いつ、どこで、どのように投票するかについて虚偽の情報を拡散し、策略によって人々の憲法上の投票権を奪うことです。

YouTube、Twitter、Metaはいずれも、そうしたコンテンツを禁止するポリシーを定めています。しかし、YouTubeはさらに一歩踏み込み、過去の大統領選挙が不正に操作されたという主張を禁止しています。ただし、その理由は明確に述べられていません。

おそらく YouTube は、不正選挙の噂が選挙に対する国民の信頼を損なうというハセン氏の立場を取っているのだろう。

「選挙には、公正な選挙を実施するだけでなく、人々がその選挙が公正に行われたと信じることが重要です」と彼はWIREDに語った。「それを損なえば、私たちの民主主義全体が損なわれるリスクがあります。前回の選挙が盗まれたと信じれば、次の選挙を盗もうとする行動に出る可能性が高くなります。」

厄介なのは、その論理の限界を見極めるのが難しいことです。2020年には、トランプ大統領の郵政長官ルイス・デジョイが郵便配達の遅延を利用して民主党の票の集計を妨害するのではないかと、多くの人が懸念を抱きました。そして今日に至るまで、何百万人もの民主党員が、2000年の選挙はフロリダ州の得票数の誤りに基づいてジョージ・W・ブッシュに不当に勝利が与えられたと信じています。彼らがそのような主張をすることは許されるべきではないのでしょうか？（厳密に言えば、YouTubeの選挙の完全性に関するポリシーもこの主張を禁じています。）国民の信頼を高めることが目的であれば、選挙結果への疑問を遮断することは逆効果になりそうです。

トランプ氏の大嘘を禁止するもう一つの理由は、それが暴力と結びついている可能性だ。確かに、この論理は選挙前後の時期と1月6日には当てはまった。1月の議事堂襲撃は、トランプ氏が支持者を煽り立てて「盗みを止めろ」と議会による選挙結果の承認を阻止したことが直接の原因だった。こうした状況下では、トランプ氏の選挙不正の主張を許容するにはあまりにも危険すぎると見なすのは理にかなっている。

しかし、1年以上が経過し、ソーシャルメディアプラットフォームのポリシーにもかかわらず、選挙不正の主張が共和党政治に浸透し続ける中、状況は変化した。これはTwitterの見解のようだ。1月、CNNのダニエル・デールは、Twitterが2021年3月に選挙不正の主張を禁じるポリシーの適用をひっそりと停止したと報じた。「公民権に関するポリシーを適用するにあたり、直接的かつ即時の、現実世界に危害をもたらす可能性のあるコンテンツを優先しています」と、Twitterの広報担当者エリザベス・バスビーはWIREDへのメールで述べた。「2020年の米国大統領選挙が承認・実施され、バイデン大統領が就任したことで、こうした危害やリスクは1年以上前とは様相が異なっています」

9ヶ月もの間、誰もこの方針転換に気づいていなかったにもかかわらず、デール氏の記事は大きな非難を浴びた。最近の論説記事で、ヘイゼン氏はこれを「間違った方向への一歩」と評した。著名な報道評論家のジェイ・ローゼン氏は、トランプ氏の「嘘は依然として政治的な影響力を持っている」ため、Twitter社の決定は「全く意味をなさない」とツイートした。

この反発は、コンテンツモデレーションのルールについてあることを明らかにしている。つまり、既存の制限を取り除くよりも、新たな制限を設ける方が簡単だということ。

「これまでは大抵、一方的なラチェットでした」と、ハーバード大学ロースクールでコンテンツモデレーションを研究する博士課程のエブリン・ドゥーク氏は言う。「逆方向に引き締まることは滅多になく、常に引き締まり続けています。今のところ、リスク期間の終わりに規制が緩和されたという例はありません。」

パンデミックの初期、ドゥーク氏はアトランティック誌に寄稿したエッセイで、まさにこの問題について警告を発していた。主要プラットフォームがパンデミック関連の偽情報を取り締まるために前例のない措置を講じていることを指摘し、ドゥーク氏はこの状況を「緊急憲法」に例えた。これは、政府が特別な権限を主張し、市民の自由を一時的に制限する状況を指す。これは極めて理にかなっていると彼女は主張した。指数関数的に拡大するパンデミックの初期のような状況では、正確な情報へのアクセスが生死を分ける可能性がある。問題は、こうした例外的な措置がどれだけ長く続くかだと彼女は書いている。

ドゥーク氏は現在、プラットフォームは「悪い」言論に対する許容度を、その時々の状況に合わせて調整する必要があると主張している。未知のパンデミックの最中や、権力移譲に対する暴力的な攻撃の最中には、露骨なコンテンツの禁止は理にかなっているかもしれない。しかし、こうした危険が収束した暁には、言論に対する同様の制限は、コミュニケーションに課す負担を正当化するものではないかもしれない。こうした判断は難しい。しかし、第一歩として、プラットフォームは少なくともそうした制限を設けることを約束するだろう。

「もし本当に言論の自由の仕組みを考えるなら、文脈は当然考慮すべきです」と彼女は言う。「1月6日頃と比べると、今の社会状況は全く違います。当時は、この種の情報が行動に影響を与えるという明白かつ差し迫った危険が実際に存在していたのですから。」

選挙だけがこの問題の焦点となる分野ではありません。プラットフォームは、パンデミック関連の偽情報に対して様々な規制を課し続けています。これは、公衆衛生危機において人々の安全を守りたいという善意から生まれたものです。しかし、パンデミックが何年も続くにつれ、ソーシャルメディアが緊急措置を維持することを正当化することが難しくなってきています。今こそ、プラットフォームがモグラ叩きのようなコンテンツモデレーションよりも、信頼できるコンテンツに報いるようにアルゴリズムを変更することで、はるかに多くの成果を上げることができることを忘れてはなりません。

トランプ氏の選挙不正疑惑をプラットフォームが過度に厳しく取り締まることを懸念するのは奇妙に思えるかもしれない。特に、全米の共和党選挙管理当局が2024年の選挙で何をするつもりなのかについて不吉なシグナルを送っている現状ではなおさらだ。不正選挙に関する発言は有害だ。しかし、コンテンツの禁止もまた、測定が難しい形で有害となり得る。トランプ氏が水曜日のポッドキャストインタビューで示したように、それは人々の不公平感と殉教感を助長する。たとえ選挙や新型コロナウイルスに関する誤情報に関するプラットフォームの方針に賛成だとしても、特定の考えを禁じる権限をプラットフォームに与え続けるのは望ましくないかもしれない。

問題は嘘が危険かどうかではありません。危険になる可能性はあります。しかし、多くの言論は危険です。問題は、それを禁止することのメリットがコストを上回るかどうかです。嘘は真実が靴を履いている間に地球を半周すると言われています。しかし、最終的には真実も靴を履きます。いつかは、嘘をそのままにしておく必要があるかもしれません。

WIREDのその他の素晴らしい記事