Facebook はなぜ事実確認をそんなに恐れるのか?

先週、新型コロナウイルス感染症（COVID-19）に関する虚偽情報満載の動画がFacebookに投稿され、現在までに数百万回再生されています。Facebookは動画の拡散を最小限に抑える対策を講じていますが、特にファクトチェックは、奇妙なほど、あるいは危険なほど、慎重な姿勢で行われているように見えます。この慎重さの理由は、警戒すべき点です。世界最大のソーシャルネットワークであるFacebookは、パンデミック関連の誤情報への対応を、少なくとも部分的には、学術文献の誤読に基づいているように思われるからです。

問題となっているのは、同社が長年にわたり、いわゆる「バックファイア効果」のリスクを軽視してきたことだ。つまり、Facebookは、虚偽の主張を暴こうとする行為そのものが、その虚偽を強固なものにしてしまう可能性を懸念しているのだ。CEO兼創業者のマーク・ザッカーバーグ氏は、2017年2月にまさにこの懸念を表明した。「研究によると、最も明白なアイデア、例えば反対の視点からの記事を見せるといったアイデアでさえ、実際には分極化を深めてしまうことが分かっています」と彼は述べた。同社は後に、誤った見出しに「レッドフラッグ」警告を発するのをやめた理由として、同じ理論を引用している。「誤情報の訂正に関する学術研究は、そのような警告が『むしろ根深い信念を固定化してしまう可能性がある』ことを示している」と、Facebookのプロダクトマネージャーは記している。

Facebookは、今回のパンデミック、そしてそれに伴うインフォデミック（情報破壊）の渦中においても、逆効果への懸念を弱めていない。4月16日、同社は蔓延する新型コロナウイルス感染症に関する誤情報に対処するための計画を発表した。特定のコンテンツに警告ラベルを貼るだけでなく、有害な投稿に反応したユーザーには、明らかに具体的ではない警告を表示し、より信頼できる情報源へと誘導するというものだ。FacebookはSTATに対し、こうした警告の曖昧さは、逆効果のリスクを最小限に抑えるためだと説明している。

しかし、肝心なのは、Facebookがバックファイア効果について何を言おうと（あるいは何を考えようと）も、この現象は実際には徹底的に「示され」たり、実証されたりしていないということです。むしろ、これはお化け屋敷のようなもので、2008年頃の研究文献から生まれたゾンビ理論であり、それ以降ほぼ放棄されています。より近年の、幅広い問題を網羅した研究では、その逆であることが示されています。ほぼすべての話題において、ほとんどの場合、平均的な人は――民主党員であれ共和党員であれ、若者であれ老人であれ、高学歴であれそうでなくとも――事実に対して期待通りに、より事実に基づいた正確な反応を示すのです。

はい、例外は存在します。これらの研究を注意深く追っていけば、実験的な設定において訂正が失敗する稀なケースをよく理解できるでしょう。しかし、もしあなたが日中仕事をしていて、経験則が必要な場合は、次のことを試してみてください。「デバンキングと訂正は効果的です」、それだけです。この要約は、バックファイア効果が広く蔓延しており、オンライン上の議論に積極的な脅威を与えているという示唆よりも、学術的コンセンサスにはるかに近づくものです。

事実に関するこの事実は、私たち自身も何度も実証してきました。査読済みの著書と複数の学術論文には、被験者に誤情報とファクトチェックを提示する数十件のランダム化比較研究が掲載されています。この研究では一貫して、被験者は事実に関する質問に対してより正確な回答をする傾向があることが示されています。ファクトチェックは、突飛な陰謀論だけでなく、トランプ氏のありふれた誤った発言に対しても効果的であることを示しました。バックファイア効果に関する最も人気のある学術論文の著者と提携し、その真相を解明しようと試みました。しかし、今回も成果はありませんでした。

これまで何年も読んできたSnopes.comの記事、Politifactの投稿、CNNのファクトチェックはどれも、概ねその役割を果たしています。私たちの調査によると、1万人以上のアメリカ人を対象とした実験では、ファクトチェックによってフォローアップテストでの正答率が28パーセントポイント以上向上しました。しかし、これは私たちだけではありません。他の研究者も非常に似たような結論に達しています。もしバックファイア効果が存在するとしても、見つけるのは困難です。新たな情報に直面しても、頑固に固執するのは、決して人間の一般的な傾向ではありません。たとえ、人々の最も深い政治的コミットメントに反する訂正事実を提示されたとしても、それは変わりません。

確かに、学術文献は進化しています。私たちがこの研究を始めた2015年当時、バックファイアは広く受け入れられていました。このことを最も明確に示しているのは、心理学者のジョン・クックとステファン・ルワンドウスキーが2011年に初めて出版した、影響力のある『デバンク・ハンドブック』です。このハンドブックは、著者とその同僚による最新の研究成果を集約し、数々のバックファイアのリスクを詳述しています。「細心の注意を払わない限り、誤情報を暴こうとするいかなる努力も、正そうとしている神話そのものを、意図せず強化してしまう可能性がある」と著者は警告しています。

そして2か月前、クックとレワンドウスキーは続編『陰謀論ハンドブック』を出版した。バックファイア仮説の論理によれば、陰謀論は最も頑固なナンセンス、つまりファクトチェックが最も困難なものの1つであるはずだ。陰謀論は単純かつ包括的な因果関係によって支えられており、私たちの社会的アイデンティティに訴えかけるものだ。しかし著者らは、事実情報の提供は陰謀論への信仰を減らすという前提で、「事実に基づくデバンキング」、あるいは人々に彼らの理論のありそうもない基盤について考えさせる「論理に基づくデバンキング」を用いるよう読者に奨励した。クックとレワンドウスキーは、ある意味で誤情報に対して慎重ではなくなった。かつてはバックファイアを誘発することを懸念していたのだが、今では最も厄介な誤情報に対しても事実を用いて反論することを提案している。大いに称賛に値するのは、この著者らが広く読まれているガイドを、より最近の証拠（自身の研究によって提供されたものも含む）に合わせて改訂したことだ。

では、なぜFacebookのようなソーシャルメディア企業は、バックファイアに固執し続けるのでしょうか？私たちや同僚が目にしていない証拠をFacebookが持っている可能性があります。Facebookは、外部の研究者がプラットフォーム上で実験を行い、その結果を公表することをほとんど許可していません。ファクトチェックを研究するための最良の実験設計が、プラットフォーム上で日々のやり取りにおける実際の経験を捉えきれていないのかもしれません。もしかしたら、現実世界のFacebookユーザーは、私たちの研究対象者とは異なる行動をとるのかもしれません。ファクトチェックを軽視したり、時間の経過とともに慣れてきたりするのかもしれません。もしそうだとしたら、Facebookはプラットフォーム上でのバックファイアの明確な証拠を記録していたにもかかわらず、それを公表しなかったのかもしれません。

とはいえ、私たちはFacebook上でファクトチェックが実際に機能し、逆効果を招かないことを強く示唆する、より現実的な新たな実験を終えたところです。Facebook上で調査を実施できなかったため、次善策としてウェブサイトのレプリカを使用しました。国際的な活動家グループであるAvaazのエンジニアリング支援（直接的な資金提供は受けていません）を受け、Facebookのニュースフィードを忠実に再現するよう設計されたウェブサイトで調査を実施しました。下の写真は、調査参加者が目にしたニュースフィードです。ご覧のとおり、各ニュースフィードには複数の記事が含まれていました。中にはフェイクニュース、事実の訂正がされたもの、そしてフェイクニュースや事実の訂正とは全く関係のないコンテンツが含まれていました（この最後のカテゴリーを「プラシーボコンテンツ」と呼びます）。

YouGov で募集した 7,000 人を無作為に割り当て、異なる量のフェイクニュース、訂正、プラセボコンテンツを見せ、フェイクニュースに対する信念を測定することで、訂正の効果を評価できた。参加者には、過去数年間のソーシャルメディアから集めた全部で 5 つの偽ニュースを見せた。まず、1 つのニュースフィードで、不法移民が米国での麻疹の発生の一因になったとか、ドナルド・トランプが共和党を「最も愚かな」有権者と呼んだとか、5G タワーは有害な放射線を放出しているといったさまざまなフェイクニュースを無作為に提示した。次に、2 つ目のニュースフィードで、先に提示した誤情報のファクトチェックを見るグループと見ないグループに参加者を無作為に割り当てた (誰も、見ていない誤情報のファクトチェックを見ることはなかった)。最後に、テストされた誤情報を信じるかどうかを全員に尋ねた。

結果は、以前の研究で得られた結果と変わりませんでした。すべての問題において、誤情報を見た後に関連ファクトチェックを受けた人は、誤情報だけを見た人よりも事実の正確性が大幅に向上しました。バックファイア効果は、訂正を受けると正確性が低下すると予測することを覚えておいてください。しかし、平均的な被験者はそうは反応しませんでした。実際、あらゆる人がファクトチェックの恩恵を受けています。以前の研究で、ソーシャルメディアでは、フェイクニュースは高齢で保守的なアメリカ人によって不釣り合いに多く共有されていることが分かっています。私たちの研究では、このグループはバックファイア効果に対して特別な脆弱性を示しませんでした。ファクトチェックを受けた場合も、彼らはより正確になりました。

このプラットフォーム上で、ファクトチェックの設計と人々の反応の測定方法に若干の変更を加えた2つの実験を行いました。これらの変更は結論に影響を与えませんでした。ファクトチェックは両方の実験において精度の大幅な向上をもたらしました。訂正のないフェイクニュース記事の場合、記事がフェイクであると正しく認識した回答はわずか38%でした。1回の訂正後では、61%の回答が正確でした。

バックファイア効果が、事実疲労の一種から生じている可能性についてはどうでしょうか？もしかしたら、多くの訂正を目にした後、人々は警戒心を緩めているのかもしれません。私たちの実験設計により、この可能性を調査することができ、何の問題もないことがわかりました。人々が目にする訂正の数が増えても、事実の正確性の向上は一貫して維持されました。プレプリント論文の全文はこちらでご覧いただけます。

現在のパンデミックの真っ只中、事実に基づいた正確な情報へのアクセスはこれまで以上に重要です。幸いなことに、学術研究は明確な結果を示しています。ファクトチェックは有効です。人々は逆効果になることはありません。ソーシャルメディア企業はそれに応じた行動をとるべきです。

写真：デビッド・ポール・モリス/ブルームバーグ/ゲッティイメージズ、エマヌエーレ・クレマスキ/ゲッティイメージズ

WIRED Opinionは、幅広い視点を代表する外部寄稿者による記事を掲載しています。その他のオピニオン記事はこちらをご覧ください。ご意見・ご感想は[email protected]までお寄せください。