誤情報が共有される前に拡散を防ぐ方法

1588年7月、100隻以上の船と2万6000人の兵士を率いるスペイン無敵艦隊は、プロテスタントの女王エリザベス1世を打倒し、カトリックの統治を回復させるため、イングランドに向けて出航した。2ヶ月にわたる航海の後、艦隊はフランス沖でイングランド軍と激しい戦闘を繰り広げた。その報せはヨーロッパ中に広まり、多くの人々が予想通り無敵艦隊が勝利し、イングランド艦隊を撃破したことを知った。カトリック教徒は街頭で祝賀ムードに包まれ、プロテスタント教徒は地政学的な緊張が高まる中、制裁を恐れた。

数日後、正反対のニュースが届いた。イギリス艦隊が決定的な勝利を収め、スペイン艦隊を壊滅させたというのだ。ヨーロッパの何百万もの人々が、広まった噂に騙されていたことに気付いた時には、無敵艦隊の残骸は既に撤退していた。

拡散する誤情報は、ソーシャルメディアと悪意ある人物による現代の発明だと考えがちです。しかし実際には、「フェイクニュース」はニュースそのものと同じくらい古い歴史を持っています。何世紀にもわたり、虚偽の情報が事実として広く共有され、何ヶ月も何年も訂正されずに放置され、真実として受け入れられることさえありました。こうした情報の多くは、1569年にレスターシャーの女性が猫を出産したと「確認」されたという、広く信じられていた報告のように、何の責任も負いませんでした。一方で、ユダヤ人が井戸に毒を盛ったことが黒死病の原因だという噂が広まり、ヨーロッパ全土で処刑や暴力的なポグロム（虐殺）を引き起こしたなど、悲劇や恐怖をもたらしたものもあります。

時代を問わず、噂や虚偽は2つの基本的なステップを経て広がります。それは、まず発見され、次に未検証の情報が増幅されるというものです。しかし、現在と異なるのは、今日のコミュニケーションプラットフォームが情報の流れを根本的に変え、バイラルな噂がかつてないほど飛躍的に速く、そして広範囲に拡散している点です。特定の種類のバイラルな噂が広く信じられることは、民主主義そのものを含む、私たちが頼りにしている制度に脅威をもたらします。喫緊の課題が浮上しています。それは、私たちのコミュニケーション・エコシステムをますます蝕んでいる、重大な影響を及ぼすような誤情報をいかに軽減できるかということです。私たちは、摩擦こそが答えだと信じています。

バイラルの現代史

印刷機が登場する以前、噂は市場やパブでの口コミを通じて広まりました。それでも、実業家、統治者、宗教指導者たちは信頼できる情報を求めており、タイムリーで正確なニュースを得るために莫大な資金を費やしました。

彼らの下で働く人々、つまり初期のジャーナリストたちにとって、真実の入手は絶え間ない苦闘でした。報道関係者は知識共有のプロセスに「摩擦」を加え、評判とスポンサーを失うことを恐れ、記事を掲載する前に二次、三次情報源を通して丹念に検証しました。

スピードと正確さの間のこの緊張関係が、初期のニュース報道を特徴づけるようになりました。タイムリーかつ正確なニュースは途方もなく高額で、郵便システムとして知られる、認証された配達人や伝令を必要としました。この名残は、今日でも多くの新聞の名称に「郵便」という名称として残っています。

初期のジャーナリストは完璧とは程遠く、初期の新聞の多くは、虚偽、とんでもない、あるいは露骨に党派的な記事、特に残虐な犯罪報道を積極的に流布することで注目を集めようと競い合っていました。しかし19世紀には、一部の新聞が徐々に成熟し、専門化を遂げ、事実に基づいた物語を掲載することで評判を築き、「客観的」なニュースソースとして信頼を獲得しました。

断続的に、このニュース収集と配信の寄せ集めのシステムは、情報を拡散する前に経験的に検証する主流の方法となった。私たちはジャーナリストを信頼するようになったが、それは主に彼らが噂のファクトチェックを行うからだ。

ラジオ、そしてテレビの登場により、情報環境は再び変貌を遂げました。これらの技術はかつてないほど広範囲に情報を伝達することを可能にしましたが、依然として人間の監視者に依存していました。これらの発明はそれぞれ、検証済みではあるものの選別的な知識という、限られた情報源を中心とした合意形成のための新たな手段を生み出しました。捕らわれた聴衆である大衆は、大抵同じ「客観的」情報にさらされることになったのです。

画像にはスクリーンエレクトロニクスモニターディスプレイとテキストが含まれている可能性があります

しかし、重大な欠点もあった。権力のある当局、企業、機関に関する報道は、特に放送局や新聞社の金銭的利益と衝突する可能性がある場合には、しばしば無批判に扱われた。しかし、プロの記者の多くは概ねジャーナリズムの基準を遵守しており、あからさまに虚偽の噂が拡散されることはほぼ最小限に抑えられていた。

摩擦のないフリーフォーオール

わずか10年の間に、インターネット、特にソーシャルメディアはジャーナリズムの摩擦のシステムを粉々に破壊した。

まず、インターネットが出版業界を変革しました。90年代半ばには、ブログプラットフォームによって、誰もがいつでも、どんな内容でも、ジャーナリストの同僚の批判的な目にさらされることなく、出版できるようになりました。出版は民主化され、費用がかからない事業となりました。

ソーシャルネットワークの登場により、情報の流通とリーチも変革しました。10年も経たないうちに、何億人もの人々が、ターゲットを絞りやすく、摩擦のない新しいコミュニティで、常にオンライン上にいるようになりました。グループは、門番ではなく、一般の人々が情報を共有するためのデジタルな集いの場となりました。ワンクリックで共有できるボタンによって、人々は情報の流通と拡散に積極的に参加するようになりました。ニュースフィードは、友人や友人の友人に簡潔な投稿を配信しました。キュレーションアルゴリズムは「いいね！」や「お気に入り」に基づいて何を紹介するかを決定し、レコメンデーションエンジンは魅力的なコンテンツをさらに強化しました。

摩擦の減少は重要な新たな声を届ける機会を創出した一方で、極めて影響力の大きい誤情報の急速な拡散にも繋がっています。例えば2020年の選挙では、選挙の不正操作やCIAのスーパーコンピューターに関する荒唐無稽な虚偽情報が、極端に党派的なエコーチェンバーの中で拡散しました。Qアノンは、小規模なオンライン陰謀論から、数百万人のメンバーを擁する分散型オンラインカルトへと成長し、コミュニティが児童人身売買に関与していると主張する企業に関するナンセンスな理論を精力的に拡散しました。新型コロナウイルス感染症のパンデミックでは、「プランデミック」のような、数々の嘘と陰謀を唱える、明らかに偽りである動画が、プラットフォームが削除を決定する前に数百万人の視聴者に届きました。

米国（そして他の国々）が民主主義、公衆衛生、そして情報環境のその他の結果として生じた危機に苦闘する中、現状の解決策が機能していないことは明らかです。コンテンツのモデレーションや削除によって拡散した噂を遡及的に抑制しようとする試みは不十分です。そして、ボットやアルゴリズムといったありがちなスケープゴートが、解決策をめぐる議論の注目を集めています。しかし、現実はより複雑です。ボットは確かに誤情報を拡散しますが、ほとんどのプラットフォームはその後、自動化の影響を抑制してきました。推奨アルゴリズムは確かに消費に影響を与えますが、それが唯一の力学ではありません。

今こそ積極的な解決策を講じる時であり、集団的な理解を助けるような摩擦を再導入する時です。

嘘は速い。真実は遅い

小セネカは「時は真実を明らかにする」と伝説的に記しています。これは今でも「時が語る」という慣用句として耳にします。時間は正確さを判断する上で重要な要素であり、より多くのフィルタリング、評価、そして確認の機会を与えてくれます。

情報が人々の心の間を摩擦なく飛び交うようになった今、現代のソーシャルウェブにおける核となる「真実」のいくつかを再考する必要があるかもしれません。中でも最も重要なのは、速報情報は瞬時に投稿され、拡散されなければならないというパラダイムです。私たちは、高速情報が誤情報、虚偽、プロパガンダの拡散において大きな原動力となっている環境で活動しており、特にそれがバイラル性と交差する点において顕著です。MITの研究者たちは、偽ニュースは真のニュースよりも広範囲かつ速く拡散することを発見しました。

より信頼できるソーシャルウェブを再考する中で、速度とバイラリティの関係を再考する必要がある。速度の遅いコンテンツでも、バイラルになる可能性はある。例えば、友人と共有した良書や、口コミで広まった映画などだ。そのための1つの方法は、急速に、あるいは広範囲に拡散するコンテンツをプラットフォームが一時的に抑制し、ファクトチェッカーが評価する時間を与えるシステムを導入することだ。これはすべてのバイラルコンテンツに適用する必要はなく、政治、健康、最新ニュースなど、最も害を及ぼす可能性の高いトピックに絞って適用することもできる。これは他の業界でも採用されているモデルであり、例えばウォール街の証券取引所は、株価の暴落を防ぐため、サーキットブレーカーを用いて一般の人々が新たな情報を適切に理解できるようにしている。

ユーザーに促す

大きな影響を与える誤情報の拡散を未然に防ぐことで、質の低い情報の供給を減らし、強引なコンテンツ管理から生じる困難な反発を回避することができます。

ダニエル・カーネマンのノーベル賞受賞研究は、役に立つ実用的な比喩と言えるでしょう。カーネマンの研究では、私たちの精神活動には2つの重要な「システム」が存在することが発見されました。システム1は、高速で本能的、そして感情的なシステムです。一方、システム2は、よりゆっくりとした、より熟考的で論理的な思考と情報消費の方法です。システム1は、バイアスや精神的な近道に陥りやすく、即断即決につながる傾向があります。一方、システム2は、複雑で微妙な問題に対処するのに役立ちます。

どちらのシステムも私たちの日常生活に役立ちますが、システム1はスピードと衝動性を優先するデジタルアーキテクチャの中で特に力を発揮します。クリックベイトから感情を揺さぶり、怒りをかき立てるニュースまで、ソーシャルウェブはシステム1を最大限活用するように構築されており、私たちを反応的、自動的、そして無意識的な方向に傾倒させています。

これを枠組みとして、人々をシステム2へと導き、感情的なシェアから向社会的な、そして思慮深いシェアへと向かわせるようなデザインの変更やフリクションについて考察することができます。こうした研究の一部は、イェール大学のニコラス・クリスタキス氏の研究や、認知的意思決定を向上させる他のデザインのフリクションに関する研究によって裏付けられています。実際、こうしたナッジの多くは、誤解を招く、あるいは虚偽のコンテンツに関するインタースティシャル警告（有名なトランプ氏のツイートに表示されたもの）から、特定の情報が過去にフラグ付けされたことや、コメントが有害と解釈される可能性が高いことを人々に警告するプロンプトまで、テクノロジー企業によって活用され始めています。

Instagram、Twitter、TikTokなどにおける様々な介入は、こうしたナッジがインターネット上で私たちが目にし、反応するコンテンツの種類を根本的に改善する可能性があることを示唆しています。例えば、リツイートする前に記事を読むかどうかを尋ねるプロンプト、ドメインの質が低いことを示唆するプロンプト、コメントで使用されている単語が一般的に議論に役立たないことを指摘し、投稿者に修正を依頼するプロンプトなどが含まれます。テスト可能な介入のオープンなデザインライブラリは、プラットフォーム間の採用を促進する上で大いに役立つでしょう。

検証の高速化

新しいツールは、検証速度そのものを加速させる可能性も示しており、急速に拡散する誤情報や偽情報への対応にも役立ちます。最近のいくつかの研究では、例えば、プロのファクトチェッカーと同程度の精度で、クラウドを活用して主張を検証または反証するなど、期待できる新たなファクトチェック手法が示されています。

研究者たちは1,128人のユーザーグループからクラウドソーシングを行い、記事が虚偽かどうかをプロのファクトチェッカーとほぼ同等の精度で判断できる、オンライン上の10人ほどの小規模グループをセグメント化することができました。アルゴリズムを補完することで、このようなシステムは、フェイクニュースが拡散する速度と規模に合わせて学習させることも可能です。

さらに、これらの検証方法をオープンソース化し、監査可能で透明性が高く、容易に理解できるようにすることで、偏見や検閲に関する主張を軽減できる可能性があります。こうした取り組みの初期の例としては、TwitterのBirdwatchが挙げられます。これは、コミュニティを活用して誤情報のツイートをフラグ付けするものです。このシステムはまだ新しく不完全であり、明らかに不正操作される可能性があります（これはあらゆる検証システムの問題です）。しかし、これは重要な最初の試みです。

しかし真実を決定するのは誰でしょうか?

これら3つの介入はいずれも、どこかで誰かが、何が真実で何が質の高いのかを判断することを必要とします。この「基準となる」真実はパズルの重要なピースですが、対処するのはますます困難になっています。

ナラティブ（物語）をコントロールすることは常に論争を呼ぶものであり、偽情報を正そうとするシステムは党派的偏見があると非難される。実際、極端な党派主義はフェイクニュースの共有と直接結びついている。ソーシャルメディアは、たとえそれが本質的に党派的ではない問題であっても、ますます多くの問題をめぐって党派的な戦線を形成するのに特に効果的であるように思われる。

しかし、これは古くからある問題の新たな顕在化です。知識をいかに検証するのか？そして、どうすれば信頼できるほど迅速に検証できるのか？社会において、真実を確立するために誰を信頼するのか？ここで私たちは、難解ではあるものの、前例のある認識論の領域に足を踏み入れているのです。

事実を検証するために私たちが日常的に利用している他のサービスを見てみましょう。不完全ながらも強力なシステムであり、私たちが頼りにしているものです。GoogleとWikipediaは、人々が正確な情報を見つけるのを効果的に支援することで、広く高い評価を得ています。検証と情報源のシステムが設計に組み込まれているため、私たちは概してそれらを信頼しています。

現在のソーシャルウェブの摩擦のない設計により、民主主義が機能するために必要な前提条件である「真実の共有」が損なわれています。

私たちの3つの提言には、ジャーナリズムの基本的な検証プロセスへの信頼と信念が暗黙のうちに含まれています。ジャーナリズムは完璧からは程遠いものです。ニューヨーク・タイムズでさえ、時折間違えることがあります。それは、あらゆるメディアが、出来事の選択的解釈や、記事のトーンや論調に対する編集部の影響力に苦しんでいるのと同じです。しかし、検証された情報に本来備わっている価値は、ソーシャルメディアによって損なわれてきた重要な基盤です。ソーシャル投稿は、ニュースフィードではニュース記事に似てきたとしても、ニュース記事ではありません。新たな情報の検証は、機能する民主主義の中核を成すものであり、かつてジャーナリズムのプロセスによってもたらされていた摩擦を再び生み出す必要があります。

ソーシャルメディアの分散化とエンドツーエンドの暗号化を両立させ、いかなるモデレーションも受けない新たな技術が、間もなく登場する。これらの新しいツールが普及するにつれ、拡散する噂を暴くことはさらに困難になり、誤情報や偽情報の供給問題は悪化する一方だろう。正確な情報の流れを再び均衡させるために、これらのツールをどのように設計すべきか、今こそ検討すべきだ。そうする能力が失われてしまう前に。

この責任は、少なくとも部分的には私たち個人の肩にかかっています。私たちは、不正確な情報を見極め、学術的なものもジャーナリズム的なものも含め、確立された信頼できる情報源を見つけることに常に注意を払わなければなりません。制度への過剰な懐疑心は、私たちが共有する現実にとって有害です。私たちは、共に真実を慎重に、そして思いやりを持って探し出す方法を見つけるための努力を倍増させることができます。しかし、プラットフォームは、私たちの共有空間のデザインを検証可能な事実へと傾けるのに役立つ可能性があり、またそうすべきです。

Tobias Rose-Stockwellによるデータビジュアライゼーション

WIREDのその他の素晴らしい記事