Facebookは認めないことは修正できない

皆さん、こんにちは。政治には関わらず自分の道を歩むべきだと文句を言う方もいらっしゃいますが、私は動いていません。ただ、道が少し広くなっただけです。でも、もっとテクノロジーっぽいことを書けるのを楽しみにしています。どうか、ご協力いただけませんか？

来週より、このコラムは定期購読者限定となります（一部例外あり）。WIRED を定期購読すると、すべての号にアクセスできます（Plaintext読者は50%オフ） 。

プレーンビュー

2017年6月、マーク・ザッカーバーグはFacebookのミッションを変更しました。シカゴで開催された同社初のコミュニティサミットで講演したザッカーバーグは、Facebookの最大の強みは「意味のあるグループ」、つまりユーザーの情熱やニーズに応え、同じ興味を持つ他のユーザーと繋がる機能だと説明しました。当時、意味のあるグループには1億人が参加していましたが、彼はそれを10億人にまで拡大したいと考えていました。ザッカーバーグはこの考えを強く信じ、Facebookの中核目標を「世界をつなぐ」から「人々にコミュニティを築く力を与え、世界をより近づける」へと変更しました。この変更を説明する投稿の中で、彼はこう書いています。「コミュニティは、私たちが自分よりも大きな何かの一部であり、孤独ではなく、より良い未来に向けて努力できるという感覚を与えてくれます。」

3年以上経った今、これらのグループの一部は、マーク・ザッカーバーグが思い描いた通りのことを成し遂げた。情熱を抱く共通の大義のために結束したのだ。しかし、その「私たちよりも偉大な何か」は、おそらくザッカーバーグが思い描いていたものではなかっただろう。それは、米国で公正かつ認証された選挙を経て平和的に行われた政権交代を覆すことだった。パーラーのような他のプラットフォームは、過激派を組織して米国議会議事堂を襲撃する上で重要な役割を果たしたかもしれない。しかし、パーラーのメンバーは既にその大義にコミットしていた。Facebookのコミュニティ構築アルゴリズムは、膨大なユーザー層の一部を傍観者から引き込み、過激主義と扇動の渦中へと引き込むのに効果的だった。

実際、Facebook独自のアルゴリズムがこれらのグループへの参加を増やしているようだ。 2020年5月のウォール・ストリート・ジャーナルの記事は、Facebook自身の研究者による憂慮すべき発見を報じた。2016年の社内調査によると、「過激派グループへの参加の64％は、当社の推奨ツールによるものだ…当社の推奨システムが問題を拡大させている」という。記事はまた、この問題に対処する同社の取り組みが、右派からの批判に常に敏感な同社の政治部門の干渉によって阻害されていることも明らかにした。そして今週のニューヨーク・タイムズの記事では、比較的正気な人々が、Facebookが自分たちの最も逸脱した反民主主義的な投稿を広く拡散し、地位とフォロワーを獲得していることを知った途端、扇動的で狂気じみた世界に深く追いやられた事例をいくつか概説した。あるユーザーは、狂ったトランプ支持者のメッセージを投稿すればするほど、Facebookから送られてくるフォロワーが増えていることに気づき、すぐに選挙否認に基づく数万人のメンバーを持つ意義深いグループを主催するようになった。それはまるで、ザッカーバーグが「私たちは孤独じゃない」と表現した感情を体現したかのようだった。反民主主義者になることで、彼は他の人々を見つけてしまったのだ。そして、皆が互いのひどさを強め合っている。

今週、FacebookのCOOシェリル・サンドバーグ氏が珍しくインタビューに応じた。いつものように、同社は完璧ではないと注意を促しつつも、全体的なメッセージはFacebookのポリシーが概ね機能しているというものだった。「Facebookがもっと早くできたと思うことはありますか？」とインタビュー相手に尋ねたところ、サンドバーグ氏は、Facebookは抗議活動がオンラインで組織されていることを認識していたものの、プラウド・ボーイズ、Qアノン、ストップ・ザ・スティールといった暴力的なグループを削除することで、概ね役割を果たしてきたと答えた。（ストップ・ザ・スティールはFacebookが削除するまでに32万人のフォロワーを獲得しており、関連するハッシュタグは1月6日の暴動から5日後まで禁止されていなかった。）サンドバーグ氏は、他者にも重大な責任があると主張した。「これらのイベントは、Facebookのようなヘイトを阻止する能力、基準、透明性を持たないプラットフォームによって主に組織されたと思います」とサンドバーグ氏は述べた。

TwitterのCEO、ジャック・ドーシー氏は、自社の不備をより率直に認めたようだ。サンドバーグ氏と同様に、暴動後のドナルド・トランプ氏のアカウントを禁止したタイミングを擁護した。しかし同時に、言論が社会にどのような害を及ぼすかという極めて重要な問題において、Twitterは失策を犯したと認めた。「アカウントを禁止したことは、健全な対話を促進するという点で、究極的には私たちの失敗だと考えています」とドーシー氏は綴った。「そして、これは私たちの事業と私たちを取り巻く環境について、改めて考える機会となりました」

ソーシャルメディアだけが犯人ではありません。Fox Newsは、私たちの社会構造を焼き尽くした大火災の、意識的な放火犯でした。そしてもちろん、トランプ氏をはじめとする政治家たちにも、甚大な責任があります。しかし、Facebook、Twitter、YouTubeが成長とエンゲージメントのために利用している仕組みは、あまりにも簡単に悪用され、今や私たちの民主主義を脅かす怪物に餌を与えてしまっています。コミュニティを受け入れることは素晴らしいことですが、そのコミュニティが危険であったり破壊的であったりする場合はそうではありません。これを修正するのは容易ではありません。しかし、失敗を認めることが第一歩です。

タイムトラベル

シカゴで開催されたコミュニティサミットの数ヶ月前、マーク・ザッカーバーグはFacebookがコミュニティ構築の担い手であるというマニフェストを発表しました。私はその内容を事前に読み、彼と議論する機会を得て、Backchannel（現在はWIREDアーカイブに収蔵）に寄稿しました。

ザッカーバーグ氏の情報コミュニティ、そして彼らがニュースを入手する方法に関する見解は、最近同社を悩ませているフェイクニュース論争をはるかに超えている。CEO自身も、選挙直後のカンファレンスで、自社のサービスにおけるフェイクニュースが選挙結果に影響を与えたとは思わないと発言したことが、事態を悪化させたことを認めている。「より広い文脈を伝えなかったことで、あの発言は間違っていたかもしれない。人々は、私がこの件についてどのように広く考えているかという狭い視点から捉えてしまった」とザッカーバーグ氏は述べた。「共通理解と共通の基盤という問題は、さらに大きな問題だ。魔法の杖を振ってすべての誤情報を排除できたとしても、人々が極端に分極化し、全く異なる事実を用いて、自分たちの世界観に合う物語を作り上げるような世界へと移行していく可能性はある」

ザッカーバーグ氏に、今の私のニュースフィードは基本的に…トランプ、トランプ、トランプ、結婚、トランプ、赤ちゃん、トランプばかりだと伝えた。彼のニュースフィードのうち、どれくらいの割合が新大統領に関する投稿で占められているのか気になった。「かなりの数です」と彼は言った。しかし、彼はそれを一時的な異常事態と捉えている。彼にとっての問題は単に国内情勢だけではなく、「深刻な世界的問題」であり、人々はニュースだけでなく、お互いからより多くの情報を得る必要があるのだ。彼は、Facebookが最近導入した、不正確または誇張されたニュース記事のランキングを下げるツールを高く評価しているが、同時に、まだ改善の余地があることを認めている。「共通の基盤があること、誰もが自分の共有したいものを共有できること、そしてそのニュアンスが失われないことを確かめたいだけです」と彼は言った。

一つだけ聞いてください

自身を「弁護士でも哲学者でも技術者でもメディアの専門家でもなく、子どもと家族のためのセラピスト」と称するジュリーは、「ユーザーとコンテンツガードのためのガイドラインはどうあるべきでしょうか？例えばTwitterは、コンテンツが直ちに削除されない場合、どのように監視され、責任を問われるべきでしょうか？」と問いかける。

こんにちは、ジュリー。今週のPlain Viewのエッセイとぴったり合う質問をしてくれてありがとう。それから、弁護士でも哲学者でも技術者でもメディアの専門家でもないことにも感謝します。お会いできて嬉しいです！簡単に言えば、大規模な商業ソーシャルネットワークは、破壊的なコンテンツを最小限に抑えるガイドラインを設定するのが良いでしょう。憎悪や危険なコメントや投稿を一切出さないようにすることはできません。しかし、Facebook、Twitter、YouTubeができるのは、プラットフォーム上で不快なコンテンツがどのように広がっているかを評価し、結果が変わるまで遡って変更を加えることです。説明責任については、そのプロセスが進行中です。これらのプラットフォームが、私たちを傷つけたり、暴力行為に駆り立てたりするような発言を増幅させ続けるなら、彼らはますます社会から疎外されるようになるでしょう。私たちはもう彼らの言い訳にうんざりしています。そして、おそらくもっと重要なのは、そこで働く人々もうんざりしているということです。

ご質問は[email protected]までお送りください。件名に「ASK LEVY」とご記入ください。