YouTubeとFacebookのトレンドツールがパークランド陰謀論を強調

アメリカ史上最悪の学校銃乱射事件の一つを生き延びた10代の少年についての陰謀論ビデオを作るには、特別な無慈悲さが必要だ。しかし、何千人、いや何百万人もの人々にそのビデオを観てもらうには、文字通り無慈悲なアルゴリズムが必要なのだ。

水曜日、YouTubeは一時的に、マージョリー・ストーンマン・ダグラス高校で17人の生徒が死亡した銃乱射事件の生存者である17歳のデビッド・ホッグが実は俳優だったと主張する陰謀論動画をトレンドのトップに表示しました。その後削除されたこの動画がトップに表示されたことは、YouTubeユーザーとメディア関係者に衝撃を与えました。しかし、衝撃を受けるべきではありませんでした。YouTubeの今回の失態は、あらゆるソーシャルプラットフォームで表示されるコンテンツを決定するアルゴリズムの根本的な欠陥を浮き彫りにした、最新の事例に過ぎません。

トレンド

YouTube、Facebook、Twitterには、膨大なコンテンツの海の中から最もニュース価値が高く関連性の高い情報を浮き彫りにするためのセクションが設けられています。しかし、それらは幾度となく完全に失敗してきました。最悪のケースでは、これらのトレンドセクションを支えるアルゴリズムが、銃規制を推進するボット主導のハッシュタグキャンペーンをTwitterトレンドのトップに押し上げたり、元Foxニュースキャスターのメーガン・ケリーに関するフェイクニュースをFacebookのトレンドトピックポータルに掲載したりしています。人間によるキュレーションも、それほどうまく機能していません。Facebookのキュレーターが保守系メディアのニュースをトレンドトピックから除外していたという報道は、このソーシャルネットワークにとって2年間にわたる一連の危機を引き起こしました。

しかし、アルゴリズムによって生み出されたトレンドは、たとえ最も無害なものであっても、その明示された目的を果たすことは稀です。主に会話の量に基づいてトレンドを作成するツールは、人々の意識を怒りの対象となるトピックへと自然に誘導します。そして、とんでもないトピックがトレンドになれば、怒りはさらに増すばかりです。Twitterでトレンドになっているトピックをクリックした途端、そもそもそのトピックがトレンドになっていること自体を非難するツイートが延々とスクロールしていくのを見た経験は、一体何度あるでしょうか？トレンドに関する会話はトレンドそのものとなり、あるコード行が何百万人もの人々にそのトピックが重要だと伝えようと決めたことで、怒りの無限のループが始まってしまうのです。

YouTubeのトレンドページのトップに躍り出たパークランドの動画は、偶然ではなく、YouTube側がフェイクニュースを是正しようとした結果であるように思われ、特に腹立たしい。YouTubeは、この陰謀論動画が「権威あるニュースソースの映像を含んでいたため」、システムが「誤分類」したと述べている。ホッグ陰謀論をブロックするために必要な最小限のニュアンスが、アルゴリズムには欠けているのだ。

水曜日の非難はYouTubeに最も集中したものの、Facebookもその責任を分かち合うべきだった。デビッド・ホッグの名前はFacebookのトレンドトピックにも表示された。水曜日の午後、ユーザーが彼の名前をクリックすると最初に表示されるのは、ホッグが俳優だという噂を覆すニュースクリップだった。しかし、そのわずか3つ下の検索結果には、別の動画が表示された。ホッグが明らかに緊張した様子で言葉を詰まらせており、「こちらはYouTubeで何度も削除されるデビッド・ホッグの動画。台本通りの動画みたい #davidhogg #actor #falseflag #censorship #floridashooting #florida」というキャプションが添えられていた。

この画像には、Carlos PenaVegaのテキストWebページと顔のファイルが含まれている可能性があります。

その下には、Facebookが元スポーツ・イラストレイテッドの水着モデル、アンバー・スミスによる陰謀論の投稿を、このトピックに関する公開投稿のトップにランク付けしました。これは、トロント・スターやCBSボストンといった信頼できるニュースソースよりも上位にランクされています。スミスの投稿には、「Fascist-Bookはすぐにこの投稿を削除するので、すぐにご覧ください。デビッド・ホッグはわずか6ヶ月前に銃規制反対集会に参加していました（写真、冗談抜きで！）。彼は、あなたの権利を奪うために仕組まれたフロリダでの最近の偽旗作戦に参加した生徒ではありません。どうか、あなたの権利のために戦ってください！」と書かれています。

Facebookのコンテンツポリシー責任者であるメアリー・デブリー氏は声明で、「先週フロリダで発生した悲劇の犠牲者を攻撃する画像は忌まわしいものです。このコンテンツをFacebookから削除します」と述べた。

これは標準的な対応であり、プラットフォーム上での将来の偽情報キャンペーンの拡散を防ぐことはほとんどできず、すでに発生した被害を軽減することもできません。

中途半端な対策

このシステムは破綻している。長年ソーシャルメディアプラットフォームを悩ませてきた偽情報の拡散に直接寄与しているのだ。では、なぜ廃止しないのか？そもそもなぜトレンドモジュールが必要なのか？シンクタンク「ニュー・アメリカ」のフェローで、最近Facebookのプライバシー・公共政策チームを退職したディパヤン・ゴッシュ氏は、その大きな理由は金銭にあると指摘する。「10年前、あるいは5年前のFacebookは、今のFacebookとは違う」とゴッシュ氏は語る。「今のFacebookは、世界中でその規模と影響力を飛躍的に拡大してきた。その理由の一つは、人々の目を引きつけ、長時間画面に釘付けにする、特に魅力的なコンテンツのプロモーションにある」

FacebookとYouTubeのこれまでの最善の回答は、アルゴリズムの改善という漠然とした約束を除けば、問題のあるコンテンツを削除するためにそれぞれ1万人のモデレーターチームを編成することを約束することだった。しかし、YouTubeだけでも毎分400時間分以上のコンテンツがアップロードされている。1000万人の人間でさえ追いつくのは至難の業なのに、ましてや1万人となると話は別だ。

一方、Twitterは水曜日、自動アカウント（ボット）のプラットフォーム上での運用方法を変更すると発表しました。これは、Twitterトレンドに重大な影響を及ぼす可能性があります。Twitterトレンドは、あらゆるプラットフォームの中で最も簡単に操作されやすいと言えるでしょう。ボットのネットワークは連携して同じハッシュタグを次々と宣伝し、特定のトピックをトレンドに押し上げようとします。

外交政策研究所の研究員で元FBI特別捜査官のクリント・ワッツ氏は、テロリズムとソーシャルメディアに関する議会公聴会で最近、「ソーシャルボットの悪影響はメリットをはるかに上回る。大量の誤情報を日常的に発信するアカウントの匿名複製は、公共の安全に深刻なリスクをもたらす可能性があり、権威主義者によって利用された場合は民主主義への直接的な脅威となる」と述べた。

Twitterはボットを完全に禁止するまでには至っていないものの、ボット同士のやり取り方法を大幅に制限することになる。同社はブログ投稿で、サードパーティ開発者向けに、ユーザーが複数のアカウントから同時に投稿や「いいね！」をしたり、複数のアカウントで単一のハッシュタグを一斉に使用したりするのを防ぐための新たな制限をいくつか詳細に説明した。

これらの変更が、これらのトレンドツールの排除にどれほど効果的かはまだ分からない。結局のところ、デマを流す人や荒らしは、これまでこれらのプラットフォームが仕掛けてきたほぼすべての障害を回避してきた。なぜ今回は違うのだろうか？

テクノロジー企業は「トレンド」という概念を導入することで、数十億人のユーザーに対し、必要なニュースを提供すると宣言した。しかし、ソーシャルプラットフォームが繰り返しその役割を果たせていない現状では、人々は本当に彼らの助けを必要としているのだろうか、と自問する価値がある。

トレンドマシン