イーロン・マスクのXに関する偽情報対策の主な手段が問題を悪化させていると内部関係者が主張

X（旧Twitter）上の偽情報対策として1年前に開始されたクラウドソーシングによるファクトチェック・プログラム「コミュニティ・ノーツ」は、設立以来ほとんど注目を浴びてこなかった。しかし先週、イーロン・マスク氏とXのCEOリンダ・ヤッカリーノ氏によって、進行中のイスラエル・ハマス戦争のさなか、ソーシャルメディア、特にXに氾濫する有害な偽情報の洪水に対処するための重要なツールとして称賛された。

同社は土曜日、自社プラットフォーム上で「プラットフォーム全体のノートは現在、1日に数千万回閲覧されており、過去1週間で8500万回以上のインプレッションを生み出している」と発表しました。さらに、数千人の新規投稿者がシステムに登録されたことも付け加えました。しかし、WIREDの調査によると、コミュニティノートは設計通りに機能していないようで、外部グループによる組織的な操作の危険にさらされている可能性があり、ノートの承認方法に関する透明性が欠如していることが明らかになりました。また、情報筋によると、コミュニティノートは内部抗争や偽情報で満ち溢れており、同社自身による実質的な監視は行われていないようです。

「なぜそうするのかは理解できますが、彼らが言っているような効果は全くありません」と、コミュニティ・ノーツの寄稿者の一人はWIREDに語った。「操作されやすく、あまりにも遅くて面倒です。私の見る限り、何の役にも立ちません。正直なところ、偽情報を悪化させているのではないかと思います。」

マスク氏やその支持者からの報復を懸念して匿名でこの記事を書いたこの寄稿者は、プラットフォーム操作について知っているはずだ。なぜなら、彼自身がその行為に関与している一人だからだ。

彼は約25名のコミュニティノート寄稿者グループのメンバーの一人であり、特定のノートに賛成票または反対票を投じるために日々積極的に連携しています。彼は、ロシアのウクライナ侵攻後に設立された分散型オンラインボランティア運動であるNorth Atlantic Fella Organization（NAFO）のメンバーでもあります。NAFOは、ユーモアを通してロシアの偽情報やプロパガンダに対抗し、ウクライナ支援のための資金集めを行っています。

「私たちはグループを作って、誰がどのコミュニティノートを書くかを調整しています。ノートを書いたら、役に立つと投票してもらえるように調整できます。そして、その承認は一切ありません」と寄稿者は述べています。寄稿者は、ロシア大使館も同様の戦術を使っており、「反ロシア的な内容にはダウン投票する」と主張しています。NAFOメンバーが書いた、物議を醸しているロシア大使館の投稿に添付された未公開のノートをWIREDが調べたところ、それらはすべて繰り返しダウン投票されていることが分かりました。

南半球を拠点とする寄稿者はWIREDに対し、Xにアカウントを2つ所有しており、その両方がコミュニティノートシステムへのアクセスを承認されていると主張している。これは、クレムリンの荒らしが米国民になりすまして複数のTwitterアカウントを操作し、2016年の選挙に影響を与えることができたのと同じように、このプログラムがさらに広範囲にわたる操作に対して脆弱である可能性があることを示す証拠である。

Community Notesは、2020年10月にBirdwatchとして誕生しました。当初は2020年10月に発表され、ドナルド・トランプ支持者による米国議会議事堂襲撃事件の数週間後の2021年1月にパイロットプロジェクトとして稼働を開始しました。群衆の力を活用してほぼリアルタイムで誤情報を暴く手段として構想されたBirdwatchは、コミュニティに完全に受け入れられることはありませんでした。昨年3月、ロシアのウクライナ侵攻直後には、より広範な展開に失敗したとして批判されました。

Twitterの元信頼・安全担当責任者ヨエル・ロス氏はWIREDに対し、当時社内ではこのツールがプラットフォーム上の情報の質を管理するのにどれほど効果的か不安があったと語った。

「信頼と安全チームには、人々が大規模に無償労働を行うことはない、またバードウォッチ形式で注目を集めるものが、必ずしもポリシー違反となるような有害な行為と一致するわけではないという信念がありました」とロス氏は語る。

この真実は後に、少なくとも部分的には裏付けられました。2022年4月にMITの研究者によって発表された研究によると、バードウォッチのユーザーは、自分とは異なる政治的見解を表明した投稿をファクトチェックする可能性がはるかに高いことがわかりました。この研究の主任研究者であり、MITスローン経営大学院の教授であるデイビッド・ランド氏は、ユーザーが注釈を付けることを選択したツイートの約80%は実際には誤解を招くものであったものの、ユーザーは圧倒的に政治的なコンテンツを優先する傾向があったと述べています。また、ユーザーはコンテンツが「合理的」かどうかに基づいてフラグを立てる傾向もありました。これらのユーザーが、誤情報を暴いたり、正しい代替情報を提供したりするための知識とスキルを持っていたかどうかは不明です。

「今イスラエルとガザで起こっているような、膨大な数の未知数がある状況では、『これは妥当だろうか？』という直感的な判断は役に立ちません。私の理解では、プロのジャーナリストでさえ、何が真実で何が真実でないかを見極めるのに苦労しています」とランド氏は言う。これほど急速に変化し、不安定な状況では、「群衆が作り出すのは、大きな騒ぎになるでしょう」と彼は言う。

2022年10月下旬にマスク氏が同社の経営権を握った直後、同氏はバードウォッチを「コミュニティ・ノーツ」と改名し、このシステムには「情報の正確性を向上させる驚異的な可能性」があると主張した。その後数ヶ月にわたり、Xは社内のコンテンツモデレーションと信頼性・安全性を監督していたほぼすべてのチームと担当者を組織的に排除し、コミュニティ・ノーツの役割をさらに重視した。

Xの事業運営責任者であるジョー・ベナロック氏はWIREDに対し、同社には44カ国にコントリビューターがいると語った。正確な数字は明かさなかったものの、過去1週間で1万人以上がプログラムに参加したという。WIREDが入手した情報によると、プログラムに自発的に参加しているコントリビューターに加え、X自身から招待されているコントリビューターもいるという。これは、私たちが話を聞いたあるコントリビューターと、Xを検索した結果から明らかになった。Xから参加を勧められたというコントリビューターの証言だ。

ベナロック氏は、コミュニティノートに何らかのモデレーション機能があるかどうかについては言及しなかった。ベナロック氏は「コミュニティノートはXに関する誤情報に対処するために設計された」と述べているが、ロス氏は、コミュニティノートの本来の目的はその役割のみを担うことではなかったと述べている。

「バードウォッチの意図は、Twitterの他の誤情報対策に取って代わるものではなく、常に補完することだった」とロス氏は語る。「Twitterはキュレーションチームを丸ごと解雇した。彼らがいなければ、たとえポリシーがまだ有効だとしても、誤情報対策は機能しない」と彼は言い、訂正用のツイート集を作成したり、誤情報が含まれている場合にユーザーに知らせるラベルを作成したりしていた元従業員たちのことを指している。

「コミュニティノートは、トラスト＆セーフティ部門のスタッフの完全な代替にはならない」と、報復を恐れて匿名を条件にWIREDの取材に応じたTwitterの元トラスト＆セーフティ部門従業員は言う。「その業務をコミュニティにアウトソーシングするわけにはいかない」

Xは、コミュニティノートがプラットフォーム上の偽情報対策に大きな効果を上げていると主張しているが、ノートシステム自体も偽情報を拡散させる可能性がある。先週、WIREDはドナルド・トランプ・ジュニア氏の投稿に添付されたノートで、同氏が投稿したハマスによるイスラエル攻撃に関する動画が偽物であると誤って主張していたことを明らかにした。その後、元のノートはWIREDの報道を引用したノートに置き換えられた。

寄稿者が書いたメモの多くは、一般公開されることはありません。WIREDがこれらの未公開メモを調査したところ、メインのXプラットフォームと同様に、コミュニティノートのコミュニティも内輪もめや誤情報によって分裂していることがわかりました。

土曜日、Xのイスラエル公式アカウントは、床に血がびっしりと塗られた子供部屋らしき写真を投稿した。「これはあなたのお子さんの寝室かもしれません。言葉では言い表せません」と投稿には書かれている。写真が偽物であるという示唆はなく、投稿には公式コメントも付いていない。しかし、WIREDが確認したコミュニティコメントのバックエンドでは、複数の投稿者が陰謀論を巡る議論を繰り広げている。

「酸素を失った血液は濃い赤色なので、これは演出だ」とある投稿者は書いた。「文脈を無視して言葉と画像を結びつけることで、読者に感情的な反応を引き出そうとする、操作的な意図を持った投稿だ」と別の投稿者は批判した。

「この写真が演出されたという証拠はありません。血に関するウィキペディアの記事も、これが演出されたという証拠にはなりません」と別の投稿者は書いている。

「この写真が10月7日の攻撃のものであるという証拠はない」と別の人物は主張している。

こうしたやり取りは、Xがプログラムへの寄付者をどのように承認しているのかという疑問を生じさせるが、この点、そして各寄付が承認される前に具体的にどのような要素が考慮されているのかは依然として不明である。Xのベナロック氏は、寄付者の選出方法に関する質問には回答しなかった。

WIREDが取材したすべての貢献者によると、このシステムへの承認を受けた人は誰もトレーニングを受けておらず、最初に課せられる唯一の制限は、他のノートを複数評価するまでは新しいノートを作成できないということだ。ある貢献者は、この承認プロセスは6時間もかからないと主張している。

投稿にノートを添付して公開するには、一定数の投稿者から「役に立つ」と承認される必要があるが、その数は不明である。Xは「役に立つ」ノートとは、「様々な視点を持つ十分な数の投稿者」が集まるノートであると説明している。ベナロック氏は、Xがユーザーの政治的傾向をどのように評価するかについては言及しなかった。しかし、少なくとも以前は、異なる視点を持つと推定されるユーザーから肯定的な反応を得たノートを優先する「ブリッジベースランキング」と呼ばれる手法を採用していた。それでも、少なくとも一部のコミュニティノート投稿者にとって、この仕組みは明確ではない。 

「人々がどのような視点を持っているかを知る仕組みが見当たりません」と、Xにコミュニティノートの寄稿者に招かれた英国在住の元ジャーナリスト、アンナはWIREDに語った。「正直言って、それがどうやって機能するのか全く理解できません。評価できるはずのない新しいトピックが出てくるのですから」。アンナは他のXユーザーからの反発を恐れて、ファーストネームのみを明かすことを希望した。

公開されるメモはたくさんあるものの、役に立たないと判断されたり、WIREDがレビューしたほとんどのケースでは他の投稿者からの投票数が足りなかったりして、未公開のままになっているものも数多くあります。ある投稿者はWIREDに対し、先週評価した503件のメモが、投票数が足りなかったために宙ぶらりんのままになっていると話しました。

「コミュニティノートの根本的な問題の一つは、日々消費または投稿されるメディアの量に対して、実際には拡張性がないということです」と、オンラインではInvestigator515として知られる寄稿者はWIREDに語った。彼らは、職業上の評判を傷つけることを恐れて、ハンドルネームのみで身元を明かすことを希望した。

WIREDの取材に応じた寄稿者全員が、コミュニティ・ノーツはプラットフォーム上の誤情報を監視する能力がないと感じており、現状のままであれば今後数カ月でプログラムが少しでも改善されるとは誰も考えていなかった。

「かつてのTwitterのようなトップダウン型のモデレーションがなくなった今、誤情報への対処ははるかに困難になっています。故意に誤情報を拡散するアカウントは、実際に大きな被害をもたらす前に凍結されてしまうからです」と、長年の寄稿者である彼は言う。「ですから、コミュニティノートに頼るのは良くありません。適切なコンテンツモデレーションの代わりにはなりません。」

2023 年 10 月 17 日午後 7 時 10 分 (東部標準時) に更新され、コミュニティ ノート システムが投稿者の視点の多様性をどのように評価するかについてのコンテキストが追加されました。