イーロン・マスクの最初の選挙危機の内幕 ― 鳥を「解放」した翌日

イーロン・マスクがTwitter買収契約を締結した翌日、同社のシアトルオフィスは従業員とその子供たちのためにハロウィンパーティーを開催した。レベッカ・スコット・セインは、娘のバズ・ライトイヤーにエイリアン役を演じるため、鮮やかな緑色のドレスを着ていた。Twitter（現X）でプラットフォームの選挙計画と運営を支援する役割を担っていたセインは、パーティーに向かう車を運転中に緊急電話がかかってきた。電話の相手はTwitterのポリシーチームのメンバーだった。Twitterはブラジルで「同意判決」、つまり訴訟の脅しを受けたばかりだった。ブラジルでは、極めて分断された大統領選と知事選の決選投票が迫っていたのだ。

言論の自由を絶対視するマスク氏は、既にコンテンツ・モデレーション（Twitterがプラットフォーム上の問題のあるコンテンツに対処するために導入しているシステムとチーム）の規模を縮小すると公言していた。問題は、Twitterが既にブラジルにおける選挙関連の誤情報の量について対策を講じると約束していたことだった。ブラジル当局はTwitterにその約束を守るよう求めていた。ポリシーチームのメンバーは、Twitterがそれに従わなければ、ブラジル当局は同社に罰金を科すか、1900万人以上のユーザーを抱えるプラットフォームを閉鎖する可能性があると彼女に告げた。早急に何らかの対策を講じる必要があったのだ。

テインは、やる気のない社員たちが集まるオフィスに到着した時のことを思い出す。多くの社員はテーブルサッカーをしたり、のんびり過ごしていた。仕事がないからだ。マスク氏が社長に就任して間もなく、会社は経営陣の交代（そしてその後のレイオフ）中に変更が行われないよう、社内システムの多くをロックダウンした。「アクティブディレクトリも、すべてのシステムもシャットダウンされてしまいました」とテインは言う。どのリーダーがまだ会社に残っているのか、誰にアラートを伝えればいいのか、全く分からなかった。「電話がかかってきて、『ああ、どうしよう。誰もオンラインじゃない』と思ったんです」

テインはガラス張りの会議室に飛び込み、Twitterのメールの慣例を駆使して、新経営陣の連絡先を推測し始めた。シアトルのスカイラインを見下ろすDJと風船でできた幽霊のショーを前に、親子連れが集まってくる中、テインはブラジル問題について一体誰が何かできるのかと自問した。

その後、Twitterのプロセスの欠陥を補い、主要選挙中にTwitterが誤情報や偽情報の媒介物となるのを防ごうとする混乱した動きが続きました。何が起こったのかを理解するため、WIREDはこの危機管理に関わった5人に話を聞いた。

テイン氏は今、マスク氏が率いる初期の頃に経験したことは、単なる偶然ではなく、むしろ前兆だったのではないかと懸念している。それから1年、テイン氏をはじめとする元従業員や専門家たちは、レイオフによって疲弊し、穏健主義に敵対的なリーダーが率いるXが、2024年に破滅へと突き進むのではないかと懸念している。2024年には、米国を含む50カ国以上で選挙が行われる。

X社はコメント要請に応じなかった。

イーロン・マスクが買収前夜、シンクを持ってサンフランシスコのツイッター・オフィスに現れたころには、テインはツイッターに入社して1年ちょっとだった。同社は2020年の米大統領選で痛い目を見ていた。当時のドナルド・トランプ大統領への場当たり的な対応が、1月6日の米議会議事堂襲撃に加担したという非難を招いたのだ。そのため、将来の選挙に向けた手順を整備しようとしていた。2022年のブラジル選挙と米中間選挙は、2024年の米大統領選の予行演習となるはずだった。マスクがツイッター買収を申し出たころ、テインは第2子の育児休暇中だった。2022年7月末に職場復帰したとき、買収（正式には10月まで完了しない）の影響はすでに感じられていた。テインはツイッターで選挙業務に「関わった」人々全員の名前をエクセルブックにまとめた。その後数か月にわたって彼らが去っていくたびに、彼女は彼らの名前を一つずつ消していった。

これらの退職は、Twitterがブラジルで約束していた機能の展開計画を阻害した。その計画には、全国で選挙に立候補している多数の候補者の名前の横に特別なバッジを設置することが含まれていた。チームはこの作業の規模を過小評価していたとテイン氏は語る。組織再編と退職も作業を遅らせた。さらに2022年9月5日、カリフォルニア州の猛暑によりTwitterのデータセンターの一つがオフラインになり、プラットフォームへの大幅な変更が一時的にほぼ不可能になった。これらの機能は10月初旬までに導入される予定だった。「9月にはすでに、選挙管理委員会に『約束したことは実現できません』と伝えなければなりませんでした」とテイン氏は語る。

ブラジル選挙が近づくにつれ、Twitterのチームは「卓上」シナリオ演習を行い、プラットフォームが直面する可能性のある様々な脅威とその対応策をウォーゲームで検証した。テイン氏もその一つに参加し、「もし選挙で争いがあったら？」「候補者の一人が時期尚早に勝利宣言をしたら？」といった問題を検討した。テイン氏らによると、これらの演習を調整していた人物もマスク氏がCEOに就任する前に退社したという。

ウォーゲーミング社に提示された他のシナリオの中には、経営陣が突然交代した場合に何が起こるかというものもあったと、このプロセスに詳しい関係者は語っている。Twitterの経営自体がリスクになった場合、チームはどう対処するのか？このシナリオは実行されなかった。

ブラジル選挙当局は、ツイッターの新経営陣にリスクを感じていたようだ。同意判決を知っていた元従業員数名と、それに反応した関係者によると、ブラジル選挙当局は主に2つの懸念を表明した。1つ目は、マスク氏がコンテンツモデレーションの規模を縮小すると宣言したこと。選挙裁判所から削除対象としてフラグが付けられたコンテンツを削除しなかった場合、プラットフォームがブラジルの法律に違反する恐れがあった。2つ目は、ツイッターが候補者向けラベルの一部しか導入できていないことを当局が懸念していると、これらの従業員に伝えられたこと。マスク氏が導入を計画していた有料のツイッターブルーマークは、簡単に偽アカウントの作成に利用される恐れがあるという。全国で何千人もの人が地方や国の選挙に立候補しているため、誰でも偽の候補者であると主張することができると当局は懸念していた。

マスク氏がモデレーションに公然と反対したことで、ツイッター社員の中にはブラジル人の要求にどう対応していいか分からなかった者もいた。この億万長者は買収を成立させ、「鳥は解放された」と宣言するずっと前から、自分の気持ちをはっきりさせていた。2022年4月、同社買収を初めて申し出た際、マスク氏は違法な発言を超える「検閲」に反対するとツイートした。2022年6月には、同プラットフォームのモデレーションが米国の「半分」に対して偏っていると述べた。ツイッターの経営権を握る前、買収を申し出た後、マスク氏は、当時の政策責任者だったビジャヤ・ガッデ氏が同社の左翼的偏向の責任を負っていると示唆するミームをツイートした。しかし、同社自身の調査では、同プラットフォームは右翼的なコンテンツを優遇していることが判明していた。ガッデ氏は、マスク氏が同社を掌握した後、最初に解雇された幹部の1人だった。次にどの社員や部署が解雇されるかは誰も分からなかった。

テイン氏と同僚たちは、政治的リスクのせいでマスク氏がTwitterのシステムに戻ってコンテンツモデレーションのガードレールを作動させてくれるかどうか納得しないのではないかと懸念した。そこで彼らは、11月にカタールで開幕予定だったサッカーワールドカップを機に、新たな提案を練った。

「『この人は入社したばかりでソーシャルメディアの仕組みも理解していないし、ブラジルで決選投票があることすら知らないかもしれない』と考えました」とテイン氏は語る。サッカー熱狂のブラジルにとって、ワールドカップは巨大な商業的チャンスだった。プラットフォームがオフラインになれば、収益に大きな打撃を与えることになる。「ブラジルは私たちにとって3番目に大きな市場であり、ワールドカップは年間で2番目に大きな広告収入のチャンスだと捉え直しました」とテイン氏は語る。「ブラジルでサービスが停止すれば、信託義務違反のリスクが生じるのです」

ガラス張りの会議室の外でハロウィンパーティーを眺めるテインさん。同僚たちは、上級社員とマスク氏との会議について最新情報を彼女に伝えてきた。マスク氏はリスクアセスメントを受けたという。ワールドカップの枠組み作りは功を奏したとテインさんは言う。上級チームメンバーはマスク氏を「とても理解のある方」だと彼女に話した。マスク氏の承認を得て、テインさんとチームは事態の収拾に奔走し始めた。

コンテンツモデレーションは自動化された意思決定と人間による意思決定を組み合わせたものですが、選挙期間中、Twitterは特定の自動モデレーションシステム（ボット）を構築していました。例えば、機械学習アルゴリズムは特定の単語や用語にフラグを付けたり、ツイートに選挙関連情報（公式ソースへのリンク付き）を含むラベルを付けたりすることがあります。しかし、Twitterのシステムの大部分は凍結されたままだったため、誰かがシステムにアクセスしてこれらの特定のアルゴリズムを有効にする必要がありました。テイン氏がそうする権限を持つ従業員に連絡を取ったところ、彼らは信じられないといった様子でした。「彼らはこう言いました。『ニュースでマスク氏が『私はコンテンツモデレーションをしない』と言っているのに、あなたにアクセス権を与えるために私の仕事を失わせるつもりですか？』」と彼女は言います。

最終的に、当時トラスト＆セーフティ製品担当副社長だったエラ・アーウィン氏は、マスク氏がブラジル選挙における特定のコンテンツモデレーションを承認したことを示すメモをシステム内に作成するよう依頼された。Twitterは立候補しているほとんどの候補者にラベルを付け、選挙に関する誤情報を含む可能性のあるツイートにフラグを付けた。

しかし、危機はこれで終わりではなかった。ブラジルのプラットフォームに溢れかえる誤情報や偽情報の量は、寄せ集めのチームでは対応しきれないほどだった。WIREDが確認したメッセージには、問題のあるコンテンツのバックログが増加するにつれて、チームがリソースの増員を求めている様子が伺える。メッセージによると、急速に増え続けるキューに対処するため、チームにはわずか1人しか追加で人員が配属されなかったという。

テイン氏と彼女のチームは、ブラジル選挙の間もTwitterの運用を継続することに成功した。選挙が終わると、彼らは次の大きな課題、11月8日の米国中間選挙へと目を向けた。彼女と同僚たちは、ブラジルに対して行われた譲歩を米国にも拡大するよう求めていた。その後数日間、彼らは計画をまとめるために奔走した。しかし、米国中間選挙の4日前、11月4日、テイン氏は3,700人のうちの1人となり、その中には同社のトラスト＆セーフティ部門のスタッフも多数含まれていた。

過去1年間、ヘイトスピーチや誤情報・偽情報の追跡調査を行う研究者たちは、プラットフォームにおけるモデレーションの悪化に関する報告書を次々と発表してきた。プラットフォームの安全を守るはずのチームは、組織的に骨抜きにされてきた。2022年11月、マスク氏は約4,400人の契約社員を解雇した。その中にはコンテンツモデレーションを担当していた者もいた。マスク氏は2023年4月までに、同社の従業員の約80%を削減したと述べた。9月には、同社は選挙業務に携わる残りの信頼と安全担当スタッフの半数を削減すると発表した。

その他のポリシー変更も効果をもたらさなかった。4月、プラットフォームは中国やロシアなどのプロパガンダメディアにこれまで付与されていた「国営メディア」というラベルを削除した。偽情報調査機関NewsGuardの最近の調査によると、この変更後、イラン、ロシア、中国の国営プロパガンダへのエンゲージメントが大幅に増加したことが明らかになった。10月には、NewsGuardはイスラエルとハマスの紛争に関するX上の偽情報の約4分の3が、認証済みの「青いチェックマーク」ユーザーによるものだと明らかにした。クラウドソーシングによる一種のモデレーション機能を導入したプラットフォームの「コミュニティノート」機能は、時折、ノイズを増加させている。

シンクタンク「アメリカ進歩センター」は、2024年の国政選挙で約20億人が投票すると推計している。そのほとんどは米国や欧州以外の国、例えばブラジルなどで行われるが、ブラジルではソーシャルメディア企業がすでに現地語でのモデレーションに苦戦している。9月には、150以上の市民社会団体からなる「グローバル・テック・ジャスティス連合」が、テック企業に対し2024年の選挙に向けた行動計画の共有を求めた。連合の主導に尽力した非営利デジタル権利団体「デジタル・アクション」のキャンペーンディレクター、アレクサンドラ・パーダルは『WIRED』US版に対し、この要請に全く応じなかったのはXだけだったと語った。「来年の大規模な選挙サイクルに向けて、彼らが準備ができている、あるいは準備したいと考えている兆候は全く見られません」と彼女は言う。

信頼性と安全確保のための人員削減に加え、「世界中の選挙の公正性に明らかに脅威となる問題への対処に役立つプラットフォームの基本機能も縮小された」と、擁護団体アカウンタブル・テックの共同創設者ジェシー・レーリック氏は述べている。これには「政府関係者や国営メディアのアカウントのラベル削除も含まれ、Twitter Blueは明らかに大失敗だった」とレーリック氏は述べ、プラットフォームの新たな収益分配モデルが混乱に拍車をかける可能性があると指摘する。「とんでもない、あるいはセンセーショナルなコンテンツを投稿して拡散させ、そこから利益を得るという金銭的インセンティブがあるのだ」

マスク氏はTwitterのAPIの課金も開始しており、プラットフォームを監視する人々がコンテンツモデレーション問題の真の規模を評価することが困難になっている。Xは、Twitterの責任追及を求める団体を訴えるとさえ警告している。

テイン氏はTwitterを去った際、退職金と引き換えに秘密保持契約に署名することを拒否したと述べている。いつか自分が経験したことを話したくなるかもしれないと考えたからであり、マスク氏の下でTwitterがもたらすであろう損害を懸念していたからだ。マスク氏による買収以前から存在した欠陥が増幅され、民主主義に大きなリスクをもたらすことを懸念している。だからこそ、彼女は今話すことを選んだのだ。「もしこれが私を失脚させる原因になるなら、どうぞ」と彼女は言う。「もっとひどいことで問題になることもある」