史上最大の選挙の年に向けて、Meta はどの程度準備ができているでしょうか?

2024年には世界50カ国以上で国政選挙が行われ、史上最大の選挙年となります。しかし、活動家、議員、ジャーナリストが選挙関連の誤報、偽情報、暴力の可能性について警鐘を鳴らす中、多くのプラットフォームはソーシャルメディアの安全を守る責任を負う従業員やチームを解雇しました。

特にMetaは、WhatsApp、Instagram、Facebookを合わせて約30億人のユーザーを抱え、世界の情報エコシステムを形成する上で他に類を見ない強力な力を持っています。2016年、Metaはドナルド・トランプ氏をホワイトハウスへと押し上げる上で中心的な役割を果たしたとされ、注目を集めました。アメリカの民主主義を守るための対策が不十分だったという批判を受け、Metaは2020年の大統領選挙中、選挙関連の誤情報や偽情報をプラットフォームから排除するための新たなツールとプロセスに投資しました。しかし、選挙戦が終わった後、OneZeroの当時の報道によると、Stop the Stealグループは2020年の選挙後数週間にわたって拡大を続けました。同社はこうした新たな緩和戦略の多くを撤回し、2021年1月6日の国会議事堂襲撃に至るまでの間、ジョー・バイデン氏の勝利の正当性を疑問視する言説の流布を許した。そして1月6日の暴動にもかかわらず、Metaは2020年の米国大統領選挙の結果に疑問を投げかける広告を許可し続けている。

Facebookは、ジャーナリスト、活動家、野党議員を標的とした荒らし行為を助長し、フィリピンのロドリゴ・ドゥテルテ前大統領の台頭を助長したと広く非難されている。2020年のスリランカ選挙を前に、Metaは、ファクトチェッカーによって既に虚偽と判断されたコンテンツを政治家が宣伝することを許可していた。これには、同国のイスラム教徒少数派に対する暴力を扇動する投稿も含まれていた。

「ソーシャルメディアプラットフォームは、過去の過ちから学び、今年、より適切に対応できるようにする必要があります」と、Metaの監視委員会メンバーであるパメラ・サン・マルティン氏はWIREDに語った。「ソーシャルメディア企業は、この巨大な世界的課題、そして今回の選挙で世界中で起こっていることに対処するために、自らの役割を果たす必要があると確信しています。」Meta監視委員会は、特定のコンテンツモデレーションに関する判断を下す独立機関であり、同社が設立した独立信託から資金提供を受けている。

過去18カ月間、Metaは人員削減を行った大手テック企業数社に加わった。プラットフォームから誤情報や偽情報、ヘイトスピーチを排除する「トラスト＆セーフティ」チームは特に大きな打撃を受けた。「2024年の選挙を守ることは私たちの最優先事項の一つであり、世界中で約4万人の人員が安全とセキュリティに取り組んでいます。これは2020年の選挙時よりも多くの人数です」と、Metaの広報担当者コーリー・チャンブリス氏はWIREDに語った。「私たちの誠実さへの取り組みは業界をリードし続けており、選挙ごとに学んだ教訓を活かし、新たな脅威に先手を打つよう努めています。」

WIREDとのインタビューで、サン・マルティン氏は、民主主義にとって重要な年に向けた会社の準備、取締役会の最初の緊急判断、ソーシャルプラットフォームの武器化について語った。

このインタビューは、長さと明瞭さを考慮して編集および要約されています。

WIRED：今年のアメリカ大統領選挙に関して、最も懸念していることは何ですか？Metaは2016年と2020年の選挙から学んだと感じていますか？

パメラ・サン・マルティン：選挙はどれも前回と全く同じではありません。ですから、過去の選挙で生じた問題を出発点として対処しているとしても、それだけでは十分ではありません。非常に真剣に考慮しなければならない点の一つは、アメリカの選挙で何が起こったか、そしてブラジルの選挙で何が起こったかを考えると、Metaが選挙関連の問題に対処するためにより多くのツールを活用するようになったことです。[アメリカとブラジルの選挙後、投票結果に疑問を投げかける偽情報に刺激された極右団体が、両国の議会を襲撃しました。 ]

しかし、2020年の米国大統領選挙から2022年のブラジル大統領選挙までの間、Metaは、組織的なキャンペーン、人々の組織化、あるいはプラットフォーム上のボットを利用して国家を不安定化させ、選挙プロセスへの信頼や信用を失墜させるようなメッセージを伝えるなど、プラットフォームの潜在的な悪用への対策を十分に講じていませんでした。Metaが米国において特に注意を払うべき点は、プラットフォームの抜け穴を悪用しようとする影響力のあるユーザーによってプラットフォームが悪用される可能性があることです。

WIRED：1月6日の国会議事堂襲撃事件は、同社の選挙への取り組み方や、こうした瞬間の重要性についての考え方にどのような変化をもたらしましたか？

理事会がMetaに伝えたことの一つは、こうした組織的な選挙運動への対処は選挙の公正性確保策の一環として行う必要があるということだった。1月6日の選挙結果だけでなく、Metaがこれまで様々な国で経験してきた様々な選挙サイクルからも教訓を学ぶ必要がある。

トランプ氏の件では、Metaに対し、1月6日の選挙につながった暴力的な言説を増幅させる上で、同社のアルゴリズムがどのように役割を果たしているかについて、人権影響評価を実施するよう勧告しました。Metaは勧告を受け入れないことを決定しました。しかし、Metaが考慮すべき事項の一つは、自社のアルゴリズム、自社のニュースフィード、自社の推奨システム、自社の政治広告が、選挙プロセスの保護や妨害にどのような役割を果たしうるかということです。[ Metaの広報担当者、コーリー・チャンブリス氏はWIREDに対し、同社が2020年の米国選挙への影響に関する学術研究を許可すると約束したものの、人権監査は行わないとする以前の声明を引用しました。 ]

WIRED：アメリカの選挙期間は他国と比べて異常に長いですね。メタ氏にとって、これはどのような点で困難を招いているのでしょうか？

選挙に影響を与える問題は、時間の経過とともに変化すると思います。悪影響に適切に対処し、防止し、軽減するためには、リアルタイムの監視が不可欠です。そしてもちろん、選挙運動が長期化すれば、リアルタイムの監視にはより長い時間がかかります。同時に、世界中で数多くの選挙が行われる中で、米国だけを切り離して考えるべきではないと思います。米国の選挙運動が長期化していることは、もちろん影響を与えるでしょう。Metaはより長い期間にわたって選挙を監視する必要があり、さまざまなツールやリソースを活用する必要があるからです。しかし、それは二者択一ではありません。Metaは、米国だけでなく、あらゆる選挙で発生するさまざまな問題に対処する必要があります。

WIRED：過去1年間に委員会が選定した案件のうち、2024年の選挙を見据えたものはどれくらいあるのでしょうか？例えば、カンボジアのフン・セン元首相が政敵への暴力を脅迫したとしてアカウントの停止を勧告した件や、ジョー・バイデン大統領が孫娘に不適切な接触をしているように見せかけた動画の改ざんに関する件などです。

多くの決定とケースの選択は、これらの選挙や、非常に簡単に危機的状況になり得る状況の種類にどう対処するかについて、Meta にさらに多くの情報を提供することに向けられました。

もちろん、選挙に関連するいくつかの対策も実施しており、選挙をめぐるソーシャルメディアのコンテンツ・モデレーションの改善に役立つと考えています。これには、選挙の公正性に関する指標の公開、「ニュース価値」が暴力を助長したり反対派を黙らせたりする言い訳にはならないことを示し、政治指導者が繰り返しルールを破った場合には、厳しい罰則が科されるべきであることを強調することが含まれます。選挙をめぐって発生している多くの問題は、必ずしも新しいものではありません。オンライン上の偽情報、悪意のある操作されたメディア、政治的脅迫や暴力扇動など、他にも多くの問題があります。ソーシャルメディア・プラットフォームは、過去の失敗から学び、今年これらの問題に適切に対処する必要があります。

WIRED：8月、当時のカンボジア首相フン・セン氏が政敵への暴力を脅迫したことを受け、理事会はMetaに対し、同氏のページを削除するよう勧告しました。しかし、Metaはページを残しました。激しい選挙が予想される今年、他の指導者にとってこのことがどのような意味を持つのか、ご心配ですか？

メタ氏にフン・セン氏のアカウント停止を勧告した理由は、彼自身が暴力的だったからではありません。世界中には、様々な地域、様々な国に、多くの暴力的な指導者がいます。彼がプラットフォームを利用して、反対派への暴力を増大させ、脅迫を強め、暴力を扇動していたため、メタ氏へのアカウント停止を要請しました。これは、プラットフォームの武器化です。

Meta社の決定は、他の政治指導者、特に今年選挙を控えている国々に誤ったメッセージを送るものだと私は考えています。政治指導者がソーシャルメディアを武器に脅迫を増幅させ、反対派を黙らせ、政治的反対派を威嚇するという、これほど明白な事例は他に考えられません。そして、今回の勧告で私たちが求めていたのは、Meta社が、著名人がMeta社のプラットフォームを悪用して政治的反対派を脅迫・黙らせ、暴力を扇動するのを阻止するためのプロセスについて、明確な指針を示すことでした。これは機会損失でした。

WIRED：Meta が暴力や社会不安とみなすものに関して、この決定が及ぼす影響についてどうお考えですか?

これは世界中の様々な国で起こり得ることであり、「民主主義水準が低い」と見なされる国に限ったことではありません。だからこそ、指導者がプラットフォームを武器として利用し、脅威を増大させようとする場合、Metaはそのような政治指導者がプラットフォームをそのような形で利用することを抑止するための措置を講じるべきです。

私たちがMetaに求めたのは、公人アカウントを制限するポリシーは、市民の暴動や暴力事件が発生した場合だけでなく、政治的表現がMetaのプラットフォームを利用して事前に抑圧されたり、暴力や暴力の脅迫で対応されたりした場合にも適用されるべきであることを明確にすることでした。問題は、何を市民の暴動とみなすべきかということです。市民の暴動は、単発の暴力事件、あるいは進行中の暴力事件など、事件である必要があります。Metaのプラットフォームを利用して、政治的反対勢力や政治的言説を事前に抑圧する暴力が発生した場合、それも市民の暴動とみなすべきでしょうか。理事会としては、それは市民の暴動とみなされるべきでした。

WIRED：昨年末、委員会はイスラエルとハマスの紛争をめぐり、初の緊急決定を下しました。この件は、Metaのプラットフォームからポリシー違反を理由に不当に削除された投稿に関するものでしたが、委員会はこれらの投稿が紛争を一般の人々に理解してもらう上で重要だと判断しました。委員会が、民主的なプロセスに意味のある影響を与えるような時間的余裕を持って判断を下すために、このようなメカニズムに頼る必要があるとお考えですか？

イスラエル・ハマス紛争における演習は成功したと考えています。今年も、おそらく選挙関連の問題で、この演習を活用することになるでしょう。「おそらく」というのは、選挙を守り、民主的なプロセスを守ろうとするなら、事前に準備しておく必要があるからです。例えば、Meta社に選挙の公正性確保に向けた取り組みの内容と、それによって何を達成したいと考えているかを明確にするよう依頼したのは、選挙の結果に対処できる様々な対策を策定するために、計画が必要だからです。もちろん、特定の時点で対処しなければならない問題もあるでしょう。

しかし、例えばMetaは選挙の準備として、いわゆるEPOC（選挙運営センター）を設立する際に、選挙期間中に採用される措置を実施できるよう十分な時間を確保しています。迅速な決定が必要になった場合、Metaには適切な準備を行うことを期待しています。Metaには、対応すべき決定が出るまで待つのではなく、事前に対策を講じることを期待しています。

WIRED：この業界では多くのレイオフが見られ、Metaで選挙活動を担当していた人の多くが昨年解雇されました。特に過去の実績を踏まえると、民主主義にとって重要なこの年に向けて、Metaが十分な準備ができているかどうか懸念されますか？

大規模なレイオフという状況は、ある意味懸念材料です。ユーザー数や収益が最も多い国だけが優先されるわけではありません。人材不足や投資不足の国といった問題は依然として残っており、多くの国で今年選挙が行われます。私たちは世界的な民主主義への反発に直面しています。こうした状況において、Metaの責任はより重くのしかかっています。特に、これまでの実績が期待に応えられていない南半球諸国においてはなおさらです。

Metaが選挙に適用可能な様々なリスク評価および緩和策を既に構築しているか、構築方法を知っていることを私は認識しています。Metaはまた、選挙当局との連携、選挙関連投稿へのラベル追加、信頼できる情報への誘導、選挙の正当性に疑問を投げかける有料広告の禁止、WhatsAppの転送制限の実装など、様々な国で選挙に特化した取り組みを行ってきました。しかし、理事会は、Metaがコミュニティ基準の施行において、より広範な政治的およびデジタル的文脈を考慮していないことがあることを発見しました。多くの場合、これは表現の自由の不均衡な制限や、暴力を助長または扇動するコンテンツの施行不足につながっていました。Metaは、十分な言語的および文化的知識、そして違反の可能性のあるコンテンツをエスカレーションするために必要なツールとチャネルを備えている必要があります。