ファクトチェックなし、ヘイトスピーチ増加：メタがMAGAへ

ドナルド・トランプ氏が11月5日に大統領職に返り咲いて以来、シリコンバレーの著名人たちは、見苦しい卑屈な振る舞いを繰り広げている。マール・アー・ラーゴに聖地巡礼をしたり、就任式基金に数百万ドルもの寄付をしたり、所有する出版物の編集部に干渉したりと、新リーダーの支持を得ようと躍起になっているようだ。昨日、Metaの創設者兼CEOであるマーク・ザッカーバーグ氏は「ビールを持っててくれ」と発言した。

5分間のインスタグラム動画で、ザッカーバーグは新しい巻き毛と90万ドルのグルーバル・フォルセイの腕時計を身に着け、Facebook、Threads、そしてInstagramにおける誤情報とヘイトスピーチの洪水を解き放つ可能性のある一連の抜本的なポリシー変更を発表した。彼の論拠は、右派議員、評論家、そしてトランプ氏自身が長年主張してきた論点をそのまま繰り返したものだった。ザッカーバーグは変更のタイミングについても遠慮せず、新たな政治体制が自身の考えに影響を与えたと明言した。「最近の選挙は、言論を再び優先する文化的な転換点のようにも感じます」と、動画の中で彼は述べた。

ザッカーバーグ氏によると、今回の変更の主な動機は「表現の自由」を促進したいという願望だという。メタのソーシャルネットワークはユーザーの言論を過度に制限するようになっていたので、たとえ「悪質な発言を捕まえる機会が減る」ことになっても、自由を謳歌することが今回の変更の主旨だとザッカーバーグ氏は述べた。メタと第三者のファクトチェック機関との長年にわたる提携関係の終了や、ヘイトスピーチの拡散抑制に向けた取り組みからの撤退もその一つだ。

しかし、その真相はザッカーバーグ氏の用語法に表れている。彼は、有害なコンテンツの宣伝を避けるための（完全に成功したとは言えない）自社の取り組みを「検閲」と表現した。そして今、彼は従業員の仕事を、政治的右派が行ったのと同じ悪意ある言葉で形容している。彼らはこれを棍棒として使い、Facebook社に対し、標的型嫌がらせや意図的な誤情報といったものを極右派が宣伝することを許可させたのだ。実際には、Meta社にはコンテンツを好きなように監視する権利が十分にある。「検閲」は政府が行うものであり、民間企業はユーザーや広告主にとって適切なコンテンツを決定することで、自らの言論の自由を行使しているに過ぎない。

ザッカーバーグ氏がこの用語に初めて同意する可能性を示唆したのは、昨年8月に共和党下院議員ジム・ジョーダン氏に宛てた、お世辞を交えた書簡の中でだった。バイデン政権はMetaに対し、新型コロナウイルス感染症（COVID-19）パンデミック関連の一部コンテンツを「検閲」するよう求めている、と記していたのだ。（コンテンツはそのまま残っており、これは米国における表現の自由を形作る権限が政府ではなくFacebookに与えられていることを示すものだ。）しかし、昨日のインスタグラム投稿でザッカーバーグ氏はこの用語を「ベアハグ」し、コンテンツモデレーションという慣行そのものの同義語として用いた。「当社のプラットフォームにおける検閲の量を大幅に削減します」と彼は約束した。別の解釈をすれば、「ドーベルマンを解放する！」とも言えるかもしれない。

ジョーダン宛ての同じ書簡の中で、元左派CEOは今後どちらの政党にも味方しないと誓った。「私の目標は中立であり、どちらの立場にも加担しないこと、ましてや加担しているように見せかけないことだ」と彼は書いた。トランプ氏が当選した今、それはすべて無意味になった。「今は新しい時代に入ったように感じる」と彼は昨日の動画で語った。どうやら、民間企業が政権党との足並みを揃えるためにルールを変える時代なのだ。先週だけでも、ザッカーバーグ氏は、退任する同社の元グローバル問題担当社長ニック・クレッグ氏に代わり、元共和党活動家で故アンソニー・スカリア判事の書記官を務めたジョエル・カプラン氏をCEOに任命した。カプラン氏は2016年の大統領選中にFacebookに対し、誤情報を無視するよう強く求めたことがある。ザッカーバーグ氏はまた、熱烈なトランプ支持者であるUFC（アルティメット・ファイティング・チャンピオンシップ）代表のダナ・ホワイト氏をMetaの取締役に任命した。

これらの変更にMAGA（メディア・アジェンダ）的な要素があることを示すもう一つの兆候は、ザッカーバーグ氏がMetaのトラスト＆セーフティおよびコンテンツモデレーションチームをカリフォルニアからテキサスに移転すると発表したことだ。彼は再び、地理的移転の理由は政治的なものだと述べた。「チームの偏見への懸念が少ない場所でこの業務を遂行することで、信頼関係を築くのに役立つと考えています。」こんにちは、マーク？この移転は、Metaのコンテンツ・アービトラージ（裁定者）を、潜在的に異なる偏見を持つ場所に固定するだけだ。また、これはザッカーバーグ氏自身が、トランプ氏の弱点であるカリフォルニアを、共和党支持が強いテキサスよりも働きがいのない場所と考えている可能性を示唆する、明白な声明でもある。

皮肉なことに、こうしたことはすべて、Metaがヘイトスピーチやその他の合法だが有害な投稿の削除において、かつては悲惨な実績だったものを改善することにほぼ成功したと言える時期に起こっている。2019年、私が同社のコンテンツモデレーションオフィスの一つで一日を過ごした際、そこで働く苦境に立たされたモデレーターたちは、ヘイトスピーチのようなグレーゾーンへの対応はAIには到底できない唯一のことだと私に語った。しかし最近、Metaの主任AIサイエンティストであるヤン・ルカン氏は、生成AIツールが状況を一変させたことを明らかにした。「5年前、Facebookがプラットフォームから削除したヘイトスピーチのうち、約20～25%は、誰にも見られずにAIシステムによって事前に削除されていました」と、彼は2023年末のインタビューで私に語った。「昨年は95%でした。」

今、Metaは、その勝利をゴミ箱に捨てると宣言している。アルゴリズムを変更し、AIはヘイトスピーチや、おそらくいじめといった「軽微な」ポリシー違反を積極的にブロックしなくなる。（Metaは、テロや児童搾取といった「重大度の高い」違法コンテンツについては、引き続き厳重にブロックするとしている。）Metaはまた、以前はヘイトスピーチとみなされていた特定の種類のコメントを許可するなど、スピーチポリシーにも一連の変更を加えた。その一つが、右翼のホットな問題であるジェンダーと性的アイデンティティに関するものだ。例えば、Facebook上でゲイやトランスジェンダーの人々を精神疾患だと非難したり、単に変人呼ばわりしたりすることが、今では問題ない。

公平に言えば、ザッカーバーグの提案には確かに一理ある。しかし、彼は過去を誤解している。確かに、ファクトチェックの実験は完全に成功したわけではないが、その失敗の一因は、右翼からの批判もあって、Metaがファクトチェックに全面的に取り組めなかったことにある。過剰なアルゴリズムによる削除によって有益な議論が阻害されたケースや、許可された発言が誤って削除された例も数多くある。しかし、Metaが「女性は戦闘任務に就くべきではない」といった会話のきっかけとなる発言を愚かにもブロックした（現在は撤回されている）のは、ルールやアルゴリズムの不備というよりも、より微妙な判断ができる人間によるコンテンツモデレーションへの投資不足が原因だったと言えるだろう。

詳細はさておき、この発表の文脈を無視することは不可能だ。特にザッカーバーグ自身が率直に語っていることだ。これはMAGAの動きだ。バイデン氏がホワイトハウスにいた頃、ザッカーバーグ氏は政治とは一切関わり合いになりたくなかったが、今では政治的な投稿を格下げすることはしないと述べている。さらに同氏は、「アメリカ企業を追及し、検閲を強化しようとしている世界各国の政府に対抗するため、トランプ大統領と協力するつもりだ」と述べている。ザッカーバーグ氏の透明性は称賛に値する。Metaはトランプ氏と保守的な価値観を支持すると述べており、今ではトランプ氏がその権力を使って外国による同社事業規制の試みを阻止するだろうと賭けているのだ。ザッカーバーグ氏の投稿から数時間後、トランプ氏自身がその解釈に信憑性を与えた。Metaの動きを賞賛した後、ザッカーバーグ氏がトランプ氏によるMetaに関する脅迫に対応しているのかと問われ、「おそらく」と次期大統領は答えた。

ザッカーバーグ氏は常にMetaのビジネス利益を最優先に考えてきましたが、コンテンツモデレーションに関しては、必ずしもこのように取引的な姿勢を貫いていたわけではありません。私が同社を綿密に追跡していた数年間、特に2016年の米国大統領選挙後に何度か会話を交わした際、彼は思慮深く、自社のポリシーがユーザーや社会全体に与える影響について真摯に懸念を抱いていると感じました。たとえ彼の決定の多くが、最終的には利益、エンゲージメント、成長の最大化を優先するものであり、社交性を重視していなかったとしてもです。確かに、当時は「表現の自由」について懸念を抱いていましたが（昨日の投稿でも言及した、2019年にジョージタウン大学で行った綿密に練られたスピーチでも、この点に焦点を当てていました）、同時に、ポリシーチームとコンテンツモデレーターからなる巨大な官僚組織の構築にも尽力しました。しかし今、彼はこれらの取り組みを解体、あるいは少なくともテキサスに追放し、Xで現在見られるようなクラウドソーシングによる「コミュニティノート」に移行しようとしているようです。

新生ザッカーバーグは、こうした動きから生じるであろう批判を以前ほど気にしていないようだ。しかも、批判を避けるためにテキサスに移住する必要すらない。短いスピーチの発表には解放感が漂い、まるで10年に及ぶコンテンツモデレーションをめぐる論争から手を洗い、AIと複合現実という真の情熱へと回帰するかのようだ。少なくとも、彼は表現の自由の喜びを謳歌している一人だ。