マーク・ザッカーバーグがメディアに背を向ける

マーク・ザッカーバーグが主流メディアを敵視していなかった時代がありました。彼は、正真正銘の老舗メディア関係者である私を自宅に招き入れてくれました。2018年4月、私は彼の正しい行動計画を聞くために、自宅を訪ねました。これは、私が長年Facebookに同行して書籍を執筆していたことの一環でした。過去2年間、ザッカーバーグの会社は偽情報やヘイトスピーチの抑制に失敗していると、厳しく批判されてきました。そして今、若き創業者はこの問題に対処する計画を立てていました。

解決策の一つはコンテンツモデレーションの強化だと彼は私に言った。Facebookに相当な資本が投入されるとしても、投稿を審査するためにもっと多くの人間を雇うつもりだ。また、有害なコンテンツを積極的に削除するために人工知能を活用する取り組みも強化する。「人々に言いたいことを言うためのツールを与え、あとはコミュニティがフラグを立てて事後対応するだけではもう十分ではない」と彼はサンルームで私に言った。「もっと積極的に関与し、役割を果たしていく必要がある」。彼はFacebook上の有害コンテンツがどれほど有害であるかに気づくのが遅かったことを認めたが、たとえ何年もかかるかもしれないとしても、問題の解決に全力を尽くすつもりだ。「私たちは正しいことをしていると思う」と彼は言った。「ただ、もっと早く行動すべきだっただけだ」

7年後、ザッカーバーグ氏はもはやモデレーション強化は正しいとは考えていない。5分間のリール動画で、彼はモデレーションを支持する自身の行動を、新型コロナウイルスをはじめとする問題に関する政府の言いなりの姿勢への後悔の屈服だと表現した。彼はコンテンツモデレーションからの転換を発表し、誤情報やヘイトスピーチの積極的な削除やランキングダウンは行わないと表明。さらに、自身のプラットフォームで拡散する虚偽を反駁することを目的としたファクトチェックプログラムも終了する。信頼できる情報源によるファクトチェックは、「コミュニティノート」に置き換えられる。これは、ユーザーが投稿の信憑性について別の見解を提供するクラウドソーシング手法だ。この手法は、まさに彼が2018年に私に「不十分だ」と言った手法だ。彼は現在、今回の変更によって「悪いコンテンツが増える」ことを認めているものの、2025年には「表現の自由」がさらに繁栄するためには、その変更は価値があると述べている。

この方針転換は、ザッカーバーグ氏が最初からそうしたいと思っていたかどうかは別として、Metaがトランプ新政権と足並みを揃えようとしていることを示すいくつかの動きのうちの1つだった。この繰り返しはもうお聞きになったことがあるだろうが、それ自体がミームになっている。Metaは、同社のトップロビイストで元共和党活動家のジョエル・カプラン氏を最高国際業務責任者に昇進させた。カプラン氏はすぐにFox News（そしてFox Newsだけ）に出演し、この新しい方針を宣伝した。ザッカーバーグ氏はまた、「偏見を持った従業員がコンテンツを過度に検閲しているのではないかという懸念を払拭するため」、Metaのコンテンツの執筆とレビューを行う従業員をカリフォルニアからテキサスに異動させると発表した。同氏はMetaのDEIプログラムを解散させた。（Metaの多様性への取り組みを大変誇りに思っていたシェリル・サンドバーグ氏はどこにいる。シェリル？シェリル？）そしてMetaは、ユーザーがLGBTQの人々を貶めることを明確に許可するようにサービス規約の一部を変更した。

メタ氏の方針転換から一週間、そしてザッカーバーグ氏のスピーチを初めて読んだ時から、私は特に一つの点に悩まされている。それは、彼が伝統的なジャーナリズムの基本的な実践を軽視し、ポッドキャスター、インフルエンサー、そして彼のプラットフォーム上の無数の無作為な人々による報道されない観察と同程度にしか見なしていないように仕向けている点だ。これは、彼がリール動画の中で「レガシーメディア」という言葉を繰り返し軽蔑的に使っていたことからも窺える。彼にとって、レガシーメディアは検閲を促し、表現の自由を抑圧する力なのだ。私はずっとその逆だと思っていた！

信頼性の見直しのヒントは、ファクトチェッカーからコミュニティノートへの移行に見られる。ファクトチェックのプロセスがうまく機能していなかったのは事実だ。悪意のある批評家がチェッカーを偏見で非難した際に、ザッカーバーグ氏がチェッカーを擁護しなかったことが一因だ。コミュニティノートが、投稿が誤りである可能性を示す有用なシグナルとなることも当然期待できる。しかし、議論の参加者が、意見の相違は説得力のある証拠によって解決できるという考えを拒否した場合、反論の力は失われる。これが、ザッカーバーグ氏が廃止したファクトチェックと、彼が導入しているコミュニティノートの根本的な違いだ。ファクトチェックの世界観は、調査、人々との対話、そして時には自分の目で確かめることによって得られた決定的な事実が決定的なものになり得ると想定している。重要なのは、真実を追求することで国民の信頼を獲得した権威を見極めることだ。コミュニティノートは異なる見解を歓迎するが、どれが信頼できるかを判断するのは完全に読者自身に委ねられている。悪質な発言に対する特効薬は、より多くの発言であるという作り話には一理ある。しかし、検証可能な事実をもってしても、容易に反証できる戯言を反駁できないのであれば、私たちは自殺願望に満ちたバベルの泥沼にはまってしまう。

これこそが、ザッカーバーグ氏の新たなロールモデルであるドナルド・トランプ氏が意識的に実現しようと努めてきた世界だ。かつて「60 Minutes」のレポーター、レスリー・スタール氏はかつてトランプ氏に、ただ職務を遂行しているだけの記者たちを侮辱する理由を尋ねた。「私がなぜそうするか、分かるか？」と同氏は答えた。「皆さんの信用を失墜させ、貶めるためです。そうすれば、私について否定的な記事を書いても、誰も信じなくなります。」 2021年には、トランプ氏は真実への攻撃から利益を得ようとする意図をさらに明らかにした。「十分に言い続ければ、彼らは信じ始めるだろう」と集会で述べた。この当然の帰結として、ソーシャルメディアが虚偽を十分に拡散すれば、人々はそれも信じるようになる。特に、かつて権威と認められていた人物が信用を失墜させられ、貶められた場合はなおさらだ。

まさにこの信用失墜こそが、ザッカーバーグ氏と司会者のジョー・ローガン氏が、テキサス州オースティンにあるローガン氏のポッドキャストスタジオで3時間にわたって行った対談で行った行為だった。これはザッカーバーグ氏が自らの行動を説明する唯一の機会であり、もはや信頼できない、あるいは注目に値しないと感じているメディア体制に媚びへつらうつもりはないという、もう一つの証左となった。ザッカーバーグ氏とローガン氏は、ポッドキャスターやインフルエンサーが主流メディアの記者よりも人気があるのは、もはや誰もそれらのメディアを信頼していないからだ、と長々と語り、最近では多くの人がソーシャルメディアからニュースを得ていることを示す統計を称賛した（とはいえ、ソーシャルメディアが主要な情報源からはまだ程遠い）。

まあ、私はポッドキャスト、特にローガン氏のような長時間に及ぶ壮大なインタビューは大好きです。でも、報道ニュースの代わりにポッドキャストを配信するのはどうでしょう？それは大失敗です。記者たちは数え切れないほどの電話をかけ、山のような資料を掘り下げ、世界中を旅して世界の現状を理解しようとします。ポッドキャスターはそうした報道から知識を得ていますが、おそらく偏った詐欺師や、とりとめのない逸話、妄想的な空想からも知識を得ているのでしょう。また、インタビュアーとして、面白いポッドキャスターでも厳しい質問を投げかけることに厳密さがない人もいます。ザッカーバーグ氏が自身の決断を擁護する唯一の場としてローガン氏を選んだのも無理はありません。ローガン氏は、ザッカーバーグ氏の決断が次期大統領へのご機嫌取りだったかどうかについて異議を唱えたのではなく、むしろ大統領を祝福したのです。

ローガンのポッドキャスト配信が終了し、その同じ週に、Facebookの初期資金調達を主導した億万長者のベンチャーキャピタル、ピーター・ティールがフィナンシャル・タイムズ紙に記事を掲載した。その記事は、メディアが物事を日光ではなく闇で覆い隠しているというザッカーバーグ／ローガン理論に共鳴するものだった。ティールは友人の用語を借りて、公共の議論を制限する「分散型アイデア抑圧複合体（Distributed Idea-Suppression Complex）」と呼ばれる広範な陰謀にメディアを組み込んだ。彼は、おそらくトランプの影響下にあるインターネットが「DISCの牢獄からの解放」を助けているとほくそ笑んだ。（どういうわけか、メディア界の重鎮であるフィナンシャル・タイムズ紙がこの牢獄から脱出し、ティールの記事を掲載したのだ。）

ティールが挙げたメディア抑圧の例は、JFK暗殺事件や、より最近では新型コロナウイルスのように、主流メディアが（すべてではないにせよ）過度に慎重になりすぎたと思われるいくつかのケースだ。しかし、今も仕事のある何千人ものジャーナリストは毎日、事実を収集することで真実を追い求めている。市長の夜間の徘徊を突き止めるためであれ、高校を狙った悪名高いスワッターをFBIがもっと早く阻止できた方法を示すためであれ。事実がなければ、閣僚候補がその地位にふさわしいのか、同盟国を支援するのが適切かどうか、南カリフォルニアの火災対策がなぜそれほど難しいのかを判断することはできない。もちろん私には偏見があるが、これはむしろ明白なことのように思える。ジャーナリズムという実践は、インターネット以後の伝統的なビジネスモデルの崩壊によって既に脅かされている。ジャーナリズムが予期していなかったのは、その根幹そのものに対する恐ろしく効果的な政治的攻撃だったのだ。

そして今、世界最大のソーシャルネットワークを運営し、ローガン・トークショーで「解雇されないから、やりたいことは何でもやる」と豪語していたザッカーバーグが、痛ましいほど脆弱な事実の家を崩壊させようとする者たちに味方したのだ。確かに、大規模な偽情報を制御するのは難しい。しかし、ザッカーバーグは問題の一因となっているプラットフォームを構築することで、2000億ドル以上の個人資産を築いてきた。30億人のユーザーに事実と嘘を選別させ、嘘つきたちにチェッカーフラッグを振るうよりも、もっとましなことをすべきだ。

ザッカーバーグはもっとよく分かっている。だって、彼は私に3年間も彼の会社に関する事実収集をさせてくれたんだから。その後、お祝いのメッセージをくれた。私の結論の全てに同意するわけではなく、全てが正しいわけではない（例がない）と指摘したが、ニュアンスのある記事を書くために費やした時間と労力に感謝していると言ってくれた。ジャーナリストの仕事ってそういうものだ。ローガンの番組で、ザッカーバーグは企業文化に男らしさを取り戻すことについて何度も語っていた。彼は男らしく、真実のために戦うべきなのかもしれない。

タイムトラベル

2018年のインタビューで、ザッカーバーグ氏は、社内のコンテンツモデレーション体制を強化し、AIを活用してヘイトスピーチや誤情報などのコンテンツを積極的に削除することに意欲を示していましたが、今年初めにはこの方針に急ブレーキをかけました。当時、同社は2016年の大統領選挙中にフェイクニュースを掲載していたことで危機に直面していました。

最後に、私は彼に尋ねました。この危機はFacebookに変化をもたらしましたか？

彼の答えは「ノー」と「ノー」の両方です。使命は同じですが、ある意味では「イエス」です。「最も大きな変化は、より積極的に、虐待を発見し、防止することにあると確信しています。大きな教訓は、私たちの責任をより広い視点で捉える必要があるということです。人々に言いたいことを言うためのツールを与え、コミュニティがフラグを立てて事後対応するだけではもはや十分ではありません。ツールが悪用されないように、私たちはより積極的な役割を果たす必要があります。」

ザッカーバーグ氏は、有害コンテンツを積極的に捕捉するためにシステムを再構築することの難しさを認識している。「チームを本格的に構築するには、約3年かかると考えています。3万人を一夜にして雇って何かをさせるわけにはいかないからです」と彼は言う。「彼らがうまく機能していることを確認し、リーダーシップを発揮してトレーニングする必要があります。AIツールの構築も、指を鳴らしてすぐにできるものではありません。…完全に完了することは決してないでしょう。しかし、これは会社のビジネスモデルとオペレーションモデル全体における非常に大きな転換を意味すると私は確信しています。」

一つだけ聞いてください

ペトロスは、「AI モデルの崩壊は近親交配に似ているか？」と疑問を投げかけます。

ペトロスさん、質問ありがとうございます。デジタル現象を実際の生物学で擬人化するのはいつも難しいですね（これは『人工生命』という本を書いた人の意見です）。しかし、AIモデルの崩壊についておっしゃる通り、最も広い意味では人間の状態を参照することで理解できるものを指しているのですね。しかし、初心者のために少し説明させてください。AI大規模言語モデルは、学習用の膨大なデータ（基本的には入力可能な人間の知識のすべて）によって急速に発展してきました。そのため、最新世代のモデルを学習するための人間が生成したコンテンツが不足しつつあるように見えます。

一つの解決策として、モデル自身がコンテンツを作成することが挙げられます。これは永遠に続けることができます。しかし、これを頻繁に行うと出力品質が低下するという兆候があります。これは、蛇が自分の尻尾を食べることに例えられることもあります。だからこそ、ここ数ヶ月で「ウロボロス」という言葉をこれまでの人生で見た回数の何倍も目にするようになったのです。つまり、人工ニューラルネットワークを脳内のネットワークに例えるのと同じように、合成データの過剰使用による崩壊は近親交配のようなものと言えるでしょう。

一部の科学者は、これを回避する方法があると考えています。しかし、私はこうした制限が存在することを嬉しく思います。人間が作成した質の高いコンテンツが重視され、AI企業がそれにお金を払うインセンティブが生まれるからです。

ご質問は下のコメント欄にご記入いただくか、 [email protected]までメールでお送りください。件名には「ASK LEVY」とご記入ください。