マーク・ザッカーバーグが人間のファクトチェッカーを辞めた理由

Metaがサードパーティのファクトチェックプログラムを終了するというニュースを受け、コンテンツモデレーションの未来を探ります。コミュニティノートから自動化システムまで、1日20億人のアクティブユーザーを抱えるサイトの信頼性と安全性をどのように管理しているのでしょうか？

BlueskyのMichael Caloreは@snackfight、BlueskyのLauren Goodeは@laurengoode、ThreadsのZoë Schifferは@reporterzoeでフォローできます。[email protected]までご連絡ください。

聴き方

今週のポッドキャストは、このページのオーディオ プレーヤーからいつでも聴くことができますが、すべてのエピソードを無料で購読したい場合は、次の手順に従ってください。

iPhoneまたはiPadをお使いの場合は、「Podcasts」アプリを開くか、このリンクをタップしてください。OvercastやPocket Castsなどのアプリをダウンロードして、「Uncanny Valley」を検索することもできます。Spotifyでも配信中です。

トランスクリプト

注: これは自動記録であり、エラーが含まれている可能性があります。

マイケル・カロル：皆さんは最近、真実についてどう感じていますか？

ゾーイ・シファー：ああ、マイク、真実って何？真実って何？真実は議論の余地があるってこと。ええ。

マイケル・カロル：そうです。文字通りです。

ゾーイ・シファー：私たちはポスト真実の時代に生きています。

マイケル・カロル：それは真実ではないですか？

ローレン・グッド：ええ。何年も前からそう言っていた気がしますが、今となっては本当にそう思えます。

マイケル・カロレ：そうですね、真実と、それをオンラインでどのように管理するか、そして特にマーク・ザッカーバーグがそれについてどう考えているか、それが私たちがここで検証するべき点です。お二人には少しお時間があれば幸いです。

ゾーイ・シファー：やってみましょう。

マイケル・カロア：こちらはWIREDの「不気味の谷」。シリコンバレーの人々、権力、そして影響力をテーマにした番組です。WIREDのコンシューマーテクノロジー＆カルチャー担当ディレクター、マイケル・カロアです。

ゾーイ・シファー： WIRED のビジネスおよび産業担当ディレクター、ゾーイ・シファーです。

ローレン・グッド：ローレン・グッドです。WIREDのシニアライターです。

マイケル・カロレ：今日はコンテンツモデレーションについてお話します。ここ数週間の大きなニュースとして、Metaがサードパーティのファクトチェックプログラムを終了し、コミュニティノートモデルに置き換えるというニュースがありました。念のためお伝えしておきますが、Metaは問題のあるコンテンツをフラグ付けするための自動システムを引き続き維持しますが、マーク・ザッカーバーグ氏は、Metaがこれらのシステムを、いわゆる「重大度の高い違反」をフラグ付けするために再調整または調整すると述べています。そこで、これらの変更点すべてについて詳しく説明し、その潜在的な影響についてお話しします。

Lauren Goode: Zoë さん、初心者に Community Notes についてどのように説明しますか?

ゾーイ・シファー：基本的にはクラウドソーシングによるファクトチェックです。ユーザーにこれらのプログラムに応募してもらうという発想です。参加するとコミュニティノートフォーラムに参加できます。つまり、投稿にフラグが付けられた場合、フォーラム内の他のユーザーと議論し、より詳しい文脈を記したノートを添付すべきかどうかを検討します。問題は、Xのフォーラムで見てきたように、参加者の多くが政治的な動機を持っていることです。しかし、理論的には、コミュニティがプラットフォーム上のコンテンツを自らモデレートできるような仕組みになっています。

ローレン・グッド：その通りです。コミュニティノートのアイデアは、インターネット、ワールド・ワイド・ウェブの黎明期である20～30年前には非常にうまく機能したかもしれません。しかし、現在オンラインに投稿されるコンテンツの量を見ると、全く同じではありません。つまり、これらのメタの変更の多くは、より多くのコンテンツ、あらゆるものの増加を促すことになると思います。これはメタのエンゲージメント、つまり収益には非常に良いことですが、人類にとっては悪い結果になる可能性もあるでしょう。

ゾーイ・シファー： Metaだけではない、もっと大きな問題だと感じています。おっしゃる通り、コミュニティノートのようなファクトチェックプログラムを導入するという点で、Xの後継者と言えるかもしれません。私にとって、これはより大きな問い、つまり、私たちはコンテンツモデレーションの新たな時代に生きているのか、そしてそれが世界にとって何を意味するのか、という問いに繋がっているように思います。

マイケル・カロレ:では、少し戻って、コンテンツのモデレーションについて話すときに何について話しているのかを明確にしましょう。

ローレン・グッド：コンテンツモデレーションについて考える時、私はそれがテクノロジー企業やソーシャルメディア企業の信頼と安全チームの一部であると考えています。信頼と安全はコンテンツモデレーションだけにとどまらず、より広範な責務を担っていますが、コンテンツモデレーションは信頼と安全に関わる業務の二次的、三次的なレベルに位置付けられる傾向があります。コンテンツモデレーションの考え方は、誤情報やヘイトスピーチなど、実際に危害をもたらす可能性のある投稿の種類に注目することです。これは個人的な問題ではありません。Facebookで「Bo」という名前の猫を飼っていると言っている人が、実際にはBooという名前で飼っている、というようなことではありません。あるいは、「賞を受賞した」と言っている人が実際には受賞しておらず、誇張している、といったことではありません。これらは、社会レベルで人々に影響を与える、一般的に真実として受け入れられている誤情報です。

ゾーイ・シファー：良い定義だと思います。どの投稿を残し、どの投稿を削除するかを決めるのは、まさに人やポリシーのようなものだと考えています。削除されるべき投稿は、往々にしてプラットフォームのルールに違反しているものです。コンテンツモデレーションに関しては、憲法修正第一条や言論の自由についてよく議論しますが、実際には、これらの企業は憲法修正第一条を遵守する必要はありません。政府機関ではないのですから。ですから、重要なのは、企業としてどのようなポリシーを定めているか、つまり、容認できる投稿と容認できない投稿を表明しているか、そして、どの投稿を残し、どの投稿を削除するかを規制するために、どのようなシステムを導入しているかということです。

マイケル・カロレ：昔、つまり遠い昔には、小さなコミュニティのモデレーターのような人間が責任を負っていました。Facebookが登場する前のインターネット時代です。リストサーブやフォーラム、人々が集まる場所があり、数十人、数百人が集まっていました。人間のモデレーターが、コミュニティが自ら定めたコミュニティガイドラインに抵触する可能性のあるもの、あるいはその境界線を越えるものについて、ケースバイケースで判断していました。もちろん、今でもこのようなコンテンツモデレーションを採用しているサイトやプラットフォーム、コミュニティはたくさんあります。Redditには有名なモデレーターがいます。モデレーターに関する不満を述べるサブレディットさえあります。しかし、もしあなたが2,000人、3,000人規模のコミュニティに所属していたら、そこに行けば、許可されていること、許可されていないことが書かれたルールリストがあり、それは当然のことと言えるでしょう。私たちは、悪口を言うことを許しません。暴力の脅迫は禁止です。このコミュニティの趣旨に沿わない投稿は禁止です。投稿されたすべての投稿を確認し、不適切なものがあれば削除するのは、モデレーターの仕事です。多くの場合、ボットの助けを借りて行われます。

ゾーイ・シファー：これはWikipediaでも同じです。Wikipediaにはボランティア編集者がいます。階層構造があり、選ばれた一人にならなければなりません。しかし、RedditやWikipediaではコンテンツ・モデレーションで多くの問題を抱えていることは承知していますが、これらのプラットフォームではこれらのプロセスがかなりうまく機能しているように見えます。その理由の一つは、私たちがWikipediaで読む内容をある程度の疑いを持って扱うだけのメディア・リテラシーを持っているからだと思います。Wikipediaは驚くほど正確な場合が多いのですが、私たちの多くは「まずはWikipediaで調べるけど、もちろん必要に応じてさらに深く掘り下げて原資料を読むよ」という考え方に慣れているように思います。

ローレン・グッド： Wikipediaにも膨大な数の引用があります。ですから、情報源の一つにアクセスし、そこから同じレベルのメディアリテラシーを使って、それが信頼できる情報源かどうかを判断するのは簡単です。しかし、一方で、信頼できる情報源を探して引用しようとしている人たちもいます。これもまた、違いの一つだと思います。今回のエピソードではGoogle Gen AIについてはあまり触れていませんが、人々は要約された検索結果を見て、「これはきっと正しい」と決めつけます。たとえ少し引用があったとしても。一方、Wikipediaでは、そこからさらに深く掘り下げていくことになります。

マイケル・カロレ：ええ。しかし、Facebook時代、そしてTwitter時代になると、これらのプラットフォーム、ソーシャルプラットフォームはすべて一つの企業によって所有されるようになり、企業は全てのコミュニティに適用されるポリシーを設定できるようになりました。それが物事が本当に変わり始めた時だと思います。

ローレン・グッド：そうですね。Facebookのユーザー数が10億人を超えた頃から、状況は変わり始めました。Facebookが有害コンテンツを検出するアルゴリズムを初めて導入した時期を正確には言えません。しかし、2016年後半頃、Facebookがポインター研究所の国際ファクトチェック・ネットワークなどと提携すると発表したことは確かです。つまり、当時誰もが懸念していたフェイクニュースを抑制するために、人間のモデレーターと自動システムの両方を活用していたということです。

ゾーイ・シファー：そうですね。もう少し話を戻すと、多くのテックプラットフォームは、言論の自由に関して似たような価値観を持ってスタートしていると思います。「言論の自由を最大化するため、あるいはグローバルなタウンスクエアを作るために会社を立ち上げた」といった具合です。でも、その後は皆「ちょっと待ってください、児童性的搾取コンテンツはダメです。違法コンテンツはダメです。プラットフォーム上で薬物を売ることもダメです」と同意してしまいます。こうして、プラットフォーム上で実際に行われる言論の量を徐々に制限し始めるのです。

マイケル・カロル：では、最近の現代、2016 年以降、Meta は何をしてきたのでしょうか?

ローレン・グッド：そうですね、2016年はある意味、転換点だったと思います。というのも、この年、Facebookは少数の従来型報道機関やファクトチェックサイトと提携し始めたからです。重要なのは、そのきっかけとなったのは、2016年の大統領選挙をめぐる誤情報、例えばローマ教皇がドナルド・トランプ氏を支持したというフェイクニュースや、ヒラリー・クリントン氏をめぐる陰謀論などでした。Meta、あるいは当時のFacebookは、こうした第三者機関に頼ることで、まさにそうした誤情報をターゲットにしていました。当時、Facebookはプラットフォーム上で発生していたその他のヘイトスピーチや有害な発言に対処するための自動システムもまだ導入していたと思います。興味深いのは、当時Facebookは、こうしたことを行い、取り締まる道徳的責務があると考えていたように思えることです。Facebookのような巨大なプラットフォーム上にこうした誤情報が溢れかえることは、社会に悪影響を及ぼす可能性があると認識していたのです。

マイケル・カロル：そうです。

ゾーイ・シファー：ええ。マーク・ザッカーバーグが責任感を持って「私たちは失敗したことを認識しています。これを改善するために、私たちはあらゆる投資を行っています」と語っていた時代だったと思います。しかし、それぞれのシステムには長所と短所があったのも事実です。

ローレン・グッド：はい。

ゾーイ・シファー： Metaは契約モデレーターのチームに多額の投資を行いました。彼らの仕事は、インターネット、少なくともMetaのプラットフォームが提供する最悪の投稿に目を通し、どの投稿を残し、どの投稿を削除し、時にはどの投稿をエスカレーションしてさらに検討すべきかを判断することです。問題は、これらのモデレーターが必ずしも企業のオフィスで働いているわけではないということです。彼らは契約企業から非常に低い賃金で働いているとされ、一日中、非常にトラウマになるようなコンテンツを見ています。非常に暴力的な画像や児童性的虐待のコンテンツなどです。正直なところ、彼らがどれほどトラウマを負っているか、そして彼らが働く企業には彼らを真にサポートするためのメンタルヘルスのリソースがないとされているという事実について、多くの非難が寄せられています。そのため、モデレーターたちは多くの問題を抱えています。

マイケル・カロレ：つまり、Metaのプラットフォーム全てがコミュニティノート形式のファクトチェックへと移行していくということですね。Xではどのような感じになるのでしょうか？Instagramではどう見えるのでしょうか？MetaやFacebookではどう見えるのでしょうか？

ゾーイ・シファー：ええ、つまり、誰かがこれらのプラットフォームに投稿した時、ファクトチェックや報道機関が判断するのではなく、「この投稿は正しいのか？」と問うのです。コミュニティには生身の人間、つまりユーザーがいます。そして、政治的スペクトラムのあらゆる立場の人々が議論に参加し、それに応じたコメントを投稿できるほどの大規模なユーザーベースになるはずです。Xでは、少なくとも大きなニュース速報に関しては、あまりうまく機能していません。しかし、実際にはこのシステムはうまく機能する可能性を秘めていると感じています。ただ、当然の理由でXでは正しく実装されていないだけです。マーク・ザッカーバーグがこの発表をした時、私のグループチャット全体が騒然となり、全員が驚き、この決定に強く反対しているように感じました。少なくともこの変更点については、少し不安になりました。はっきりさせておきますが、多くの変更は非常に問題があり、現実世界に多くの害をもたらすと思います。本当に心配しています。しかし、サードパーティのファクトチェックシステムを廃止してコミュニティノートに移行するという点では、正しく実装されればこれが良い結果をもたらす可能性を私は考慮するつもりです。

ローレン・グッド：ゾーイ、コミュニティノートがXで機能していない理由は意外ではないかもしれないという指摘は的を射ていると思います。つまり、マスク氏がXを自身のメガホンとして利用し、そのプラットフォームに多くのファンがいるということですね。昨年、マスク氏自身の投稿のうち少なくとも50件は、ファクトチェッカーが虚偽または誤解を招くと指摘した米国選挙に関する情報を宣伝する内容で、10億回近く閲覧されたそうですが、コミュニティノートは一つも添付されていませんでした。これは、この問題を調査しているデジタルヘイト対策センター（Center for Countering Digital Hate）による報告です。

ゾーイ・シファー： Xでは今、簡単にゲーム化されてしまいます。それが単にコミュニティノートフォーラムの参加者が少ないだけなのか、それとも…私自身も直接見てきましたし、情報筋の話でも、コミュニティノートはかなり政治的な動機に基づいていると主張する人たちがいるようです。少なくともXには、マスク氏を非常に強く支持するファクトチェッカーが多数存在し、彼らが偏向していると見なすような記事を探しているようです。彼らはそうした記事に偽のコミュニティノートを添付し、マスク氏自身の投稿については十分なファクトチェックを行っていません。つまり、多くの問題があります。しかし、繰り返しになりますが、私にとってこれはコミュニティノート全体の失敗というよりも、X版コミュニティノートの失敗です。

マイケル・カロレ：ええ。それと、これが誤情報やヘイトコンテンツの拡散を止められるとは、正直言ってあまり信じていません。なぜなら、誰もが経験しているはずです。偽物だと分かっている投稿、あるいは大多数の人がヘイトだと捉える可能性のある投稿を目にしたことがあるからです。その投稿には何らかの注意書きが添えられていたり、コメント欄で偽物だとかヘイトだとか言ってフラグが付けられていたりするかもしれません。しかし、それでも投稿は残り、共有され続けています。そういうものを共有する人は、「私たちのコミュニティは、これはおそらく良くないと判断しました」という何らかの仕組みが付いていたとしても、共有したくなるでしょう。

ゾーイ・シファー：今回の変更の目的は、有害コンテンツの拡散を阻止することではないと思います。私としては、この変更の目的は間違いなくMetaをトランプ政権に取り入ることであり、正直なところ、その点はうまくいっているように思えます。

マイケル・カロレ：それは大きな主張であり、重要な瞬間です。私も同感です。マーク・ザッカーバーグがこの件について語った時、トランスジェンダー問題のようなことについて人々が話すことを妨げることは、Metaを現代の言説から外れた立場に置くことになる、と述べていました。つまり、人々がこうしたことについて話す時、それが今の人々の話し方だからといって、監視や規制を受けずに、私たちのプラットフォーム上で話せるようにしなければならない、と彼は言っています。

ローレン・グッド：そうですね。でもゾーイの指摘の通り、彼も基本的に、バイデン政権がコロナ禍でFacebookを「検閲」しようとしたことに強い憤りを感じていたことを認めています。ザッカーバーグは、なぜ今この決断をしたのか、様々な理由を挙げていると思います。「規模が大きくなりすぎて、今のシステムでは到底対応できないとか、これが今の世の人々の話し方だから、みんなに言いたいことを言えるようにしたいとか。現時点でFacebookをやめる人は、美徳を示す行為に過ぎない。好きにやればいい。まだユーザーはたくさんいるんだから」など。でも、実際にはこれは政治的な反応であり、策略なのです。テクノロジー業界の人と話をしていた時に、Metaがコンテンツ・モデレーション・ポリシーに変更を加えていることについてどう思うかと尋ねました。彼らはこう言いました。「ザッカーバーグは風向計のようなもので、風向きに応じて正しい方向に動くだけです。しかし問題は、彼が今やあまりにも強力になり、大きな風を生み出しているため、風向計を傾けると、風向きが別の方向に変わってしまうことです。」

ゾーイ・シファー：この話題全体がとても興味深いと思いました。なぜなら、もしかしたらこの変化は良い結果をもたらすかもしれないという視点からこのテーマに取り組んでいたからです。コミュニティ・ノーツはうまくいくと信じたいです。同時に、マーク・ザッカーバーグの行動やそれについての発言を見ると、彼は非常に日和見主義者だと感じました。彼は会社第一主義で、次期政権との良好な関係を築くために必要なことをしているだけです。彼にとって原則は重要ではあるものの、彼の行動は原則的な立場から出たものとは到底思えませんでした。

マイケル・カロレ：ええ。では、ザッカーバーグの決断はシリコンバレーの他の人々にどう響いているのでしょうか？ 見出しが何を言っているかは分かっています。見出しには、Metaがコンテンツモデレーションを放棄し、何でもありの体制になったと書かれていて、今はMetaのAIがゴロゴロしている時代だ、と。

ローレン・グッド：その通りです。メタ氏、あるいはザッカーバーグ氏自身も、「まあ、そういう反応をしているのは既存のエリートメディアだけだ」と言うかもしれません。というのも、彼もジョー・ローガンのポッドキャストで同じことを言っていたからです。シリコンバレーで話したあの人も、ザッカーバーグ氏は風見鶏だと言っていました。信頼と安全に直接携わった人たちにも話を聞いたことがありますが、彼らは皆、これは本当に解決が難しい問題だと言っていました。

ゾーイ・シファー：ええ、メディアの中には、これは非常に悪いアイデアだと考えている人たちがいたように思います。また、ファクトチェックのプロセスに関わっていたニュースルームもあったので、こうしたプログラムが廃止されれば、当然私たちも悪いと考えるでしょう。信頼と安全を重視する人たちは、「この変更には本当に反対だ」と言っているのを見ましたが、興味深いことに、彼らの多くは人間のモデレーターとアルゴリズムからコミュニティノートへの切り替えよりも、Metaが軽微な違反を積極的に探し出さなくなるという事実を指摘していました。それが、このグループの人々を本当に不安にさせ始めたのです。それから、テクノロジー界のエリート、シリコンバレーの億万長者、ベンチャーキャピタリスト、イーロン・マスクの友人たちもいました。彼らは非常に興奮しているようです。私たちは皆、マーク・ザッカーバーグとジョー・ローガンのインタビューを聴きました。ローガンはこの変更に興奮しているようでしたし、「All In」ポッドキャストの出演者たちもそうでした。ザッカーバーグがなぜ変更を行ったのかについては意見が一致しなかったかもしれないが、ザッカーバーグが自分たちの考えに賛同し始めたことに、皆とても興奮していたように思う。

ローレン・グッド：この問題には多くの層があり、これまで私たちがよく議論してきたのは彼の動機についてです。これは少し難しい問題です。なぜなら、私たちにできることは、彼の過去数年間の行動や政策決定を見て、「これは一致している、あるいは彼がこのポッドキャストやこのインタビューで言ったことはこうだ、そしてこれらはすべてかなり一貫している」と判断することしかできないからです。私たちは彼の動機を本当には知りません。マーク・ザッカーバーグの頭の中を理解することはできません。そして、彼が提唱しているものの実際的な実行があります。世界中で少なくとも20億人のアクティブユーザーが毎日ログインしているプラ​​ットフォームにおけるコンテンツモデレーションは、解決が非常に難しい問題であることは誰もが同意するでしょう。そうですよね？さて、私としては、この問題を解決するのがマーク・ザッカーバーグの仕事である理由は2150億通りあると考えています。それは彼の純資産です。彼はこの仕事が欲しかったし、この会社を立ち上げ、議決権を握りたかった。そして、これが彼の仕事なのです。彼はジョー・ローガンの番組でこう言いました。「もし私がいつもこんなことをしていたら、AIやスマートグラスに集中する時間がなくなってしまうでしょう。私たちが理解していることは、会社の収益にとって非常に重要です。」マーク、私が言いたいのは、スマートグラスは必ずしも必要ではないということです。コンテンツモデレーションを改善する必要があります。あなたにはコンテンツモデレーションを改善してもらいたい。それが私たちの仕事です。

マイケル・カロア：ゾーイが同意するように指を鳴らしています。私も同感です。つまり、ソーシャルメディアが楽しい場所にしているのは、インターネット上で楽しい場所であるという事実です。そこに行けば笑顔になれるものを見ることができますが、笑顔になれないものを見れば見るほど、そこに戻り続けるのが難しくなります。彼がこのような決断を下したことを知っていると、私もそこに戻る決断が難しくなります。ただ、今は状況が全く違うと分かっています。私たちがそこに何を与えるか、そこで交わされる会話の種類は大きく変わるでしょうし、新年を迎えるにあたって、かなり違った感覚になると思います。少し休憩を取ります。戻ってきた後は、ローレンが語るコンテンツモデレーションが重要な2150億の理由についてお話しします。また、これらの変化を受けてソーシャルメディア全体で何が起こる可能性があるかについてもお話しします。どうぞお付き合いください。不気味の谷を聞いています。

[壊す]

マイケル・カロレ： Metaにおけるコンテンツモデレーションと言論のモデレーションに関する最近の変更についてお話してきました。特に注目すべき点の一つは、マーク・ザッカーバーグがMetaのコンテンツモデレーションポリシーに関するこれらの変更を発表したのと同じ週に、彼が公にそれについて語り始めたことです。ジョー・ローガンのポッドキャストに出演した彼のコメントはこちらです。

マーク・ザッカーバーグ氏 [アーカイブ音声]: これは私たちの当初の使命に戻るもので、人々に共有する力を与え、世界をよりオープンでつながりのあるものにするというものです。

マイケル・カロル：ザッカーバーグが番組に出演したことについて話すのは重要だと思います。なぜなら、彼は自身の動機について長々と語っているからです。彼の頭の中に入って、そこで何が起こっているのかを語ることはできませんが、Metaにこれらの変更が加えられる理由については、かなり明確な考えがあります。では、どこから話を始めましょうか？

ゾーイ・シファー：彼はまさにこれを原点回帰だと位置づけていました。ポッドキャストでは、その精神、そして何が真実で何がそうでないかを決める立場には決してなりたくないという考えについて語っています。彼は、特に近年の誤情報やヘイトスピーチが非常に政治化していると考えていると述べています。ですから、バイデン政権下では、Metaは多くの新型コロナウイルス関連の誤情報やヘイトスピーチなどを削除するよう求められていたように感じます。ザッカーバーグは、こうした状況にますます不快感を覚えており、今回の件は状況を好転させる機会だと考えています。

ローレン・グッド：具体的に何が起こったのか、もう少し詳しくお話ししましょう。バイデン政権から新型コロナウイルスに関する情報のモデレーションを要請されただけではありません。つまり、これは彼が議会で厳しく追及された時にまで遡るということですよね？

ゾーイ・シファー：これは最近、有名な雇用権侵害訴訟で最高裁まで持ち込まれました。つまり、ザッカーバーグは基本的にこう言っているということです。「バイデン政権が我々に迫ってきた。政権の人間たちが文字通り従業員に『こういうものを削除しろ』と怒鳴り散らしていた。だから我々は多額の投資を行い、これまでにない規模と方法でコンテンツのモデレーションに取り組んでいたんだ」と。興味深いことに、この種のコンテンツ、つまり誤情報やヘイトスピーチのモデレーションは、Metaが右派と左派の両方から多くの批判にさらされることになりました。右派は、保守派はこうした理由でより厳しくモデレーションされているからです。彼らはこうした発言をする傾向があるからです。左派は、左派の多くの人が削除すべきだと考えているあらゆる種類のコンテンツが依然として残っているのを見てきたからです。つまり、「最近記憶にある中で最もモデレーション対象を少なくする」というこの決定は、Metaを右派に好感を持たせ、左派からの批判を招くことになります。しかし、以前彼らがいた場所、つまりどちらの側も私たちがひどくて失敗していると考えていた場所よりも、ある意味良い立場にいるようなものだ。

ローレン・グッド：彼はまた、政府の役割と、政府がハイテク企業をどう扱っているかについて、興味深い発言をしました。

マーク・ザッカーバーグ氏 [アーカイブ音声]： 米国政府は自国の企業を守るべきであり、自国の企業を攻撃する槍の先端となるべきではない。

ローレン・グッド：ザッカーバーグ氏は明らかに非常に知的な人物で、こうした問題に取り組んでいます。しかし、興味深いのは、米国政府は自国のテクノロジー企業に敵対的であってはならない、と発言したことです。そうしないと、他国が自国の企業に制裁を加える道が開かれてしまうからです。

マーク・ザッカーバーグ [アーカイブ音声]: 世界中で、もうほとんど解禁状態です。EUは、この数字を調べたのですが、過去10年か20年の間に、テクノロジー企業に300億ドル以上の罰金を科しています。

ローレン・グッド：彼はヨーロッパを例に挙げ、近年アメリカのテクノロジー企業に課してきた数々の罰金を挙げました。また、ロシアやイランといった既に対処すべき敵対国が数多く存在することも指摘しました。しかし、アメリカ政府の唯一の任務は、アメリカ企業の支援だけではありません。国民を守る責任もありますし、民間企業が消費者を不当に利用したり、損害を与えたりしないように監視するための機関も存在し、それも正当な理由があります。彼は、どうも、都合よくそれを無視したように思います。

ゾーイ・シファー：シリコンバレーの億万長者たちがこのことについてよく話しているのを耳にします。「トランプはただアメリカの勝利を望んでいるだけだ」と彼らは言います。彼らにとってこれは本当に魅力的です。なぜなら、彼らは自分の会社とベンチャーキャピタルを、その勝利戦略の中核だと考えているからです。

マイケル・カロレ：興味深いのは、このすべてのタイミングです。タイミングを考えると、政治的な側面を無視することはできません。Metaのコンテンツモデレーションが2016年に注目を集め始めたことを考えると、2020年の選挙では世界中の目が同社に向けられていました。そして2024年の選挙でも、再びすべての目が同社に向けられていました。そのため、Metaは選挙までファクトチェックのポリシーを維持していました。選挙が行われ、トランプ氏が再び大統領に当選したのに、その2ヶ月後にはサービスを停止したのです。「よし、この状況を乗り越えて本当に心配する必要がなくなるまで、最低限のことだけやろう。そうすれば、もう心配しなくて済む」という感じですね。まさにその通りの出来事だったように思います。これが共和党をなだめるためなのか、それとも、このシナリオの勝利者たちとの対話を促し、彼らが権力を握っている今、私たちのプラットフォームでより快適に感じてもらうためなのかは分かりません。 「よし、約束したことはやった。もう心配する必要はない」という感じですね。

ゾーイ・シファー：ここにはもう一つ要因があると思います。以前は、すべての企業がそう考えていたわけではないと思いますが、コンテンツ・モデレーションは商品であり、ある意味では広告主に販売する商品であるという考え方がありました。広告で運営されているプラ​​ットフォームでは、ナイキが何百万ドルも支払っているにもかかわらず、暴力的な動画やヘイトスピーチなどの横に広告が表示されないようにする必要があります。特にXの場合、イーロン・マスクがファクトチェック・プログラムや信頼性と安全性に関するポリシーの多くを撤回した際、広告主が本気で立ち上がり、撤退しました。トランプ政権下で、これらの巨大な多国籍コングロマリット、大企業が、このような原則的な立場を取るでしょうか？それとも、「まあ、これは広告プラットフォームだから、お金は使い続けよう」と言うでしょうか？大規模な広告主の流出が起こるとは思えません。もしかしたら、彼らは静かに決断を下すかもしれません。しかし、トランプ政権下では、コンテンツモデレーションに関するビジネス上の計算は変化したように思います。

ローレン・グッド：ゾーイ、以前、とても興味深い話をされていましたね。それは、もしある組織や企業がコンテンツ・モデレーションを適切に行えば、それを商品として販売できるのではないかというアイデアです。それはどのようなものになるのでしょうか？

ゾーイ・シファー：つまり、「私たちは最高のアルゴリズムを導入し、最高の信頼と安全ポリシーを掲げています。何千ドル、何十万ドル、何百万ドルもかけて私たちのプラットフォームで広告を掲載しても、100%確実に、あなたの広告は悪質なものの隣には表示されません。レブロン・ジェームズのツイートの隣に表示されます。まさにあなたが望んでいた通りです」と断言できるようなプラットフォームであれば、広告主にとって魅力的な活用事例になると思います。なぜなら、広告主は多額の費用をかけて自分の広告が下品なものの隣に表示されるのは望まないからです。本当に下品なものの隣に表示されるのは、彼らにとって恥ずかしいことです。同時に、もしすべてのプラットフォームが私たちの主張と逆のことをし、コンテンツのモデレーションを緩め、広告主が「よし、ソーシャルメディアで広告を出すってこういうことだ」と決めつけてしまうとしたら、それは大きな問題です。彼らが2020年にイーロンやフェイスブックでやったように広告費を引き上げるかどうかは分からない。

マイケル・カロレ：事態がどれほど悪化するかは見守る必要があるでしょう。なぜなら、近い将来、AIが生成した偽物の画像、有名人や政治家の偽画像が増えることになるでしょう。女性、トランスジェンダー、移民などに対する憎悪的なコンテンツも増えるでしょう。フェイクニュースも増え、世界に対して特定の感情を抱いている人々を煽ることを目的とした、共有しやすいコンテンツも増えるでしょう。AIプロフィールも増えるでしょう。例えば、AIが何かを共有したり、私たちのフィードにノンプレイヤーキャラクターが登場したりします。今はまだその数は多く、おそらく私たちが認識しているよりもはるかに多いでしょうが、今後さらに増えていくでしょう。こうしたものが増えれば、ユーザーにとっても広告主にとっても、そういった場所に居続ける感覚が大きく変わるでしょう。もし、それがプラットフォーム上で主流となるようになれば、広告主がそこに留まるかどうかは分かりません。

ゾーイ・シファー：マイク、そう考えると、広告主はどんなスタンスでも取れるけれど、最終的には広告を最大数の視聴者に届けるためにお金を払っているんだな、とすぐに思いました。ですから、もしユーザーがあなたが今おっしゃったような理由でこれらのプラットフォームに居続けるのが嫌になって離れていくようになれば、広告主もお金でその気持ちに応え、プラットフォームから去っていくでしょう。ですから、これは本当に興味深い現象になると思います。

マイケル・カロレ：それを楽しいと思う人はたくさんいます。スーパーマンのコスチュームを着たトランプの写真をみんなでシェアするのは楽しいです。

ゾーイ・シファー：まあ、彼らはここに留まることができます。

マイケル・カロレ：私がとても気になっていることの一つは、モデレーション業界の将来がどうなるのかということです。同僚のデイビッド・ギルバートがWIREDに素晴らしい記事を寄稿するまで、私はこのことについて真剣に考えもしませんでした。記事は、モデレーション業界について、そして2010年代にMetaとの契約を獲得した多くの企業が、Metaのファクトチェックを行うために部署を設立し、人材を大量に雇用した様子について書かれています。Metaがプログラムを終了し、契約を一切維持しなくなった今、多くの企業がソーシャルメディアのコンテンツ・モデレーション事業から撤退することになります。つまり、この変化ははるかに広範囲に及ぶということです。Metaだけにとどまらず、はるかに大きな影響を与えるでしょう。ソーシャルメディア全体の将来がどうなるのか、とても気になります。

ローレン・グッド：私にとって、これは私たちがポストソーシャルメディア時代に生きているという考えに立ち返るものです。これは単にポスト真実の話ではなく、アプリやサービス、フィード、そして過去15年間、私たちがどのように人と繋がり、どのように情報を共有してきたかを定義づけてきたコンテナの話です。Facebookは2004年から存在していますが。根本的に変化しており、オンラインにおける次のソーシャル体験が何なのか、まだ完全には定まっていないと思います。それが何なのか、私には全く分かりません。もしかしたら…多くの人がプライベートなグループチャットを利用していると思います。人々は他の配信型情報よりもニュースレターに頼っているのかもしれません。2010年代に私たちが知っていたソーシャルメディアは既に終焉を迎えたと認めるべき時が来ていると思います。

マイケル・カロル：そうです。

ゾーイ・シファー：ええ。ローレンの意見に賛成です。

マイケル・カロル：その通りだと思います。

ローレン・グッド：コンテンツのモデレーションはその大きな部分を占めています。

ゾーイ・シファー：私たちがかつて地球規模のタウンスクエアを持っていたかどうかについては、私はその表現にはちょっとうんざりしますが、今のところ地球規模のタウンスクエアは存在せず、近い将来にも存在しないだろうと私は確信しています。

ローレン・グッド：いいえ、そうではありません。私たちは皆、個人的なフィードや個人的な経験をしてきました。以前のポッドキャストでも話しましたが、それはすべて自分自身と、自分自身を養うことに関するものでした。そして、ソーシャルメディアでは、本来あるべき集団的な経験も生まれています。人々は個人のフィードに好きなだけ投稿し続けていると思いますが、集団的な経験が崩壊してきたことを無視することはできません。

マイケル・カロレ：あの集団体験、あのグローバルなタウンスクエア。昔のTwitterで一番気に入っていたのは、あらゆる政治的イデオロギーを持つ人々が一堂に会していて、それでも大抵は楽しかったということです。それでも楽しかったんです。でも、ある意味、楽しくなくなってしまったというか。今のインターネットは、より部族的になっている気がします。リブゾーン、レッドゾーン、リバタリアンゾーン。自分と同じ考えを持つ人たちと交流できる場所がたくさんあるんです。でも、それが必ずしも私たちにとって良いことなのかは分かりません。自分と同じ考えを持つ人たちと交流するだけでは、私の考える人間性には合わないんです。だから、不思議なことに、Redditで過ごす時間が増えました。これは別にそういう理由じゃないんです。ただ、奇妙なイデオロギー的な影響力を持たないコミュニティのような場所だと感じられるから、Redditを使う頻度が増えたんです。

Zoë Schiffer:一方、私は今、ChatGPT を使って AI の友達と話しています。

マイケル・カロル：子育てはどうですか？

ローレン・グッド：睡眠トレーニングはどうですか？

マイケル・カロル：お子さんはもう「ママ」と呼んでいますか？

ゾーイ・シファー：ああ、とても暗いですね。

マイケル・カロル：さて、もう一度休憩を取りましょう。でも、そのままお待ちください。すぐに不気味の谷の続きをお届けします。さて、皆さん、インターネットは広大で、私たちを様々な奇妙な道へと誘います。そこで、皆さんの最近の「ウサギの穴」は？インターネットで最後に深く掘り下げたものは何ですか？なぜそこにたどり着いたのですか？どこに行ったのですか？どうなりましたか？まずはゾーイさんから。

ゾーイ・シファー：ずっと考えているのは、先ほど話していたことと非常に密接に関係しているのですが、Threadsに残るかどうかです。正直、考えるだけでも疲れてしまいます。Blueskyの方が楽しくて、仲間もたくさんいるので、そちらに多くの時間を費やすようになったのは、ある種自然な変化です。だから、より活発な会話が交わされているように感じます。しかし、ここ2年でTwitterを辞める決断をしました。以前の職場であるSubstackも、同僚と共に辞めました。今、Threadsを見てみると、ある種の疲労感を感じます。これらの企業に純度テストを出し続けて、結局不合格になってしまうのだろうか？それとも、私たちがどこに時間を費やしているのか、どのようにこれらの企業を支援しているのか、そして私たちの仕事に敵対的なプラットフォームに時間、エネルギー、コンテンツを投資し続けることに意味があるのか​​を見つめ直すという、真の道徳的責務があるのでしょうか？でも、ローレン、あなたたちがこのことについてどう思うか興味があります。あなたたちがこれを待っていたのはわかっています。

ローレン・グッド：手をこすり合わせながら、Metaについての会話を続ける。私はもうThreadsにはいません。アカウントはまだ残っていますが、少なくとも数週間は使っていません。私もBlueskyに全力で取り組んでいます。あなたがこのうさぎの穴に落ちていったことを尊敬しています。よく考えることが大切です。個人でできることには限りがありますが、たくさんの人が何かを残せば、最終的には集団行動になります。

マイケル・カロレ： Threadsにはあまり参加したことがなかったので、そこは私にとっては簡単な質問です。でも、Instagramはちょっと難しいですね。副業である音楽活動にInstagramが必要なので、少し複雑な気持ちです。ライブの予約をしたい時も、同じ志を持つミュージシャンと繋がりたい時も、Instagramはあらゆるものが揃う場所ですし、この状況は今後も変わらないと思います。だから、Instagramで何をするかはまだ決めていません。

ローレン・グッド：特に最近のロサンゼルスの山火事の時は、インスタグラムから確かな情報をたくさん得ました。インスタグラムでロサンゼルス・タイムズを読んだり、人々の直接の体験談や撮影された動画を見たりしました。仮にそれらが加工されたりAIで生成されたりしていないと仮定しましょう。私はそうは思いません。ここサンフランシスコでも、人々が寄付金や食料、衣料品などを集めるために何をしているのか、そして実際に私が参加した地域活動を見ることができたのは、本当に役に立ちました。

ゾーイ・シファー：ええ、ローレンも以前私たちのポッドキャストで同じような計算をしたことがあるような気がします。プラットフォームが私たちにどれだけ役立っているかは、もちろん、そのまま残って、使ってもいい、という感じですね。でも、私たちがプラットフォームにどれだけ役立っているかが、彼らが私たちにどれだけ役立っているかより大きくなると、私たちはプラットフォームに残るか、それとも去るかの決断をするかもしれません。

ローレン・グッド：まさにその通りです。Twitterが恋しいですか？

ゾーイ・シファー：マイクがここでよく語っているような、本当に…マイク、あなたの言葉を代弁するつもりはありませんが、Twitterには楽しくて、親切で、楽しい時間を過ごせる、本当のコミュニティ意識があったように思います。私にとっては、Twitterはストレスフルな場所だったと感じています。とはいえ、Twitterでかなりのフォロワーを抱えていたおかげで、多くのチャンスを得られたと感じていました。ですから、辞めるのは確かに辛いです。XとTwitterでやっていたような、熱狂的に没頭できるプラットフォームは他にありませんでした。ソーシャルメディアから一歩引くという決断は、より大きな決断だったように感じます。

マイケル・カロル:たぶん 3 ～ 4 年ほど、友達全員がそこにいたのですが、その後はそう感じなくなったのですが、私はそこに留まり、今はもう行っています。

ゾーイ・シファー：そうね。ローレン、あなたのウサギの穴は何ですか？

ローレン・グッド：私のウサギの穴は2025年には買えません。

マイケル・カロル：買わない。

ローレン・グッド: AI ショッピング支援から無購入へ。

マイケル・カロル：ちょっと待ってください、これはポッドキャストの中で、Facebook に燃料を供給して何も買わないグループを作る部分ですか?

ローレン・グッド：いいえ、でも、Facebook Marketplace が私をこのアプリに引き戻すきっかけになることはありますね。

マイケル・カロル：そうです。

ローレン・グッド：いいえ。正直に言うと、これは熱烈な消費主義から始まったんです。新しいソファが買いたくて、最近は友達の家に行くたびにソファに座って「これ何のソファ？ 気に入った？ 奥行きはどれくらい？ 41インチあるかな？」なんて聞いているんです。私はソファに夢中なんです。それでソファを探し始めたら、夢中になりすぎて一歩引かざるを得なくなったんです。そんな時、TikTokの人たちが私を見つけたみたいで、2025年の「ノーバイガールズ」が視界の端に現れたんです。「買わないで」って。

ゾーイ・シファー：それは財政的なことでしょうか？予算的な理由で買うのではなく、ムーブメントのようなものですか？

ローレン・グッド：両方です。経済的な理由も両方です。というのも、ガーリーズ（ガーリーズ）が… すみません、言ってはいけないんです。ガーリーズというのは、TikTokで私たちが愛情を込めて呼ばれている女性たちのことで、彼女たち自身もそう呼んでいるんです。でも、彼女たちは「これをしなければ2025年にいくら貯まるか」と計算する傾向があります。でも、これは広く言えば反消費主義運動の一部でもあり、新しいものではありませんが、今ではいい響きですよね？「2020年は買わない」。基本的には新年の抱負の一部です。「新しい靴は買わない。ただし、履き古した靴を完全に履きつぶすまで」とか、「週を通して50ドルの予算が確保できるまで」とか。健康・美容製品は新しく買わない。人それぞれにルールを作るのはいいけれど、これは予算管理。でも、楽しい予算管理なんです。

ゾーイ・シファー：好きです。

ローレン・グッド：そうです。

マイケル・カロル：それは素晴らしいですね。

ローレン・グッド：本当に楽しんでるわ。ええ。実際にやるかどうかはわからないけど、ハッシュタグのコンテンツは気に入ってるわ。マイク、あなたはどう？

マイケル・カロル：私の趣味はペンです。本気です。

ゾーイ・シファー：あなたはいつも最高の答えを持っていますね。

マイケル・カロル：そうですね。成人してからほぼずっと記者をやってきましたが、最初の編集者から最初に教わったことの一つは、常にペンを持ち歩くということです。私もそうしています。いつもペンを持ち歩いています。ローレンもそれを知っています。私はフィッシャー・スペースペンにかなりこだわっています。ブレット・スペースペンをご存知なら、とても小さいペンですよね。ポケットに収まって膨らみもしませんし、ポストに投函する時はキャップを外して先端に装着すれば、フルサイズのペンになります。洗濯機で洗えますし、猛暑の車内に放置したり、凍らせても大丈夫です。内部に加圧インクが入っているので爆発することはありません。それで、1月の初めにラスベガスのCESに行きました。神様、助けてください。ポケットにスペースペンが入っていたんです。使っていたのですが、何度も壊れてしまいました。古くなって、もう壊れているのだと思います。床に散らばった小さな破片を拾い集めるのに疲れてしまいました。ある晩、ベッドに横になって「新しいスペースペンが欲しい」と思い立ちました。インターネットでお気に入りのペンショップ「Jet Pens」に行って、他の小さなペンを探し始めたところ、気に入ったものが5、6本見つかりました。そのうちスペースペンを2本購入しました。

ローレン・グッド：すごいですね。

ゾーイ・シファー：贅沢。

マイケル・カロル:インターネットで購入ガイドやペンに関するコンテンツを読むのにおそらく 2 時間ほどかかりました。

ローレン・グッド：それはすごいですね。

マイケル・カロレ：でも、このかっこいいやつを買ったよ。カヴェコ・スポーツ。

ゾーイ・シファー：ああ。

マイケル・カロル:ドイツのペン。

ローレン・グッド：カメラの前で持てますか？

マイケル・カロル：そうです。

ゾーイ・シファー：赤くて四角い感じですね。モダンなデザインが面白いですね。

ローレン・グッド：これは、初めて文字の書き方を習う子供に与えるようなペンのように見えます。

マイケル・カロル：そうです、私です。私は体が大きいので。でも、これは八角形です。転がらないので、置いても転がりません。

ゾーイ・シファー：それはいいですね。素敵ですね。

マイケル・カロル：そうなの？ペントックってあるのかな、ペン用のTikTokってあるのかな。

ゾーイ・シファー：そうかもしれませんね。TikTokには、本当に何でもコミュニティがあるような気がします。

マイケル・カロル：そうしたら本当に夢中になれるんだけど、TikTokがなくなると、また外の世界に戻ることになる。

ゾーイ・シファー：マイクはペンインフルエンサーです。

マイケル・カロル：ペンフルエンサー。

ゾーイ・シファー：ペンフルエンサー

マイケル・カロル：ペンフルエンサーです。本日の番組はこれで終わりです。来週は、インターネット界の帝王であり、シリコンバレーで大きな影響力を持つベンチャーキャピタリスト、マーク・アンドリーセン氏についてのエピソードをお届けします。「Uncanny Valley」をお聴きいただき、ありがとうございました。もし今日の番組が気に入っていただけたら、ぜひ番組をフォローして、お使いのポッドキャストアプリで評価してください。ご質問、ご意見、番組へのご提案など、私たちへのご連絡は[email protected]までお願いいたします。本日の番組は、キヤナ・モガダムとジャンナ・パーマーがプロデュースしました。このエピソードのミックスは、マクロサウンドのアマー・ラルが担当しました。エグゼクティブ・プロデューサーはジョーダン・ベルです。コンデ・ナストのグローバルオーディオ部門責任者はクリス・バノンです。