Facebookがエンゲージメントの罠から抜け出す方法

ソーシャルメディアはこれからどこへ向かうのか？Facebook文書として知られる流出文書は、たとえ疑念が残っていたとしても、世界で最も洗練されたコンテンツモデレーションシステムでさえ、数十億人規模のユーザーによる不正行為や、エンゲージメントを最大化するように設計されたアルゴリズムによってもたらされる損害には対応できないという事実を改めて浮き彫りにした。

ジェフ・アレンは、Facebookでデータサイエンティストとして4年間勤務し、そのうち2年間はインテグリティチームに所属していましたが、2019年末に退社しました。10月には、元同僚のサハル・マサチと共にインテグリティ・インスティテュートを設立しました。これは、現役および元インテグリティ研究者を集め、業界が切実に必要としているアイデアやベストプラクティスを開発することを目的とした組織です。今週初め、Facebookのような企業がプラットフォーム設計へのアプローチをどのように見直すべきか、そして20世紀初頭のメディア業界から学ぶべき点についてお話ししました。

WIRED：Facebookがエンゲージメントを最適化していることはよく耳にします。しかし、人々は単にスキャンダラスなもの、下品なもの、挑発的なものなどをクリックしたがる、という意見もあるかもしれません。ユーザーの行動をアルゴリズムのせいにしているのでしょうか？

ジェフ・アレン：これは本当に良い質問ですね。社内でもかなり熱い議論の的になっています。皆さんは、どの程度まで従業員が求めているものだけを提供しているのでしょうか？

1890年代のニューヨーク・タイムズの歴史的な逸話が心に残っています。当時はイエロージャーナリズムが蔓延していて、街角に立って突飛なことを叫ぶ少年たちがいました。通りすがりの人々に気づいてもらうためだけに。もしあの瞬間に新聞を買わせる何かを言わなければならないとしたら、見出しは本当にセンセーショナルなものになるでしょう。

私の理解では、ニューヨーク ・タイムズが主導する新しいビジネスモデルは、「人々が信頼するブランドを作り、『これが私たちのブランドです。ここで私たちの新聞を買ってください』と大声で宣言したらどうなるだろうか」というものでした。「印刷に適したすべてのニュース」という考え方はここから生まれたのです。彼らが作り上げた突飛な話について叫ぶ代わりに、「ここでニューヨーク・タイムズを入手できます」と叫ぶの です。

実際に調べてみたところ、1900年代初頭のニューヨーク ・タイムズは、 10年で10倍になるような、テクノロジー業界の水準で急成長を遂げていました。つまり、ニューヨーク・タイムズは1900年代初頭のテクノロジー業界のような存在だったということです。

それはユニコーンでした。

OG アナログ ユニコーンのようです。

この点を指摘していただき、嬉しく思います。「ほら、メディアはみんなエンゲージメントを重視して最適化しているでしょう。だって、見出しをクリックしてもらいたいんだから」とよく言われます。確かにその通りですが、同時に、それにはかなり厳しい限界があるのです。今日のニューヨーク・タイムズの一面を見てみると 、 片方 は「バイデン氏、インフラ強化法案に署名」、もう片方は「欧州、ウイルス感染急増で未接種者をターゲットに」といった記事です。これはクリックベイトではありません。何が重要で、読者が知っておくべき情報は何なのか、といった判断がそこにはあります。クリック率を最適化することだけが目的ではありません。そこには、他の価値観も関わってくるのです。

限界まで突き詰めてみます。メディア業界では非常に問題のある出来事が起こっていて、例えば「血を流せばトップニュースになる」みたいな夕方のニュースとか。私がこの問題に深く関わるようになったのは、オンラインで犯罪が議論される状況が非常に問題になっているからです。

興味深いことに、「血を流せばトップ」というタイプの夕方のテレビニュースが80年代後半から90年代初頭に登場した際、それは非常に指標重視でした。テレビ業界は、夕方のニュースの前に番組を視聴する視聴者、つまり楽しい番組の後に実際の夕方のニュースを見続けるかどうかは、最初の5分間に大きく左右されることを認識できるようになった新しい測定システムを導入しました。

あなたがおっしゃるのは、わいせつな犯罪をトップで取り上げるテレビニュースは、暴力犯罪のリスクについて視聴者に歪んだ認識を与えるが、これは視聴者の関与を指標として重視する新しい手法から生まれたものだということだ。

うん。

ですから、確かに、人々がその瞬間に求めているものだけを提供していれば、センセーショナルなものに偏ってしまうと思います。1800年代の歩道に置かれた新聞も、90年代の夕方のニュースも、そしてクリックスルー率などを最適化している時も同じです。

ソーシャルメディア企業であれば、目標は明日のエンゲージメントを最大化することではなく、1年後、5年後、あるいは10年後のエンゲージメントを最大化することを目指すべきです。

Facebookの「広く閲覧されたコンテンツ」レポートを見ると、 最も多くの閲覧数を獲得した投稿は 必ずしも有害ではないものの、多くの人が真に有意義で質の高い体験とみなすようなものではないことがわかります。人々が思わずコメントしたくなるような質問を投稿するなど、エンゲージメントを高めるための単なるおとり投稿に過ぎない可能性があります。

これは短期的なインセンティブが非常に有意義であるという例のように思えます。なぜなら、長期的なインセンティブについて考えていたなら、おそらく、エンゲージメントを狙ったこれらの投稿がプラットフォーム上でこれほど素晴らしいトラフィックを生み出すことは望まないでしょう。

共同創業者のサハル・マッサチの言葉を借りましょう。プラットフォームを特定の方法で設計し、特定の方法で運用し、特定の方法でユーザーに報酬を与えるとします。もしそれを長期間放置すると、勝者と敗者が生まれてしまいます。そして、サハルが「ステークホルダーの罠」と呼ぶものに陥る可能性があります。つまり、プラットフォームが間違った人々に長期間報酬を与え続けると、その人々が突如として非常に大きな力を持つようになるということです。

もし仮に、あるプラットフォームがあったとしましょう。あまり仮説的な話は不要かもしれませんが、「私たちは最も有害なコンテンツを扱うプラットフォームです。もし他のプラットフォームで有害なコンテンツが原因でアクセス禁止になっているなら、ここに来て投稿してください」と。そして、そのプラットフォームは100万人のユーザーを獲得し、自らを有害なコンテンツを扱うプラットフォームとしてブランディングします。さて、そのプラットフォームに新たなCEOが就任し、さらに成長を目指したとしましょう。ユーザー全員が有害なコンテンツに溺れてしまうため、彼らは窮地に陥るでしょう。この戦略から脱却するには、非常に大きなバンドエイドを剥がさなければなりません。

では、デザインの観点からこれらの問題に対処するには、どのような方法がより良いのでしょうか?

この疑問は、私たちが研究所を設立した理由の 1 つです。なぜなら、この分野では実際にいくつかの試みが行われ、さまざまな程度の成功を収めてきたものの、その知識の多くは企業内の小さなチーム内に存在し、広く普及してこなかったからです。

私がいつも引き合いに出すお気に入りの例の一つは、Googleの検索品質チームと、彼らが少なくとも2015年頃まで行っていた仕事です。Googleは検索品質ガイドラインを構築しました。すべてが非常に客観的で、コンテンツを定性的に評価しているのではなく、客観的な基準を求めているだけです。その多くは実際には基本的なメディアリテラシーのチェックで、例えば「他の条件が同じであれば、コンテンツの発行者や作成者が自分たちが誰であるかについて透明性がある方が良い」といったものです。また、コンテンツにどれだけの労力が費やされたかを評価するためのさまざまな方法もあります。他の条件が同じであれば、より多くの労力が費やされている方が良いからです。ここで最も品質の低いシグナルは、「コンテンツがどこか他の場所からコピーされているか？」でしょう。

しかし、品質の尺度を決定するという点については、一方では「当然のことながら、プラットフォームはユーザーに良い点を見せ、悪い点を見せないようにすべきだ」という見方もあるようだ。しかし、少なくともFacebookの場合、特にユーザー生成コンテンツにおいて、えこひいきをして​​いると見られることを恐れているため、プラットフォームはこれを避けているようだ。

2000年代のインターネット時代に登場した多くのソーシャルメディア企業は、そのミッションステートメントや価値観の多くが、すべての人に発言権を与えることを目指しています。YouTubeのミッションステートメントは「すべての人に発言権を与え、世界に発信する」です。Twitterのミッションステートメントは、正確には忘れてしまいましたが…

「誰もが障壁なくアイデアや情報を瞬時に作成し共有できる力を与えること。」

「瞬時に障壁をなくす」ですね。Facebookの初期のミッションステートメントは「世界中のすべての人を繋ぐ」でした。

これらのミッションステートメントはすべて、「すべての人に発言させ、すべての人にすべてを見せ、すべての人をまとめる」という内容で、品質の客観的な定義や、プラットフォーム上で成功させたいコンテンツの種類を示すことには適合しません。

そして、それらはすべて成長への適応性が非常に高いです。ソーシャルメディア企業の最初の1、2世代を生き残った大手プラットフォームが、成長を最優先に考え、規模が大きければ大きいほど有用性が高まると考え、できるだけ早く、できる限り大きくならなければならないと考えていたことは、全く驚くべきことではありません。

そこには悲観的な含意があります。つまり、Facebookなどの主要プラットフォームは、現状のやり方で莫大な利益を上げているということです。しかし、Facebookの報告書が明らかにしたことの一つは、FacebookやMetaが市場で圧倒的な地位を占めているにもかかわらず、TikTokのような潜在的なライバルを依然として非常に恐れているということです。ですから、短期的なエンゲージメントを犠牲にする可能性のある変更を提案するのであれば、これらの企業のリーダーたちは、Facebookがニューヨーカーの記事を読ませようとしているからといって、退屈な子供がTikTokを開いてしまうリスクを負うことはできないと考えているのではないでしょうか 。 では、プラットフォームがこのように方向転換するなどと議論すること自体が、あまりにもナイーブなのでしょうか？

素晴らしい指摘ですね。私は完全に悲観的というわけではありませんし、確かにうまくやっているプラ​​ットフォームもいくつかあると思っています。どのプラットフォームもすべての問題を解決できるとは思いませんが、すべてのプラットフォームを見渡せば、それぞれが優れている点や劣っている点があるのは明らかです。全てにおいて素晴らしいプラットフォームは見つかりませんでしたが、いくつかの点で成功しているプラ​​ットフォームは確かにあります。

あなたにとって、祝福すべきもの、あるいは楽観的な気持ちにさせるものとして印象に残っているデザイン変更の例はありますか?

YouTubeはここ数年、権威ある動画とはどのようなものかを理解し、より権威のある動画に報酬を与えるために多くの取り組みを行ってきました。その結果、YouTubeを悪用したり、ゲーム化したりすることがはるかに困難になりました。YouTubeで最も視聴されているコンテンツを見てみると、概して人々が力を入れているコンテンツばかりです。ですから、大手プラットフォームが自ら構築しているエコシステムとその長期的なインセンティブについて考えるべき兆しが見えていると思います。

よく考えるのは、まだ終わっていないということです。TikTokは10億人のユーザーにリーチする最後のプラットフォームではありません。長期的には、センセーショナルなものを見せることが最も簡単で最速のビジネスモデルだと気づくプラットフォームが数多く出てくるでしょう。私の脳の誠実さを重視する部分は、インターネット上には様々な種類の悪質なコンテンツが存在することを、まだ見尽くしていないと思っています。ソーシャルメディアプラットフォームの設計がいかに不適切であるかを、私たちはまだ見尽くしていないのです。

ですから、こうした企業の運営方法を制限する上で、規制が大きな役割を果たすべきだと考えています。そして、Integrity Instituteやそれに類する組織にとっても、その役割は重要だと願っています。Integrity Instituteには、いくつかの野心的なモデルがあります。その一つが、サイバーセキュリティを軸に集まったグループ、Open Web Application Security Projectです。メンバーはそれぞれ別々の企業に所属していましたが、互いに話し合い、「これがベストプラクティスだ」と声を上げ、これらのベストプラクティスは企業やコミュニティ間で共有されました。

Web がより安全になると、誰もが恩恵を受けます。

もう一つの模範となるのはAP通信でしょう。ジャーナリストたちが集結し、「ジャーナリズムを職業にしよう。そして、もしジャーナリズムが職業になるなら、ここにルールがあるべきだ」と訴えたのです。

私もその議論にとても共感しています。まさにその記事を書いたことがあるんです。

そうですね、実際あなたの記事は私たちのコミュニティで最も人気のある記事の一つでした。

もちろん、その発言は記録に残しておきます。しかし、私自身の考えに反論させていただくと、党派的な力学が、品質や基準について議論する取り組みを非常に複雑にしているのです。Facebookの場合、同社の歴史の中で、誰かが質の低い出版物にペナルティを課すというアイデアを思いついた後、政策部門の誰かが口を挟んで「それは保守的な出版社に不釣り合いなほどの打撃を与えることになるので、やるべきではない」と言うような出来事がありました。

ジャーナリズムの基準とのアナロジーには同意しますが、メディアが非対称的に二極化していることを考えると、どれだけのことが実現できるのか疑問です。左派メディアの弱点が何であれ、右派メディアの不道徳さは質的に異なるレベルにあります。こうした力学が存在するため、常に党派的な問題に直面することになるでしょう。

正直に言って、これは真の課題です。オンラインでの注目は貴重であり、だからこそ、様々な人々が様々な方面で争うことになるでしょう。そして、アメリカで状況が悪いと思えば、国際的にはさらに悪化するでしょう。

その点、プラットフォームは、人々にとって本当に役立つ可能性のある発展途上国の一部に新しいコミュニケーション プラットフォームを導入することと、同じ場所の一部でプラットフォームが悪用されるリスクが非常に高いという事実との間のトレードオフについて、どのように考えるべきでしょうか。

これは私たち研究所が本当に懸念していることです。特定の国でソーシャルメディアプラットフォームを立ち上げるには、その国の代表者が指導し、責任あるプラットフォームとはどのようなものかを教えてくれる必要があるという考え方が広まっています。

ソーシャル プラットフォームで最もポジティブな体験をするためのアドバイスはありますか?

はい、一生懸命頑張りました。

Twitter や Instagram、Facebook、YouTube をだらだらとスクロールしていることに気づいたら、立ち止まって、そのプラットフォームで見たいコンテンツを考えて、それに適したコンテンツを制作している適切なアカウントは何かを調べてください。

こうやって始めると、ソーシャルメディアは素晴らしい場所になります。私のインスタグラムには、宇宙飛行士と素晴らしいアマチュア天文学者、そして物理実験の写真ばかりがアップされています。アルゴリズムが「彼は元物理学の博士号を取得していて天文学者でもあるから、宇宙飛行士と物理実験を彼に勧めよう」と判断するわけではありません。自分で探し出さなければなりませんでした。インスタグラムのCERNアカウントが大好きです。「throwback Thursday」というイベントで、例えば60年代の大型ハドロン衝突型加速器の写真などを投稿していて、本当に素晴らしいです。本当に大好きです。

読者はビデオではなくトランスクリプトを見ているので、このことは分かりませんが、あなたは熱意のあまり椅子から飛び上がっているようなものです。

物理関連のInstagramが本当に大好きです。でも、おすすめで何か見つかるわけじゃないんです。自分で探さないといけないんです。自分が何に情熱を注げるのか、深く掘り下げたいのか、そしてソーシャルメディアの中でそれに最適な体験はどこなのか、自分で見つけないといけないんです。

だから、ただ無意識にスクロールしているだけなら

立ち止まって何かクールなものを探しに行きましょう。

WIREDのその他の素晴らしい記事

• 📩 テクノロジー、科学などの最新情報: ニュースレターを購読しましょう!
• NFT革命を起こした1万人の顔
• 宇宙線現象がバイキングのカナダ上陸を正確に特定
• Facebookアカウントを永久に削除する方法
• Appleのシリコン戦略を覗いてみよう
• もっと良いPCが欲しい？自分で作ってみませんか？
• 👁️ 新しいデータベースで、これまでにないAIを探索しましょう
• 🏃🏽‍♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください