Facebookのフィードバックループがモモの偽情報の拡散を助長した経緯

Facebookのフィードバックループがモモの偽情報の拡散を助長した経緯

画像には成人の顔、頭部の写真、肖像画が含まれている可能性があります

イペガス / ゲッティ

おそらくもうお気づきでしょうが、まぶたのないダチョウの卵ほどの目と、やせた黒髪、ニヤニヤ笑うブーメラン型の口を持つ恐ろしい女性、モモは、あなたの子供を襲撃するわけではありません。

「モモ」のキャラクターが子供たちのワッツアップメッセージに現れて、子供たちを騙して自傷行為をさせているという、この拡散したデマをめぐるヒステリーは、恐怖に怯える親たち、マスコミ、警察、学校、そしておそらく最も重大なのはフェイスブックのアルゴリズムの間で巻き起こったヒステリーの最悪の組み合わせの結果である。

モモの件は、Facebookのフィードバックループが、一度は廃れた話題をいかに蘇らせ、拡散させ、今回のように完全に制御不能に陥らせるかを示す好例だ。「Facebookは本質的に、個人との関わり合いを重視するように作られています。非常に対話的なサービスであり、ユーザーが反応しそうなコンテンツでユーザーを惹きつけることで成功を収めています」と、Facebookの元米国プライバシー・公共政策アドバイザーであるディパヤン・ゴーシュ氏は説明する。「Facebookの社内指標は、同社が『有意義なソーシャルインタラクション』と呼ぶものに重点を置いています。そして、どのようなコンテンツが有意義なソーシャルインタラクションを構成するのかを見極めようとする際、時に大きく誤った判断を下してしまうことがあるのです。」

今週のような状況に陥るのは、まさにこのためです。モモという名前はここ数日で耳にするようになったかもしれませんが、実はその起源はもっと古く遡ります。この画像自体は、2016年に日本の特殊効果会社リンクファクトリーのために制作された鳥のような怪獣の彫刻です。Know Your Memeによると、この彫刻が「モモ」になったきっかけは、2018年7月10日のRedditの/r/creepyへの投稿まで遡り、48時間以内に4,700件以上の賛成票と900件のコメントを獲得しました。モモ関連の死亡に関する最初の噂はブエノアイレスで流れましたが、当局は死といわゆるモモチャレンジとの関連性を一切認めていません。

では、なぜ6カ月以上経った今、モモが大混乱を引き起こしているのだろうか。モモへの関心の高まりは、2019年2月17日、ボルトン郊外の小さな町ウェストホートンの母親が町のFacebookグループにモモに関する長文のメッセージを投稿したことに始まった。投稿の核心は、彼女の息子がオンラインでモモを検索し、「モモを怖がらないと寝ている間に殺されてしまうよ」と他の3人の子供に言い放って怖がらせたという内容だった。3日後、マンチェスター・イブニング・ニュースに「7歳児が学校の友達にモモ・チャレンジで殺されると言っていたのを受けて、母親が『モモ・チャレンジ』に警告」という見出しの記事が掲載された。同紙の家族向けセクションに転載されたこの記事は、Facebook上で467回も反応があった。

翌日、ザ・サン紙とデイリー・メール紙がこのニュースを取り上げ、モモを「邪悪な自殺ゲーム」と評しました。その後、両記事はより人気のあるFacebookグループでシェアされました。デイリー・メール紙の記事は「今何を見たの?」などのグループに投稿され、ザ・サン紙の記事は「Fabulous」「Dad Info」「James Higgins Psychic Medium」(本当に!)などのグループでシェアされました。両記事はFacebook上で合計10万件以上のインタラクションを獲得しました。

その後、学校、警察、YouTuber、そしてキム・カーダシアン(後者はインスタグラムのストーリーで「@youtube 助けて!!!!」とキャプションを付けて)が介入した。北アイルランド警察は、このゲームに関する具体的な報告を受けていないにもかかわらず、2月24日に公式警告を発した。警察は現在、このチャレンジに関する主張は「虚偽、もしくは著しく誇張されている」と述べている。2月26日、ハルのノースコット・スクールはTwitterで「悪質なチャレンジ(モモチャレンジ)が子供向け番組にハッキングされている」と投稿し、ペッパピッグの子供向けYouTube動画にモモの顔画像が挿入されていると述べた。

ソーシャルメディアのアルゴリズムがこうしたニュースを拡散させる仕組みを理解する鍵は「フィードバックループ」だと、オックスフォード・インターネット研究所の上級研究員バーニー・ホーガン氏は語る。「あるコンテンツを見て、多くの人が「いいね!」したり、スマイリー・フェイスを使っていたりすると、それ自体がフィードバックループを生み出すシグナルになります」と同氏は語る。「そのフィードバックループによって、[例えば]何年も音信不通だった人の結婚式の写真が突然表示されるなど、情報がトップページに表示されるようになるのです」。しかし、見たいと思っていたはずの結婚式の写真を見せてくれるフィードバックループは、同時に、人々の不安につけこむためのデマや誤情報を拡散させる原因にもなりかねない。

結果として、モモは、それ以前の他の「クリーピーパスタ」やソーシャルメディアチャレンジと同様に、実際にバイラルになったのは、それをめぐる騒動によるものでした。偽のバイラル現象の報道と、それが共有されたことで、実際にバイラル現象になったのです。そして、暴力や自殺といった概念を煽っているため、この拡散は今や真に有害であることが判明するかもしれません。ホーガン氏は、「残念ながら、これはオンライン上の多くの問題と同様に、どんな報道でも良い報道となり、『やめろ』と言っても無駄です。何も言わない方がいいのです」と説明しています。

この記事はWIRED UKで最初に公開されました。