摂食障害を助長する投稿がソーシャルメディアのフィルターをすり抜ける方法

インターネットが登場して以来、摂食障害を擁護するコミュニティもほぼ変わらず存在しています。ブログ、グループ、フォーラム、ソーシャルメディアのプロフィールなど、様々な形で、摂食障害やボディイメージに関する体験談や写真が共有されています。中には、複雑な病気について、偏見なく自分の気持ちを表現できる場を求める人もいますが、極端なダイエットを推奨したり、助けを求めることを思いとどまらせたりするなど、より危険な行動を助長する人もいます。

インターネット上の他の有害コンテンツと同様に、ED推奨コミュニティをホストするプラットフォームは、長年、それらの管理方法に苦慮してきました。2001年、Yahoo!は利用規約に違反しているとして、100以上のED推奨サイトをサーバーから削除しました。10年後、10代の少女たちがTumblrで「thinspiration（痩せインスピレーション）」ブログを作成しているというHuffPostの暴露記事をきっかけに、Tumblrをはじめとするサイトは、EDを明示的に推奨するコミュニティを禁止しました。

査読付き学術誌「ニューメディア＆ソサエティ」に先月掲載された新たな研究は、摂食障害（ED）を推奨する団体がモデレーションの試みを逃れ続けていることを浮き彫りにしています。この研究ではまた、PinterestやInstagramなどのサイトが、推奨アルゴリズムを通じてユーザーにEDを推奨するコンテンツをさらに提案することがあることが明らかになりました。これは孤立した問題ではなく、YouTubeなどのプラットフォームの推奨エンジンも、陰謀論などの問題のあるコンテンツを提案していることが研究者によって明らかにされています。しかし、フェイクニュースとは異なり、摂食障害を推奨するコンテンツを共有するユーザーは、拒食症や過食症などの深刻な病気を患っている可能性があります。企業はコンテンツ自体だけでなく、コンテンツを削除することが、それを共有している脆弱な人々にどのような影響を与えるかを考慮する必要があります。

「有害なコンテンツ、あるいは摂食障害を助長するコンテンツのカテゴリーに当てはまるものを見極めるのは非常に困難です」と、全米摂食障害協会のCEO、クレア・ミスコ氏は語る。同協会はソーシャルメディアサイトと協力して摂食障害を助長するコミュニティのモデレーションを支援してきた。「そうしたコンテンツを投稿する人々や、そうしたコミュニティに参加している人々は本当に苦労しています。こうしたコンテンツを投稿するユーザーを悪者扱いするような、善悪の二分法的な設定は避けるべきです。」

ハッシュタグのジレンマ

New Media & Society の調査は、コンテンツ管理のツールとしてのハッシュタグに焦点を当てており、テクノロジー企業が問題のあるコンテンツを見つけ、何を削除すべきか、何を削除すべきでないかを判断することがいかに難しいかを強調しています。

2012年にハフポストの記事が公開された後、Instagram、Pinterest、TumblrはEDを推奨するハッシュタグや検索用語のモデレーションを開始しました。

現在、ユーザーが「#bulimia」など摂食障害に関連するタグを検索すると、サイトは結果を完全にブロックするか、助けを求めるかどうかを尋ねるポップアップメッセージを表示します。

これは理解できる戦略です。ハッシュタグは画像とは異なり、自動検出システムや人間のモデレーターによって簡単に分類・フラグ付けできます。また、ハッシュタグは多くの人が新しいコンテンツを見つける手段でもあるため、特定のハッシュタグをブロックすると、投稿が届く人の数が制限されます。歴史的に、タグ付けされたコンテンツは、同様の理由から社会科学の研究者によって過度に重視されてきました。特定のハッシュタグの大規模なデータセットを分析する方が、タグ付けされていないコンテンツを手作業で精査するよりも簡単です。

しかし、特定のハッシュタグはソーシャルメディアに常設されているわけではなく、コミュニティのニーズに合わせて簡単に変化します。ジョージア工科大学が2016年に実施した別の研究では、ED推進派のユーザーが意図的にスペルミスをしたり、用語を変更したりし始めたことがわかりました。例えば、「#thinspiration」は「#thynspiration」「#thinspire」「#thinspirational」といったように変化しました。モデレーションを逃れるため、ED推進派のアカウントやブログの多くはハッシュタグを一切使用しておらず、プラットフォームによる検索や研究者による調査が困難になっています。

「このグループは非常に抜け目がありません。自分たちの行為が社会の目、プラットフォームの目、そして荒らしの目から見て受け入れられないことを知っているからです」と、最近の研究論文の著者であり、シェフィールド大学の講師でもあるイザベル・ジェラード氏は言う。「彼らは自分のアカウントが削除されるかもしれないことを非常に意識しているのです。」

研究の実施方法

ジェラードはiPhoneでInstagram、Pinterest、Tumblrに新しいアカウントを作成することから調査を始めました。これら3つのサイトのコミュニティガイドラインでは、「自傷行為を奨励または促す」コンテンツや「摂食障害を積極的に推奨する」コンテンツの投稿は禁止されています。

彼女はすぐに、InstagramのED推奨ハッシュタグ禁止には簡単な回避策があることを発見した。ユーザー名にキーワードが含まれているものの、投稿にハッシュタグが付いていない人を検索するのだ。彼女は、名前またはプロフィールに「proana」「proanorexia」「thighgap」といった言葉を含み、ED推奨のコンテンツを投稿している公開アカウントを74件特定した。そして、それらのアカウントの投稿1,612件（ハッシュタグが付いていたのはそのうち561件のみ）を、画像の内容とキャプションを分類することで分析した。

Tumblrでは、ジェラードは「thinspo（シンスポ）」「proana（プロアナ）」「bulimic（過食症）」など、EDを推奨するコンテンツに関連するキーワードを数多くフォローしていました。Tumblrでは、特定のユーザーをフォローしなくてもトピックをフォローできます。例えば、「movies（映画）」というキーワードをフォローするだけで、そのトピックについて投稿している特定のユーザーをフォローする必要がありません。この手法で、ジェラードはEDを推奨するブログを50件見つけ、それぞれから20件、合計1,000件の投稿を分析しました。そのうちタグ付けされた投稿はわずか218件でした。

ジェラード氏は、InstagramとTumblrの2,612件の投稿を調査した結果、どのプラットフォームのモデレーションも逃れそうな複雑なシグナルの羅列を発見した。例えば、彼女は、カロリー摂取量を大幅に減らすことを推奨する「アナ・ブートキャンプ・ダイエット」のような、ダイエット計画に関する投稿を多数発見した。「ABCダイエット」として宣伝されているこの投稿は、Instagramなどのアプリで蔓延する主流のフィットネスやダイエット関連のコンテンツの多くと区別するのが難しい。人気のケトジェニックダイエットのように、これらのダイエットの中には非常に制限が厳しいものもあり、ED推奨コミュニティと、一見サイトのルールに違反していないように見えるコミュニティとの境界線がいかに曖昧であるかを示している。

推奨の役割

この研究で最も懸念される結果の一つは、推奨アルゴリズムが果たす役割だ。ジェラードは、Pinterestで摂食障害を推奨する投稿を見た後、サイトが「『死に方』や『死にたい言葉』など、死や自殺に関連するものばかり」の「アイデア」を「気に入るかもしれない」と提案してきたことに気づいた。摂食障害は、うつ病や不安症といった他の精神疾患と併発することが多い。また、Pinterestはジェラードにメールで「あなたにおすすめのピン」を推奨しており、そこには「股関節」といったトピックも含まれていた。

Pinterestの広報担当者は声明で、「当社は、この種のコンテンツを他のサイトやソーシャルメディアから当社のプラットフォームに保存することを禁止するポリシーを定めています」と述べました。「このようなコンテンツが当社のシステムに入った場合、当社は自動および手動のプロセスを導入し、削除するか、見つけにくくします。また、これらのキーワードで検索された場合でも検索結果は表示されません。当社はこのようなコンテンツを非常に深刻に受け止めており、常に改善に取り組んでいます。」

ジェラード氏の調査によると、InstagramとTumblrの推奨アルゴリズムは同様の動きを見せた。例えばInstagramでは、ジェラード氏はユーザーの目に留まり、行動に影響を与える可能性のある投稿に「いいね！」やコメントを付けたことは一度もなかった。しかし、EDを助長するコンテンツを「保存済み投稿」フォルダに「保存」していた。このフォルダからは投稿者に通知が送られない。彼女が投稿を保存し始めてから、Instagramの「発見」タブにはEDを助長するコンテンツが大量に表示された。InstagramとTumblrは、度重なるコメント要請に回答しなかった。

他のプラットフォームの推奨アルゴリズムも、問題のあるコンテンツをユーザーに意図せず推奨してしまうことがあります。ニューヨーク・タイムズとウォール・ストリート・ジャーナルは今年初め、YouTubeの推奨アルゴリズムが陰謀論などの過激なコンテンツを増幅させていることを明らかにしました。

「プラットフォームは摂食障害と自傷行為に対する道徳的立場をアルゴリズム的にまだ調整できていない。つまり、問題のあるコンテンツをユーザーに押し付けたり拒否したりしているということだ」とジェラード氏は研究論文に記している。

プラットフォームでできること

EDを助長するコンテンツを全面的に削除すべきだという意見に、すべての専門家が賛同しているわけではない。ある研究では、こうしたグループは、人々が自身の病状を、時には初めて表明する場として役立つことが分かっている。また、プラットフォームがEDを助長するユーザーを削除した場合、彼らはプライベートグループやSnapchatのような一時的なアプリなど、アクセスしにくい場所へ移行してしまうのではないかという懸念もある。

同時に、摂食障害を推奨するグループが有害で有害な影響を与える可能性があることは間違いありません。「私にとって、あのウェブサイトは病気を悪化させる最悪の要因の一つでした」と、拒食症から回復したある女性は、実名を伏せてほしいと申し出ました。「フォーラムは、自分の病気について時間とエネルギーを注ぎ込むのに最適な場所です。自分の病気が認められるのですから。」

NEDAのCEOミスコ氏とジェラード氏は、ソーシャルメディア企業が自社のサイトを利用して摂食障害に苦しむ人々をもっと支援できると同意している。

ジェラード氏は、プラットフォームは個人のアカウント全体を削除するのではなく、個々の投稿を削除することを検討するよう提案している。そうすれば、支援してくれるかもしれない他のユーザーとのつながりが突然断たれるのを防ぐことができる。ED推進派のアカウントの多くは仮名を使用しているため、アカウントが停止された場合、連絡を取り戻すのが困難になる。

ジェラード氏はまた、プラットフォームが有害なED推奨コンテンツの特定を専門とする訓練を受けたモデレーターを雇用することを推奨しています。企業のコミュニティガイドラインは曖昧な場合が多く、モデレーターやユーザーが境界線を越えてしまったかどうかを判断するのは容易ではありません。

ミスコ氏は、プラットフォームは、既に人気のあるフィットネスや健康関連のインフルエンサーと直接連携し、食事やボディイメージに関するより健康的なメッセージを発信することも検討すべきだと述べている。摂食障害を推奨するグループやブログは、昔からオンライン上に存在してきた。変化したのは、それらが今では、パーソナライズされ、しばしばジェンダー化されたコンテンツと並んで存在するようになったことだ。これらのコンテンツは、同じ「やせ」という理想を、ただ明確に強調するわけではない。

「他人と比べる傾向があります。多くの人が完璧主義者で、それがソーシャルメディアの空間で特に増幅されるのです」とミスコ氏は言います。「多くの摂食障害の根底にある不安が、常に増幅されてしまうのです。」

ご自身または大切な方が摂食障害で苦しんでいる場合は、全米摂食障害協会（National Eating Disorders Association）のホットライン（800-931-2237）までお電話ください。または、「NEDA」と入力して741741までテキストメッセージを送信することもできます。利用可能なリソースに関する詳細は、こちらをご覧ください。

WIREDのその他の素晴らしい記事