MeToo Facebookグループがいかにしてハラスメントの道具となったか

昨年、何千人もの女性がハッシュタグ「#MeToo」を使って性的暴行やハラスメントの体験を共有する中、オレゴン州出身の30歳のアマンダは、自身の体験を共有できる支えとなる場所を探していました。そして間もなく、友人から、数千人のメンバーがいる性的暴行被害者のためのFacebookグループに参加するよう誘われました。

このグループは簡単に見つけられました。つい今月にも、関連ページはFacebookが認証した#MeTooページよりも検索結果で上位に表示されていました。グループ名にも「me too」が含まれているこのグループは、アマンダには正当なものに見えました。何より素晴らしいのは、このグループが「非公開」だったことです。つまり、検索結果には表示されますが、新規メンバーが参加するには管理者の承認が必要で、投稿内容はメンバーだけが閲覧できるということです。

「人々は、トラウマの最も親密な瞬間をこれらの人々と共有したのです」とアマンダは言う。（WIREDは彼女のプライバシー保護のため、姓の記載を控えている。）

そして今月初め、突然アマンダはグループの名前と写真が変更されていることに気づきました。トランプ大統領がモンタナ州の集会で#MeToo運動を嘲笑したその日、彼女のコミュニティには荒らしが殺到し始めました。グループはエロティックなコンテンツを共有する場として宣伝され、アマンダが見覚えのないアカウントが管理者になっていました。彼らは新しいメンバーを追加し始めましたが、後にWIREDが調査したところ、これらのプロフィールの多くは偽物であることが判明しました。

WIREDは、アマンダを含むグループに参加していた5人の女性にインタビューを行い、そのうち数人は自身のアカウントを裏付けるスクリーンショットを提供した。彼女たちは、新規アカウントの多くから嫌がらせを受けたと語り、中には加害者に連絡する、あるいは子どものことで児童保護サービスに通報すると脅迫する者もいたという。ある荒らしは、女性たちの虐待に関する投稿をすべてファイルにまとめているとコメントし、たとえFacebookから削除されても、彼女たちのアカウントは公開される可能性があると示唆した。WIREDの連絡を受け、Facebookはその後、多くのアカウントを停止した。

#MeTooグループが何らかのハッキングによって乗っ取られたのか、それとも女性たちを誘い込み、最終的に参加した女性たちに嫌がらせをするために意図的に設立されたのかは不明です。女性たちがFacebookにグループを報告し始めた後、グループは削除され、元のメンバーたちは何が起こったのかを解明するしかありませんでした。

「それが一番最悪でした。このグループは安心して話せる場所だと投稿していた人がいたのに、突然消えてしまったんです」とアマンダは言います。

Facebookの広報担当者は声明で、「私たちは、人々が安心してコミュニティに参加し、繋がれるようにしたいと考えています。そのため、私たちは真実性こそがコミュニティの根幹であると考えており、Facebook上での嫌がらせ行為を容認しません。これらのポリシーに従い、コミュニティ規定に違反したとして、このグループ、ページ、そして特定されたプロフィールを無効化しました」と述べました。

Facebookグループが何百万人もの人々にとって重要なコミュニティを代表していることは疑いようがありません。今年初めのウェストバージニア州の教師ストライキや2017年の女性行進において、グループは組織化において重要な役割を果たしました。しかし、グループは操作、詐欺、嫌がらせの道具としても利用されてきました。

『This Is Why We Can't Have Nice Things: Mapping the Relationship Between Online Trolling and Internet Culture』の著者であるホイットニー・フィリップス氏は、Facebookのグループやページは長らく荒らしや嫌がらせの場となってきたと述べている。彼女は、2010年にまで遡る事件を挙げている。当時、荒らしたちは最近亡くなった愛する人のために開設された追悼ページを乗っ取ったのだ。

「管理者は一夜にして、誰であろうと死に値すると表示してしまうのです。当時はそれが常套手段でした」とフィリップスは言う。それ以来、悪意ある人物は銃乱射事件などの悲劇やニュースを悪用するために、Facebookページやグループを立ち上げ続けている。「これはFacebookが自社のサービスを論理的に拡張しようとした失敗です。Facebookは、自社のツールが操作者たちの常套手段であることを理解していないようです。」

Redditのような親密なコミュニティをホストする他のソーシャルプラットフォームとは異なり、Facebookはユーザーに実名の提供を義務付けているため、虐待の可能性が高まっています。Facebookユーザーが厳格なプライバシー設定を有効にしていない限り、荒らしやその他の悪意のある人物は、ユーザー自身や家族の写真、勤務先や通学先、電話番号やメールアドレスなどの追加連絡先情報を見つける可能性があります。まさに#MeTooグループで起こったことです。

この事件は、Facebookの元ニュースフィード責任者アダム・モッセリ氏が、プラットフォーム上でより「有意義な」つながりを育む取り組みの一環として、グループコンテンツをより目立たせると発表した6か月後に発生しました。昨年、FacebookのCEOマーク・ザッカーバーグ氏も、Facebookグループはプライベートでデリケートな情報を共有する場として利用できると強調していました。

「もし希少疾患と診断されたとしても、グループに参加して世界中の同じ病気を持つ人々とつながることで、孤独ではなくなる」とザッカーバーグ氏は2017年6月のフェイスブック・コミュニティ・サミットで述べた。同イベントでザッカーバーグ氏は、フェイスブックの目標は20億人を超えるユーザーのうち10億人が「有意義な」コミュニティに参加することだと述べた。

Facebookは最近、プラットフォーム上のグループの重要性を強調し続けています。5月には、グループの安全を確保するための一連の新ツールをリリースしました。その中には、管理者が問題を報告したり質問したりしてFacebookから回答を得られる専用の場所である管理者サポートも含まれており、これは限られた数の管理者に展開されました。Facebookはまた、偽アカウントなどを報告される前に、より積極的に検出するための人工知能（AI）の開発も進めています。

しかし、管理者サポートやそれに類するツールは、管理者が誠意を持って行動している場合にのみ役立ちます。#MeTooグループのケースでは、管理者が虐待行為に関与していた可能性があり、一般メンバーに選択肢はほとんどありませんでした。

「このようなことが起こっているのに、責任者に直接連絡できないのは残念です」と、匿名を条件に同じグループの別の女性は言う。「通報ツールが不十分なのです」

このグループの管理者が、最初から虐待被害者を標的にしようとしていたかどうかは不明です。そもそも誰が作成したのか特定できないことが一因です。このグループの管理者はFacebookページでした。Facebookは、ページ運営者の個人を公表することを義務付けていないため、グループ管理者の身元を隠す手段となっているのです。

特定のFacebookプロフィールに紐付けられていないグループを作成できる機能は、正当な目的にかなうものです。例えば、非営利団体は、ソーシャルメディア管理者の身元ではなく、団体名に紐付けられたグループを作成したいと考えるかもしれません。しかし、この同じ機能が悪用され、悪意のある人物が正当な団体を装うことを可能にしています。これは、2016年の大統領選挙の直前にロシアのプロパガンダ活動家などが悪用した抜け穴です。

Facebookはこの問題を認識している。6月、Facebookはページの作成日と名前の最近の変更の有無を記載することで、ページの透明性を高めると発表した。しかし、作成者をページに開示するよう義務付けるまでには至らなかった。

Facebookにはユーザー向けのセーフティセンターと、全米家庭内暴力撲滅ネットワーク（National Network to End Domestic Violence）と共同で開発した虐待被害者向けの特別ガイドがありますが、グループの安全性や正当性をどのように評価すべきかについて、具体的なガイダンスは提供されていないようです。例えば、管理者の正体がわからない場合に個人情報を共有することに関する警告はありません。

Facebookは特定のページに対して公開認証バッジを提供しています。青いチェックマークは、Facebookが「これが著名人、メディア企業、またはブランドの正規のページまたはプロフィールであることを確認した」ことを示し、灰色のチェックマークは企業や組織に使用されます。

Facebookは、認証ステータス以外にも様々なシグナルを用いて、検索結果やレコメンデーションエンジンにグループやページをアルゴリズム的に表示させています。これらのシグナルは、ユーザーの友人やつながりなどに基づいてユーザーごとに異なります。しかし、WIREDの複数のスタッフがハッシュタグ「#MeToo」を検索したところ、現在は削除されたグループのページが、#MeToo運動に関連するFacebook認証済みページよりも上位に表示されました。

「レコメンデーションアルゴリズムは、様々なデジタルプラットフォームで日常的に操作されています（これはFacebookに限ったことではありません）。認証済みアカウントは、ユーザーに信頼を伝える手段の一つです」と、新技術に関連する社会・文化問題を研究する非営利団体Data & Societyの研究リーダー、メアリー・マッデン氏は語る。「しかし、リスト上の位置や順位も非常に重要なので、多くのユーザーがトップページを信頼できるページだと勘違いしたのも無理はありません。」

このソーシャルネットワークは、グループの規模に基づいてランク付けしているようだ。#MeTooグループは削除される前、1万5000人以上のメンバーを抱えていた。しかし、BuzzFeed Newsの調査で明らかになったように、コミュニティの規模を誇張するために偽のグループメンバーを買うのは容易だ。

Facebookは長年にわたり、数十億人が日常を共有できる、歓迎され安全なプラットフォームとしての地位を確立しようと努めてきました。しかし、たとえ正当な管理者が運営する非公開グループであっても、その情報はユーザーが気づかないような目的で利用されることがあります。

先週、CNBCはFacebookが最近、非公開グループのメンバー名に第三者がアクセスできる機能を削除したと報じました。非公開グループの投稿はこれまでグループメンバーのみが閲覧できましたが、以前は誰でもメンバー情報を確認できました。マーケターなどがメンバーリストをダウンロードできるブラウザ拡張機能が開発され、雇用主、所在地、メールアドレスといったユーザー情報も取得できるようになりました。

この拡張機能は、遺伝子変異によって特定のがんの発症リスクが高まる女性のための非公開サポートグループのモデレーター、アンドレア・ダウニング氏によって発見されました。彼女をはじめとするコミュニティのメンバーは、グループが非公開であるにもかかわらず、保険会社やその他の関係者が健康情報にアクセスできるのではないかと懸念を抱きました。彼らはFacebookに懸念を訴えました。6月29日、Facebookは非公開グループのメンバーリストを非公開にしました。（FacebookはCNBCに対し、この変更は広報活動とは関係がないと述べています。）このブラウザ拡張機能も削除されました。

ダウニング氏は依然として満足していない。「Facebookのグループ機能のシステム全体の設計は大きな問題です」と彼女は言う。しかし、ユーザーがグループに投稿した投稿をダウンロードできないため、Facebookから他のプラットフォームに移行するのは難しいだろうと彼女は言う。Facebookは、グループデータをダウンロード可能にするかどうかについての質問にすぐには回答しなかった。

Facebookグループは何百万人もの人々が繋がり、孤独感を和らげる手助けをしてきましたが、同時に荒らしや詐欺師にとって魅力的な標的にもなっています。このソーシャルネットワークは、そのツールがどのように悪用されるかを予測することに関しては、実績がまちまちですが、人々が実名を使い、生活の最もプライベートな詳細を共有するとなると、その危険性は計り知れません。

「このグループは本当に楽しかったんです。みんな自分の体験談を話してくれたり、自分に起こった出来事を尋ねてくれたり、アドバイスを求めてくれたりしました」と、#MeTooグループに参加していたもう一人の女性、クロエは言います。「私たちはみんな、できる限り助け合い、支え合っていました。」

WIREDのその他の素晴らしい記事

• セックス、ビール、そしてコーディング：Facebookのワイルドな初期の日々
• SFがNetflixに侵入し、同時にあなたの家にも侵入する
• 2018年これまでの最悪のサイバーセキュリティハッキング
• マイクロソフトの超小型コンピュータの未来への大きな賭け
• シリコンバレーが非公式のカースト制度を助長している
• もっと知りたいですか？毎日のニュースレターに登録して、最新の素晴らしい記事を見逃さないでください。