プラットフォームは、児童虐待を目的としたグループを削除するよりも、推奨する方が早い場合があります。
写真イラスト: サム・ホイットニー、ゲッティイメージズ
QAnonとその同盟である偽情報が拡散した地域別のFacebookグループの規模と影響度をマッピングしようとしていた時、10、11、12といった名前のFacebookグループを探しました。これはピット偽情報研究所での仕事の一環で、ピッツバーグ市の10区、11区、あるいは12区あたりを念頭に置いていました。ところが、代わりに表示されたのは「Buscando novi@ de 9,10,11,12,13 años」というグループでした。9歳のガールフレンドを探している？えっ？
ページの美的感覚は漫画のように可愛らしかった。長いまつ毛の大きな目、ハート、パステルカラー。性器の写真を露骨に引用する投稿はゲーム化され、絵文字がちりばめられていた。「このリストにあなたの年齢が載っていますか？返信欄に入力すれば、『それ』を見せてあげますよ」
多くの場合、投稿は単なる繋がりへの入り口に過ぎず、本当の危険は舞台裏にありました。ある投稿には「11歳の変態ガールフレンド募集中」と書かれており、背景には紫色、ハートの絵文字が使われていました。返信には、Messengerで友達リクエストを送って継続するよう求めたり、プライベートグループやWhatsAppチャットへの参加を勧めたりと、デジタル世界の通行人の目に触れないような形で行われていました。
これは8Chanの無法掲示板などではなかった。Facebookで簡単に見つけられるものだった。そして、私は不安になりながら、これが唯一の掲示板ではないことに気づき始めた。実際、彼らへの対策を講じようと3ヶ月も努力した2022年1月になっても、Facebookで11、12、13と検索すると、最初の30件のうち23件がその年齢の子供をターゲットにしたグループだった。グループ名には「boyfriend/girlfriend」「novio/a」「niños/niñas 」といった単語が含まれ、時には「pervertidos」「hot」といった単語も含まれていた。メンバー数は8万1000人を超えていた。
スクリーンショット：WIREDスタッフ経由のFacebook
Facebook（現在はMeta傘下）が18年もの間運営を続けてきた以上、グループ名に児童との性的接触を求める目的を謳うグループを作成すれば、精査の対象となるような基本的なチェック体制が敷かれているだろうと、あなたは思っていたかもしれません。特に、Facebookのポリシーでは13歳未満の利用は認められていないからです。そのようなグループで交流する人は皆、定義上、Facebookを利用しているだけでFacebookのポリシーに違反している児童、児童になりすましているだけでFacebookのポリシーに違反している成人、あるいは児童との性的接触を求めることでFacebookのポリシー（および複数の州法および国際法）に違反し、公然と大人のふりをしている成人に該当します。
デューデリジェンス（相当の注意義務）を遵守すれば、そのようなグループの作成を防ぐための積極的な措置が講じられるのは当然のことです。そして、フラグが立てられ報告されたグループが通過してしまったら、速やかに削除する措置も講じるべきです。私もそう思っていました。ところが、偶然これらのグループに遭遇し、次第に信じられない気持ちが募り、削除が不可能だと悟るまでは。
子どもたちは、性的なデジタル空間で個人的な画像や連絡先を共有し、さらなる画像や行動が求められたり交換されたりするプライベートグループやチャットに参加するよう誘導されています。
議会の Earn It Act をめぐる議論が、性的に露骨な素材を配布するためにデジタル チャネルが使用されていることに注目を集める一方で、児童性的虐待素材が生成される方法の劇的な変化への取り組みもままなりません。米国の 9 歳から 12 歳までの子供の 45 % が、毎日 Facebook を使用していると報告されています (この事実だけでも、Facebook が 13 歳未満の子供をプラットフォームから遠ざけるために積極的に取り組んでいるという主張を嘲笑するものです)。最近の調査によると、9 歳から 12 歳までの子供の 4 分の 1 以上が、オンラインで性的勧誘を受けたことがあると報告しています。8 人に 1 人がヌードの写真や動画を送るよう求められたことがあり、10 人に 1 人が性的に露骨なライブ配信に参加するよう求められたことがあると報告しています。スマートフォン、インターネット アクセス、Facebook が一緒になって、子供の手や家庭にまで入り込み、積極的な捕食行為を行う新しい場を作り出しています。その規模はまさに大規模です。
もちろん、偶然見つけたグループを報告しました。Facebookのプラットフォーム内システムを使って、「ヌードまたは性行為」を含む（次のメニューで「子供が関与している」）とタグ付けしました。数日後、自動返信が届きました。グループは審査済みで、「特定のコミュニティ規定」には違反していないとのことでした。もし「あなたにとって不快または不快」なコンテンツに遭遇し続けるなら（私の好みの問題なのでしょうか？）、グループ全体ではなく、そのコンテンツだけを報告すべきです。
私が報告した時点で、「Buscando novi@ de 9,10,11,12,13 años」のメンバー数は7,900人でした。Facebookがコミュニティ規定に違反していないと返信した時点で、メンバー数は9,000人になっていました。
そこで私はFacebookとFacebookニュースルームにツイートしました。面識はないけれど、Facebook社内の人間にアクセスできるかもしれないと思われる人たちにダイレクトメッセージを送りました。ジャーナリストをタグ付けしました。そして、Facebookのプロトコルを使って、数千人のユーザーを抱えるグループを12以上も報告しました。これらのグループは、性的に露骨な検索ワードではなく、グループ検索バーに「11 12 13」と入力するだけで見つかりました。
行動を起こそうと奮闘する中で、ますます明らかになったのは、テクノロジーの限界が問題なのではないということだった。AI駆動型アルゴリズムの威力は発揮されていたが、それは児童の危険を減らすどころか、むしろ拡大させていた。行動を起こす根拠を否定する返信が次々と私の受信箱に届く一方で、「あなたにおすすめのグループ」として、児童性的虐待を助長する新たなグループが次々と推奨され始めたのだ。
勧められた新しいグループはどれも、私が報告したグループと同じように、漫画満載の誘惑、感情を煽る行為、そして性的なコンテンツを共有するためのゲーム的な誘いを織り交ぜていた。スペイン語のものもあれば、英語のものもあり、タガログ語のものもあった。一連のグループ名「hanap jowa」の翻訳を検索すると、フィリピンの記事にたどり着いた。その記事では、Redditユーザーが児童を危険にさらすFacebookグループを削除しようと努力している様子が報じられていた。
スクリーンショット：WIREDスタッフ経由のFacebook
もしあなたの近所のショッピングモールに、「10歳、11歳、12歳の男の子と女の子、セクシーなロマンスを見つけに来てください」と書かれた店舗スペースがあり、そのドアを開けると隠れた写真ブースがいくつも並んでいて、さらにモールのオーナーがオンデマンドの無料シャトルサービスを導入し、いつでも子供を迎えに行けるとしたら、私たちは肩をすくめて「まあ、仕方ないわね。親のせいにして、目を背けよう」と言うでしょうか？
問題は、私たちのつながりの拡大を形作っている（そして時には、Facebookが一部の発展途上市場で限定的な無料インターネットサービスを提供することでそれを助長しているように）ソーシャルメディアプラットフォームが、まさに子供が危険にさらされる、半公共で半プライベートな空間を作り出していることです。性的虐待の被害者となる子供の約10％は見知らぬ人から、さらに30％は家族から虐待を受けています。しかし、大多数は知り合いから虐待を受けています。知り合いとは、信頼と感情的な影響力を築くために繰り返し接触する機会があり、公衆の目から離れて密室に移る機会を作り出すことができる人々です。Facebookグループ、そしてそれらがつながるプライベートチャットやチャンネルのエコシステムは、クリックするだけでプライベートルームにアクセスできる、見知らぬ人同士が大規模に知り合いになることを可能にしています。
推奨の結果、内部データに基づいたAIが、私が認識していたグループ特性を正確に認識し、言語や地域を超えた略奪行為のパターンを捉えて、スムーズなブーストを実現していることが分かりました。一方、Facebookの推奨エンジンは、虐待者にとってシームレスなUberのように機能する一方で、安全対策は1990年代のDMVのように機能しています。つまり、手動でデータを入力し、何もしないことがデフォルトとなっているのです。
Facebook社内に繋がりのある人物に裏で連絡を取ったことが、唯一効果があったように思えた。その人は私の懸念を真剣に受け止めてくれた。1週間後、最大規模のグループが消え始めた。しかし数ヶ月も経たないうちに、同じくらい大きなグループが次々と現れた。最近では、この最新の波の中で最大のグループが消えた。閉鎖されたか「秘密のグループ」に移行したかのどちらかで、どちらかは分からない。グループの数は以前と変わらず、内容は以前と全く同じだ。Facebookの「セーフティ」ツールで何度も報告したにもかかわらず、グループは再び着実に成長している。
私の努力は、実際に行われた限定的な削除にも全く関係がなかったかもしれない。誰にも分からない。透明性が全くなく、それが問題の一因となっている。私が撮影したスクリーンショットは、何千人ものメンバーと毎日何百ものエンゲージメントを抱える数十のグループが、何ヶ月も放置されたままFacebook上で繁栄していたことを示す唯一の外部証拠かもしれない。（「当社のプラットフォーム上では、児童性的虐待コンテンツや成人と未成年者間の不適切なやり取りを含む児童搾取を容認しません」とMetaの広報担当者はWIREDへの声明で述べている。「当社の規則に違反していると思われるコンテンツを見つけた方は、アプリ内の報告ツールを使用して報告することをお勧めします。」）
外部研究者である私には、Facebookの膨大なデータフローやアルゴリズムの仕様にアクセスできないというだけではありません。同社は、公開グループ、非公開グループ、秘密グループの作成、規模、削除のペースに関する最も基本的な情報さえも公開していません。さらに、研究者である私たちは倫理と規則に縛られており、研究助手が閲覧できる資料や、個人を特定できる画像を保管できる範囲が制限されています。特に、研究者にインフォームド・コンセントを与える能力が全くないとみなされる子供たちを扱う場合はなおさらです。
Facebook と子供たちのやりとりがそのような礼儀作法によって規制されていないと言うのは控えめな表現です。
プラットフォーム上で活動するには幼すぎる児童を性的誘惑する目的で作られたグループという、決して例外的なケースではないはずのこのケースでさえ、Facebookは被害を積極的に防ぐ態勢を整えておらず、また、報告を受けた際の対応も一貫していない。これは、保護のためのエンジニアリングと拡張のためのエンジニアリングのバランスが実際にどのように機能しているかについて、どんなプレスリリースよりも多くを物語っており、私たちは非常に恐れるべきである。
Facebookは若いユーザー獲得に躍起になっている。若い世代をTikTokに奪われるわけにはいかない。マーク・ザッカーバーグが構想する仮想現実の宝庫、Metaはマルチプレイヤーゲームの魅力に傾倒している。ゲーミフィケーションがいかに簡単に子供たちを惹きつけているかは、私が見てきたグループを見れば、吐き気がするほどだ。外部の人間は、メタバースがどれほど危険なものになるのか、一体どうやって見抜くのだろうか。
ブルッキングス研究所などが開発した枠組みを活用した「プラットフォーム説明責任・透明性法」のような最近の提案は、説明責任への第一歩となる基本的な情報アクセスを義務付けるものとなるだろう。しかし、プラットフォームの実際の動作を決定づける、可変的なアルゴリズムと複雑に絡み合った内部ポリシーの選択を考えると、効果的な外部規制は内部からの反乱よりもはるかに実現が難しいように思われる。（これは、インテグリティ・インスティテュートのような新しい取り組みの背後にある直感のようだ。）
もし公の場で非難することが最善策だとしたら、それをいかに迅速に強化するかを考え出す必要がある。私はアメリカの学者で、組織的な支援、時間、そしてある程度の公的なプラットフォームを持っているが、これらのグループに対して持続的な行動を起こすことは不可能だと気づいた。タマウリパス州や南テキサスの親たちは、子供たちの生活に手を出す加害者たち、あるいは、こうした危害を加える機会が存在しなかったはずの企業に対して、どのように行動を起こせばいいのだろうか。
インターネット上で見知らぬ人による児童性的虐待について大声で話すと、心配そうな友人から「Qアノン信者みたいだ」と言われ始めることが分かりました。少し立ち止まって考える価値はあります。危険にさらされている子供たちに対する集団パニックは、歴史上何度も繰り返されてきました。20世紀初頭のカリブ海地域における魔術と子供の血の犠牲に対する恐怖の高まりについて書いたことがあります。こうしたパニックの具体的な内容は無意味ではありません。むしろ、それらは真の恐怖を反映しており、実際にははるかに拡散している脆弱性のパターンを、悪事を働くとされる単一の集団に投影していることが多いのです。
対抗できる敵の存在を信じることは、少なくとも力を与えてくれる。隣のショッピングモールの地獄を止める方法を誰も知らないという事実を目の当たりにするのは、ただただ恐ろしい。
WIREDのその他の素晴らしい記事
- 📩 テクノロジー、科学などの最新情報: ニュースレターを購読しましょう!
- ジャック・ヴァレーはまだUFOが何であるかを知らない
- 遺伝子データベースをより多様化するには何が必要でしょうか?
- TikTokは戦争のために設計された
- Googleの新しい技術はあなたのボディランゲージをどのように読み取るのか
- 広告主があなたの閲覧履歴を静かに追跡する方法
- 👁️ 新しいデータベースで、これまでにないAIを探索しましょう
- 🏃🏽♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください
ララ・パトナム（@lara_putnam）は、ピッツバーグ大学歴史学部のUCIS研究教授であり、ピット・ディスインフォ・ラボのサウスウェスト・ペンシルバニア州市民レジリエンス・イニシアチブの共同リーダーです。... 続きを読む
