Twitterの謎のボットチームを探す旅

日曜日の午後、私は乳首が隠れきっていない水着を着た日焼けした女性の写真を見つめていた。これは、Twitterでスパムをモデレートする人々が日々直面している課題を突き止め、理解しようとする私の探求の中で、思いがけない展開だった。しかし、私は写真に目を留めているわけではない。その下のコメントに目が留まった。そこには、別のユーザーが「フォローはフォローのため」と書いていたのだ。

このコメントは、Twitterの秘密の「スパムプロジェクト」に携わるジョン（仮名）から送られてきたものです。彼によると、もし私がそのチームの一員だったら、このようなコメントを見て、このアカウントが本当に水着姿の女性にフォローバックしてもらいたいのか、それともTwitterのシステムを操作しようとしてスパムとして分類すべきなのかを判断するのが私の仕事だそうです。

イーロン・マスク氏とTwitterの法廷闘争において、「スパムボット」という用語が鍵となっている。しかし、Twitterがどのようにスパムを見つけ出し、ボットと人間をどのように区別しているのかは依然として曖昧だ。マスク氏は、TwitterのCEOであるパラグ・アグラワル氏でさえボットの定義基準を説明できなかったと主張している。また、マスク氏自身も、プラットフォーム上の偽アカウントを検出し、その数を推定するために、物議を醸す無料ツールを利用している。しかし、法廷文書には、Twitter上で何がスパムで何がそうでないかの判断を日々行っている謎のモデレーター集団の存在が示唆されている。Twitterのスパム問題をより深く理解するため、私はその集団を追跡することを使命とした。

Twitterではボットは簡単に見分けられるようですが、それをブロックするためにTwitterが雇っている人たちはそうではありません。結局、Twitterの秘密のボット部隊を見つけるのに2ヶ月かかり、3大陸6カ国に住む人々に何十回もインタビューしました。何百ページにも及ぶ法的文書を読み、何度も行き詰まり、数え切れないほどの人から妨害を受けました。

フランスのTwitterボットチームを探し始めた。最近、フランスの4つのNGOがTwitterを提訴し、ヘイトスピーチの取り締まり方法、モデレーション予算、そしてフランスチームのモデレーター数を明らかにするよう求めていることを知った。1月、裁判所はNGOの主張を認め、Twitterに文書の提出を命じた。

8月、私はTwitter社に連絡を取りました。きっと今頃は文書を提出しているだろうと楽観的に考え、私の調査はこれで終わりにしようと考えました。しかし、この訴訟に関与しているNGOに連絡してみると、彼らはTwitter社が裁判所の判断を無視していると主張しました。「今日までTwitter社からは何も聞いていません」と、この訴訟に関与している4つの団体の一つ、SOSホモフォビアの代表ダヴィッド・マラズエ氏は言います。フランスでは、Twitter社が人間アカウントとスパムアカウントの両方によるヘイトスピーチを効果的に抑制するための十分なリソースを投入していないという懸念がありますが、NGOはそれを証明できません。Twitter社の欧州事業の大半はアイルランドの首都ダブリンで運営されており、フランスからはアクセスできないとマラズエ氏は説明します。「ですから、私たちは行き詰まっているようなものです」。Twitter社はこの訴訟についてコメントを拒否しています。

ダブリンに目を向けると、元モデレーターのファビアン（仮名）がいた。彼は今年初めまで、アウトソーシング会社CPLを通じてTwitterで働いていた。私が話した他のTwitter勤務のモデレーターとは異なり、彼は社内で「疑わしい」とラベル付けされたアカウントを見た記憶がある。しかし、誰が、あるいは何がそれらのツイートにラベルを付けたのかは知らない。「以前はシステムがそうしていたのだと思います」と彼は言った。「あるいは、専任のチームがいるのかもしれません」。彼と話してみると、どこかで誰かがTwitterボットのモデレーションを行っており、この取り組みはここ数年で始まったばかりの新しいものだと確信した。

夏休み中の8月下旬、新たな手がかりが浮かび上がった。Twitterの元セキュリティ責任者、ピーター・ザトコ（通称マッジ）氏が内部告発者となり、独立系企業に委託した報告書を米国議会に提出することを決めたのだ。報告書には、当時Twitter社内でスパム対策やプラットフォームを「操作」しようとする試みを担当していたチーム名が記されていた。一つはサイトインテグリティ、もう一つはヘルスとTwitterサービス（後にTwitterはこれら二つのチームを統合）だった。報告書にはもう一つ、注目すべき一文があった。「コンテンツモデレーションはベンダーに外注されており、そのほとんどはマニラに拠点を置いている」。

Twitterは長年、フィリピンでアウトソーシング会社を利用して、暴力や性的虐待に関するコンテンツをサイトから削除してきた。しかし、彼らがスパムのモデレーターも務めている可能性はあるのだろうか？業界には、アクセンチュアやコグニザントといった有名企業がある。しかし、テキサスに拠点を置くTaskUsのような、あまり知られていない企業もある。そしてついに、私は聞いたことのない会社にたどり着いた。ニュージャージーに拠点を置くInnodataだ。そして初めて、「スパムモデレーター」という職務内容を耳にすることになった。

Innodataの従業員の一人に話を聞いたところ、彼は別のチームで働いているにもかかわらず、同社がTwitterのスパムをモデレートしていることを認めた。別の従業員は、偽アカウントの「分類」に携わっており、その中には有名スポーツチームを装ったものもあったという。両名とも、職を失う恐れがあるため、氏名と所在地を公表しないよう求めている。最近の求人広告によると、Innodataはカナダ、ドイツ、インド、イスラエル、フィリピン、スリランカ、米国、英国に約4,000人の従業員を抱えている。

Innodataのモデレーターを具体的に検索したところ、水着姿の女性の写真をシェアしたジョンという従業員を見つけました。彼によると、Twitterのスパムモデレーターには33人の専任スタッフがおり、50人以上のフリーランサーもいるとのことです。Innodataがスパムモデレーションを開始したのは2021年3月だったと彼は考えています。

ジョン氏によると、毎日最大600件のTwitter投稿とアカウントをAppenというサードパーティ製アプリで確認し、「スパム」か「安全」かのフラグ付けを行っているという。（Appenは、大手テクノロジー企業が利用する人工知能（AI）の訓練に世界中から人材を動員しているオーストラリア企業だ。）ジョン氏のチームメンバーの大半はインドかフィリピンに拠点を置いているという。ジョン氏は、自分が投稿したツイートは、Twitterスパムを探すように訓練された人工知能によって選別され、その後、人間のモデレーターチームに送られると考えている。

ジョンは、送信されるツイートごとにAppenから2つの質問を受ける。「上記のツイートはコンテンツスパムとみなしますか？」と「ユーザーアカウントはコンテンツスパムポリシーに違反しているとみなしますか？」。ジョンは、投稿が9つのカテゴリーのいずれかに該当する場合、その投稿をスパムとしてマークする。偽造品、未承認の医薬品の広告、Netflixなどのサービスのユーザープロファイルの売買を試みているものかどうか。フィッシングや詐欺を企てているもの、疑わしいリンクを共有しているもの、会話スレッドに無関係な返信をしているものかどうか。

ツイートは、メンション スパム (ツイートで複数の人をタグ付けするもの)、ハッシュタグ スパム (ツイートの内容に関係のないハッシュタグが含まれるもの)、またはフォロー スパム (アカウントが「フォローすればフォロー」を約束するもの) とみなされる場合にも、スパムとしてマークされます。

アカウントがこれら 9 つのカテゴリのいずれかに該当するツイートを投稿している場合だけでなく、短期間に「過剰な」数のツイートを投稿したり、複数の言語で投稿をリツイートしたり、重複したコンテンツを含むツイートや他のユーザーに返信したりしている場合も、アカウントはスパムとしてマークされます。

ツイートが適切に読み込まれなかったり、翻訳できない外国語であったり、露骨な内容であってもコンテンツスパムとしてカウントされない場合は、「除外」が適用され、ジョンはその投稿をスパムとしてマークしません。

ジョン氏は「仕事は大変です」と語る。「ポルノや暴力的なコンテンツを毎日何時間も見続けることは、チームの精神衛生に大きな負担をかけています。イノデータは従業員にメンタルヘルスやカウンセリングのサポートを提供していないと彼は主張する。同社はWIREDのコメント要請には応じていない。

Twitterのスパム対策の最前線で長時間勤務しているにもかかわらず、ジョン氏はTwitterがボット問題への対策を十分に講じていないと考えている。自分がスパムと判断したアカウントがTwitterによって削除されたかどうかを頻繁に確認するが、多くのアカウントがまだ運用されていることに気づく。「Twitterはほんの一握りのスパムアカウントしかプラットフォームから停止していません」と彼は言う。彼がスパムだと確信しながらも削除されなかった投稿の例として、水着姿の女性の写真の下に「フォロー交換」と投稿したアカウントを挙げた。Twitterは以前、毎日50万以上のスパムアカウントを停止していると発表している。

TwitterはInnodataのモデレーターとの関係を否定していないものの、これはスパムやボットを取り締まるためのより広範な取り組みの一環であると示唆している。「Twitterにおけるスパムやその他のプラットフォーム操作に対抗するための私たちの取り組みは多面的であり、継続的に行われています」と、Twitterのグローバルコミュニケーション担当新副社長であるレベッカ・ハーン氏は述べ、Twitterは「プラットフォーム上のスパムに対処するために、公開および社内の様々なシグナル、システム、レビューを活用しています」と付け加えた。

これらすべての人と話をした後も、私が見つけたのがTwitterのボットチームなのか、それとも他のボットチームの一つなのか、そして彼らが実際にコンテンツをモデレートしているのか、それともTwitterに代わってAIにモデレートさせるように訓練しているのか、まだはっきりしません。ボットチームを見つける前に、ボットをモデレートするチームの名称とメンバーの拠点をTwitterに尋ねました。しかし、回答は拒否されました。また、サンフランシスコでスパム対策を担当する新チームを率いるエラ・アーウィン氏へのインタビューも依頼しましたが、断られました。

しかし、ジョンはTwitterがスパムボットをどのように定義しているかを明らかにするのを手伝ってくれ、スパムを管理するTwitterのアプローチが他の種類のコンテンツの扱い方と似ていることを明らかにした。以前、調査していたダブリンのコンテンツモデレーターから、Twitterはコンテンツの削除には慎重で、可能な場合はコンテンツを残すことを好んでいると聞いた。かつてヘイトスピーチに取り組んでいたある元Twitterモデレーターは、特定のグループを明確にターゲットにしていない限り、「ひどいもの」がプラットフォーム上に残されることが許されていたことを思い出す。なにしろ、これはかつて自らを「言論の自由党の言論の自由部門」と称していたソーシャルメディア企業なのだ。ジョンは、自分がスパムだと特定したコンテンツのすべてが削除されるわけではないことに気づいていることから、同社が現在スパムを管理する方法にも同様の慎重さが適用されていることがうかがえる。もっとも、スパムボットに関する言論の自由の議論にはあまり説得力がないと考える人もいるかもしれない。

10月17日、マスク氏とTwitterはスパムボットをめぐる論争を法廷に持ち込む予定だ。その間も、水着姿の女性の写真に返信したアカウントは、チェコ語、英語、スペイン語、オランダ語の投稿をリツイートし続け、「フォローはフォローのため」という同じ3つの単語を繰り返しコメントしている。