Redditのモデレーターとしての罰のような快感

ルールはこうです。/r/aww のユーザーは、死にかけている犬、病気の犬、あるいは獣医から帰ってきたばかりの犬について投稿してはいけません。路上で引き取ったばかりの猫についてや、くちばしを怪我した鳥の話などについても投稿してはいけません。ただし、動物の明るい描写は大歓迎です。車の助手席に座っている巨大な犬の画像に添えて、「こちらはベンです。あごひげを生やしていて、人間サイズです。交通渋滞で変な目で見られます」と書いてください。手の込んだ毛布にくるまった猫の画像の横に添えて、「うちの猫は毛布でできた砦に夢中なので、これを作ってあげました」と書いてください。

こうした愛らしいポジティブさの基準は、私にとって重要です。なぜなら、私はかわいい動物のサブレディット「/r/aww」のモデレーターを務めているからです。些細なことのように思われるかもしれませんが、ペットミームがオンラインでどれほど強力であるかを改めておさらいさせてください。この記事を書いている時点で、このページの登録者数は1900万人に達し、急速に増加しています。私がモデレートしている他のサブレディット、例えば架空のモンスターが勢ぞろいする「/r/pokemon」や、踊る鳥たちの「/r/PartyParrot」では、さらに数百万人の登録者を管理しています。私の仕事は、それらすべてにルールを定め、それを遵守させることです。

これらのサブレディットを見る前は、/r/food、/r/Poetry、/r/LifeProTipsなど、他にもたくさんのサブレディットを見ていました。2014年、大学4年生の時に、初めてRedditのモデレーターとして/r/pokemonの運営に携わりました。ボランティアが参加を呼びかけていたので、応募しました。「フルタイムの仕事を始める前に、有意義な趣味を増やしたい」と書いたのです。そして1週間後、採用されました。

Redditには有給従業員が500人にも満たないが、ボランティアのモデレーターとして数万人が働いており、月間140億ページビューを記録している。（WIREDの出版社コンデナストを所有するAdvance PublicationsはRedditの株主でもある。）私と同僚は、投稿やコメントを一つ一つ確認し、各サブレディットのルール、つまりRedditのルールに照らしてチェックしている。

/r/aww では、子猫や子犬の写真を投稿する人が必ずしもいるわけではありません。時には、グロテスクなポルノや、私を見つけて傷つけると脅すような投稿もします。私のルールは明確（子猫は大歓迎、グロテスクなポルノは禁止、脅迫は禁止）であり、プラットフォームの悪用を防ぐためのものです（ソーシャルメディアへのリンクやハンドルネームの投稿、スパム行為は禁止）。/r/pokemon では、例えばイモムシの写真はブロックします。だって、あれはポケモンじゃないでしょう？ いや、違いますよ。

/r/awwは10番目に大きなサブレディットです。1900万人のユーザーは全員匿名で、その匿名性を悪用する人も多くいます。しかしもちろん、私たちの歌鳥とも言える善良なユーザーもいます。/u/Shitty_watercolourのように、コメント欄で話題になったシーンを絵に描いて投稿するユーザーや、/u/Poem_for_your_sprogのように、何の前触れもなく現れ、投稿に詩のみで返信するユーザーもいます。

かつて/r/AskRedditで、ある人が衛生検査官に、これまで見た中で最悪の違反行為について語ってほしいと呼びかけました。/u/Chamaleというユーザーが、ある体験談を投稿しました。「義父はかつてパン屋でした」とChamaleは切り出しました。義父のパン屋は18世紀のフランスの要塞を忠実に再現したもので、ある日、衛生検査官がやって来ました。彼女は当初、石造りの壁とドアのない入り口に警戒していましたが、義父は、こうした18世紀の風情があっても、最高の衛生基準へのこだわりに何ら変わりはないと彼女を説得しました。そして、検査官が訪問を終えようとした時、彼女はパン屋に併設されたドアのない建物に入っていきました。そこには、逃げ出した牛がパンを舐め回していたのです。

すぐに、/u/Poem_for_your_sprog から次のような返信が届きました。

私の名前は牛です。

そして夜になると、

あるいは月が

輝くブリットです、

そしてすべての男たち

寝る時間だ -

私は夜更かしします。

私は繁殖が好きです。

Redditは様々な言葉で呼ばれてきました。「広大な裏社会」「汚水溜め」「誇り高き野蛮さ」など。実に複雑な状況です。しかし、私がここで守っているのは、その良い部分なのです。

時にはゾンビと戦うことも意味します。Redditには使われていないアカウントが山積みになっています。たった1日使ってみただけで、その後は放置してしまった100万人もの人々の亡霊のようです。注意すべきは、長い間放置され忘れ去られていたこれらの古いアカウントが突然復活した時です。なぜなら、それらは危険な存在になり得るからです。

ある晩、/u/MagnoliaQuezadaというユーザーが投稿した記事を偶然見つけました。タイトルは「会いたいよ、すごく」で、フェンス越しにハスキーと黄色のラブラドールの2匹の犬が抱き合っている写真が添えられていました。一見すると、投稿者はごく普通のredditorユーザーのように見えました。アカ​​ウントは11ヶ月前に作成されており、それなりに長い期間が経っています。すべてのアカウントには作成年数を示すバッジがあり、古いアカウントはより希少で、より定着しています。長年活動している人は、私たちの仲間だとみなされます。/u/MagnoliaQuezadaは何ヶ月も前に投稿されていたため、私たちのsubredditの自作スパムフィルター（ライブフィルターとデジタルフィルター）をすり抜けることができたのです。しかし、よく見ると、何も投稿していませんでした。そして今、まるで復活したかのように、私のキューに表示されていました。

/u/MagnoliaQuezada さんのユーザー履歴が空白になっているのが分かりました。そして、犬を抱きしめている画像が少しぼやけているのも分かりました。これは、何度もアップロードされ、共有され、再ダウンロードされたためです。写真はウェブサイトで流通する際に圧縮・再圧縮されるため、画質が低下します。この画像は盗作でした。

投稿のコメントを確認してみました。/u/MagnoliaQuezadaさんからのコメントが1つだけありました。

;;'}{{{}}}}}{}{}{}{}{}{}{}{}{}{}{}{}{}{}{}{}”}} ... }}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}?}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}} }}}}}}}}}}}}}}}}}}}}}}}}[ ...

意味不明な内容。ボットの誤動作か、あるいは誰かがコメントがモデレーションボットによって自動フィルタリングされているか確認するために、何か入力しただけなのかもしれない。これで、相手は詐欺師だと確信した。

詐欺師たちは、ボットであれ、荒らしであれ、プロパガンダであれ、夜明けから夕暮れまでインターネットをくまなく探し回り、過去に話題になった写真やミームを探します。ほっとする食べ物、物が倒れる動画、子犬など。たいていは子犬です。（猫もゾンビの道具としてよく使われますが、ネット上には猫があまりにも多く、どの猫が注目を集めるのかを見極めるのは難しいのです。）子犬の写真を共有することで、彼らはあなたが子犬を高く評価し、高評価し、共有してくれることを期待しています。そうすることで、ゾンビアカウントの信頼性がさらに高まるのです。フェンス越しに抱き合う犬の画像なら、まず間違いはありません。生後6週間のラブラドゥードルの写真を見せたからといって、誰かを外国の工作員だと非難するのは難しいでしょう。

もしこの投稿が注目を集めていたら、/u/MagnoliaQuezadaのユーザー（あるいはボット）は格上げされ、/r/awwの1900万人の視線にさらに近づいただろう。そして、MagnoliaQuezadaは、所有者が何でも好きなことを言えるウェブサイトへのリンクなど、あまり愛されにくいものを共有しやすくなっていたかもしれない。あの死体はスパマーとして繁栄していたかもしれない。

しかし、復活はしませんでした。復活後間もなく、/u/MagnoliaQuezadaは不運にも私にぶつかってしまったのです。私は彼女をBANし、彼女/彼/それの音声をミュートしました。1900万人の私のawwチャンネル登録者にとって、/u/MagnoliaQuezadaは存在しなかったのです。ゾンビの権限を剥奪したり、大人しくするように警告するだけでは不十分です。ゾンビです。殺しましょう。

Redditの月間アクティブユーザー数が4億人へと急上昇するにつれ、使われていないアカウントのアンデッドの大群は日に日に大きくなっています。もちろん、これらの休眠アカウントは所有者によって復活させられるかもしれませんし、playerup.comやepicnpc.comなどのグレーマーケットで買い取られるかもしれません。アカウントは「非常にアクティブ、認証済み、投稿カルマ25,000以上、コメントカルマ225,000以上、ゴールド7、ナチュラルネーム、オーガニックのみ」などと宣伝されるかもしれません。数千ポイント（Redditユーザーが言うように、カルマ。他の人があなたの投稿に「いいね！」をすると貯まるスコア）しかない4年前のアカウントでも、数百ドルの価値があります。始める方法を説明したYouTube動画もあります。

/u/MagnoliaQuezadaが一体誰だったのかは分かりませんが、推測するならアカウントファーマー、つまりユーザー名を売るためにフォロワーを増やしている人物だったと思います。後日アカウントを再訪してみると、私が削除した投稿も所有者によって削除されており、証拠が消えていたため、MQは新たなスタートを切ろうとしていました。しかし、別のサブレディットで活動することになるはずです。アカウントがひっそりと禁止されたので、/r/awwにはもう投稿が表示されません。

私は月に数十件ものアカウントを追放またはスパムとしてマークしていますが、Redditで最もアクティブなモデレーターからは程遠いです。しかし、キューはすぐに埋まってしまいますし、寝る必要がある時もあります。ですから、ゾンビは捕まえるのと同じくらい頻繁にこっそりと通り抜けてしまうでしょう。アカウントごとに追跡し、手動で行動を記録して確認しているので、私の活動範囲は限られています。Redditは私たちをサポートし、ツールを提供してくれていますが、/r/awwの防衛線は主に20人の人間のモデレーターと3つのボットで構成されています。私たちは皆、このようにして時間を注ぎ込んでいますが、それでも見落としてしまうことがあります。私の共同モデレーターの一人、ここではエリオットと呼びましょう、彼はもっとうまくやろうとしていました。

昨年3月のある日、エリオットはガーディアン紙の2015年の記事を読んでいた。記事は、ロシアのサンクトペテルブルクにある、今や有名なインターネット・リサーチ・エージェンシー（IRA）として知られる、名前も伏せられた「トロール企業」の元従業員2人について書かれていた。エリオットは30代半ばのエンジニアだ。彼は記事に書かれていたトロールの戦略に興味をそそられた。彼らはグループで協力し、互いの投稿にコメントや投票をすることで、人気を偽装していた。

巧妙なやり方だった。しかし、Redditで4年の経験を持つベテランモデレーターのエリオットにとっては、それほど巧妙なものではなかった。ガーディアン紙の記事で彼の目を引いたのは、12段落目に埋もれた一文だった。「荒らしは3人1組で行動していた。最初の1人が何らかの問題について不満を述べたり、単にリンクを投稿したりすると、残りの2人が介入する」。エリオットにとって、これは追跡可能なように思えた。

リビングルームのソファの肘掛けにノートパソコンを置き、彼はサイト内で互いにフォローし合い、頻繁に交流するユーザーグループを探すスクリプトの作成に取り掛かった。そのグループを見つけるために、彼の基本的なスクリプトは、あらゆるページの公開投稿をすべてスクレイピングし、頻繁に返信し合うユーザーのリストを作成し、そのリストをスプレッドシートに吐き出すというものだった。プログラムはそれほど高度なものではなく、そもそもうまく動作するとは思っていなかった。しかし、突然プログラムが動き出し、エリオットのスプレッドシートは数百件ものヒットで埋め尽くされた。ヒット数が多すぎる。彼は最初の結果を確認した。/r/news サブレディットでエアロゾル化学物質について議論しているユーザーたちだった。

これらのアカウントは確かに複数のスレッドで返信し合っていたが、単に友達同士かもしれない。つまり、誤検知だったのだ。そこでエリオットは、モデレーターの警戒を強めるような、より明確な兆候を探して、手動で検索結果を精査し始めた。シリア内戦、ドナルド・トランプ、MAGA（多国籍軍人会）、カック、ヒラリー・クリントン、ピザゲート、ベンガジといったロシア関連と思われる話題を探した。自宅とオフィスで何時間もかけてリストを確認した。そしてついに、ガーディアンの記事で説明されているような行動をとるアカウントが46件見つかった。

エリオットはRedditで大物だった。私は自分の登録者数を自慢するが、彼の数は私の数よりはるかに多かった。彼のサブレディットには1億人近くのユーザーがいて、その力には特典が付いてくる。つまり、重要な人物が耳を傾けてくれるということだ。エリオットはCEOのスティーブ・ハフマンに、自分のリストを添えたチャットメッセージを送り、こう尋ねた。「何かいい話があるかな？」

ハフマンはエリオットのリストを他のスタッフに転送した。すぐにエリオットは数人のスタッフとメールのやり取りをするようになり、数十もの怪しいアカウントへのリンクを送信した。この瞬間のエリオットの興奮、緊張感は、私にとっては羨ましいほどだ。ボランティアモデレーターにとって、敵の足元をすくうチャンスは、私たち皆が追い求める高揚感だ。何百もの投稿を一度に整理し、インターネット上で荒らしや侮辱、悪口を浴びせられる。たった一度のこの瞬間のために。

エリオットは翌日返事を受け取った。

「この件についてご意見をいただき、ありがとうございます！」とRedditのデータサイエンティスト、マイケル・ガードナー氏はコメントした。「全体的に見て、これらのアカウントの活動は、頻繁にコメントを投稿するユーザーによる通常の活動のように見えます。」

本部によると、エリオットはロシア人、つまりスパム業者やボットを見つけられなかったという。しかし、エリオットはひるまなかった。彼は捜索を続けた。今回は手法を変え、特定のサブレディット、/r/The_Donaldに狙いを定めた。そこは「これはお前のクソ野郎シューマーとクソ野郎ペロシの責任だ」といった投稿が溢れる悪名高いサブレディットで、共和党の医療保険法案が失敗に終わったことを報じたブライトバートのニュース記事へのリンクも貼られている。エリオットは、/r/The_Donaldでボットを探した理由を隠そうとはしなかった。もしロシアの活動がどこかにあるとすれば、それはそこにあるはずだと彼は考えたからだ。

今回、エリオットはコードを使って、ユーザーのインタラクションパターンではなく、サイト上で疑わしいドメイン名を共有しているユーザーを追跡した。すぐに、そのようなドメインの一つを見つけた。geotus.armyだ。どうやら/r/The_Donaldでのみ共有されているようだった。クリックすると、ロシアのプロパガンダサイトとして知られるusareally.comにリダイレクトされることがわかった。エリオットは疑わしいリンクを共有しているユーザーの履歴を調べた。リンクを拡散している以外は、彼らはほとんど活動していなかった。まるでゾンビのようだった。

エリオットは権力を持っていたものの、自分が管理するサブレディット内での行動に限られていました。彼はこれらのアカウントをサイト全体で禁止したいと考え、この新たな情報をスタッフにも伝えました。スタッフは調査すると言いました。

数日後も、本社から何か対策を講じる予定があるかどうかの連絡はなかった。そして今回は、何かを見つけたと確信した。これは周知させるべきことだ。会社が何もしていないように見えたので、彼は見つけたアカウント全てへのリンクを貼った公開投稿を作成した。2018年9月20日の朝、ジムに向かう直前に公開ボタンを押した。

20分後、エリオットがワークアウトにやって来ると、荷物を置いて携帯電話を確認した。127件ものメッセージが届いていた。その後数日で、ニューズウィーク誌は彼の発見について記事を書き、NBCは彼にインタビューした。Redditは彼が発見したドメインと、それを共有していた複数のアカウントを禁止した。彼は実際に、サイト上で偽情報への隠されたリンクを共有しようとする動きを突き止めたのだ。そして私は今でも、少なくとも、狂おしいほど嫉妬し、狂おしいほど誇りに思っている。なぜなら、ボランティアがこれをやったからだ。

エリオット氏のような話はRedditのモデレーターにとって珍しいものではないが、全くないわけでもない。エリオット氏自身も、サイト上でイランのプロパガンダを発見した他のモデレーター数名の影響や、スパム対策の専門家であるモデレーターの助言が、そもそもこの種の追跡に興味を持つきっかけになったと述べている。

つまり、私たちが時折、例えばプロパガンダと戦うという状況に立ち向かうとしても、それは私たちが何千もの日常的な交流を通じて培われた深い友情に支えられているからなのです。

Redditユーザー、ゲーマー、インターネットの住人は地下室に住んでいるような人たちだと思っている人はたくさんいます。社会的に孤立している人たちです。私は大学講師です。私の最も親しいモデレーターの一人、/u/mockturneは、大手レストランチェーンで上級職に就いています。彼は私が知る限り最も賢い人の一人でもあります。私たちはどの食べ物が一番美味しいかで議論します。彼はいつも間違っています。私もいつも間違っています。どちらがより間違っているかで議論します。彼はサワークリームを果物より上位に置き、ワニ肉が最高だと言います。

何時間もこの作業に取り組みます。他の人たちも参加します。デザイン会社のプログラマーやエンジニア、ビジネスを学ぶ大学院生、イギリスの公務員、仕事から夜帰宅する親、スペイン語の宿題の休憩中に寮で過ごす大学生、足を骨折して寝込んでいる鉄道員、ウェイター、ライター、事務員、料理人などです。Redditの友達二人はMockturneに夢中になりました。ガールフレンドと彼女の父親は、今では国を半分離れた場所でMockturneを使ってビデオゲームをしています。私たちは、物理的な部屋よりもデジタルの部屋の方がよく読み取ることができるように感じることがよくあります。Redditユーザーに巨大なフォーラムを運営させてもらうにはどうすればいいと思いますか？

ルールを定めるために、モデレーターたちは純粋に民主的な投票を実施し、投票サイトを構築し、投票結果を集計するボットも構築しました。私たちは互いにルール違反者を追跡するためのツールを構築し、互いに頼れるメモを残しています。トップモデレーターの中には、月に1万件以上のレビューを行う者もおり、現実の仕事のために時間を割かなければならない時は謝罪しています。私たちは共に学び、共にマスターしていきます。

Redditでは、数千人にも及ぶボランティア全員に、サイトの各セクションを自由に利用して良いという信頼が寄せられています。私たちはこれを高く評価していますし、私も高く評価しています。しかし、私が週に20時間もインターネット上で人々と議論し、荒らしを禁止するのは、そのためではありません。ゾンビを追いかけて殲滅することに満足感があり、しかも信頼できる人々と共にそれを成し遂げられるからです。必要とされ、スキルを磨くことは、私たちにとって大きな喜びです。私たちはサイトを所有しているわけではありませんが、その空間は私たちのものだと考えています。

ロシアのドメインに関する投稿をシェアしたエリオット氏が受け取った127件のメッセージの中には、Redditの受信箱やプライベートチャットに殺到す​​る支援者からの感謝の言葉もあった。しかし、荒らしや殺害予告といったメッセージもあった。エリオット氏が投稿を公開してから12時間、脅迫は絶え間なく届き、その日の終わりまでに50件以上の脅迫が届いた。さらにひどいことに、Redditのスタッフからも叱責された。「これで事態はさらに悪化する」とCEOのハフマン氏はエリオット氏に書き送り、エリオット氏の投稿公開の決断がスタッフによる問題調査の妨げになっていると主張した。

私たちはボランティア活動が大好きですが、Redditのモデレーターは、仕事が仕事になり、楽しくなくなった時に辞めてしまいます。エリオットにとって、まさにその時が来ました。その夜、彼は10個近くのアカウントを削除しました。モデレーターの仕事の一つを別のモデレーターに引き継ぎました。彼は裏チャットで私たちに辞めると伝えました。また、発見したことに関する公開投稿も削除しました。そして、去る際に最後のコメントを残しました。

「管理者たちは、私が警告したドメインに関しては真剣に取り組んでくれました」と彼は書いている。「私のような素人が公開データを使って彼らより先に見つけられるなんて、彼らは本当に下手くそです。」

別の言い方をすれば、Redditのスタッフが仕事が下手だとか、努力していないということではありません（同社はロシアによる誤情報に関するより詳細な調査を既に実施中だとしています）。熱心な人々のコミュニティを中心に築かれるウェブ上のボランティア活動には、大きな力があるということです。エリオットは仕事が得意でした。一部の巨大IT企業は、この活動に資金を提供し、数千人規模のコンテンツモデレーションチームを編成しています。Redditでは、私たちは緊密に連携し、事実上匿名です。

「そんな仕事、金で買えるわけないだろ」という決まり文句を思い出す。週20時間くらいの仕事なら、この言葉はぴったりくる。reddit.comのモデレーターとして金で買えるわけないだろ。想像してみて。毎日9時から5時まで画面越しに荒らしを排除する仕事。完全に匿名なのに、人種差別主義者や性差別主義者を追放するたびに、時間とともに脆弱性が増していく。いや、私は無料でもやると主張する。

ロバート・ペック （@RobertHPeck）はアイオワ大学で修辞学を教えています。彼はフェイクニュース時代のオンラインモデレーションに関する本を執筆中です。

この記事は4月号に掲載されます。今すぐ購読をお願いします。

この記事についてのご意見をお聞かせください。[email protected] までお手紙をお送りください。

WIREDのその他の素晴らしい記事

• ギグワーカーにとって、クライアントとのやり取りは…奇妙になることがある
• ケンブリッジ・アナリティカとプライバシーの大覚醒
• 獰猛なエビがプラズマを発射する爪を思い起こさせる
• 雪崩の安全のためには、データは適切な装備と同じくらい重要です
• ハッカーが2000万ドルのメキシコ銀行強盗を実行した方法
• 👀 最新のガジェットをお探しですか？最新の購入ガイドと年間を通してのお買い得情報をチェックしましょう
• 📩 毎週配信されるBackchannelニュースレターで、さらに多くの内部情報を入手しましょう