ローガン・ポールのビデオの後、YouTubeはコンテンツのモデレーションに真剣に取り組む必要がある

ローガン・ポールが青木ヶ原樹海（俗に「自殺の森」とも呼ばれる）に到着した頃には、このYouTuberは既に富士山とフィジーを混同していた。1500万人を超える彼のチャンネル登録者（ほとんどが未成年）は、こうしたユーモラスな無関心さを好んでおり、ポールをより身近に感じさせている。

青木ヶ原樹海へ数百ヤードほど歩いたところで、ポールは木に吊るされた自殺者の遺体に遭遇した。ジャパンタイムズが引用した警察の統計によると、2010年だけで247人以上が自殺を図ったという。ポールはカメラを止めることなく撮影を続け、後に遺体の顔にぼかしを入れたクローズアップ写真を投稿した。

「自殺の森で死体を見つけたのか？」ポールはカメラに向かって言った。「これは楽しいVlogのはずだったのに」。大きなふわふわの緑の帽子をかぶりながら、彼は被害者について何度かジョークを飛ばした。

わずか1日で650万人以上が動画を視聴し、Twitterには怒りの声が殺到しました。動画はYouTubeのコミュニティ規約に違反していたにもかかわらず、最終的に削除したのはポール氏でした。

「あの動画を投稿するべきではなかった。カメラを下ろすべきだった」とポール氏は火曜日に投稿した動画で述べた。この動画は先に文書で謝罪していたが、その後も投稿された。「大きな間違いを犯した。許されるとは思っていない」。その後2度にわたりコメントを求めたが、返答はなかった。

ポールの動画に対して何の対策も講じなかったYouTubeは、今やプラットフォーム上の不快で不快なコンテンツをいつ、どのように監視すべきかという新たな論争に巻き込まれている。そして、同様に重要なのは、そうしたコンテンツを生み出す原因となったYouTubeの文化だ。YouTubeはポールのようなスターがあらゆる手段を使って視聴回数を増やすことを奨励する一方で、彼らの動画をいつ、どのように検閲するかは、主に非公開で決定している。

続きを読む: GoogleはYouTubeから過激派動画を削除するためにAIと人間を組み合わせている

「完全な共犯」

「日本の自殺の森で遺体を発見…」というタイトルの動画を投稿する前に、ポールは主に10代の視聴者のために、半ば本気で自己検閲を試みた。動画の冒頭で警告を出し、被害者の顔をぼかし、日本のものを含む複数の自殺ホットラインの電話番号を記載した。さらに、動画を収益化できないように設定し、収益化を中止した。しかし、彼の努力は不十分だった。

「ローガン・ポールが考案したメカニズムは期待外れでした」と、ペンシルベニア大学アネンバーグ・コミュニケーション学部でデジタル文化を研究するジェッサ・リンゲル助教授は言う。「そうしたメカニズムにもかかわらず、この動画はやはり非常に不快です。自問自答しなければなりません。これらの努力は、このコンテンツを、単に空虚に、あるいは表面的に被害を認識するのではなく、意味のある形で認識する形で構築するのに本当に十分なのでしょうか？」

動画には、被害者の青くなった手を含む遺体の映像がまだ残っていた。ポールは被害者を「それ」と呼んだ場面もあった。事件後、彼がカメラに向かって最初に言った言葉の一つは「これは私にとって初めてのことだ」で、会話は再び自分の方に戻った。

ポールの行為には言い訳の余地はありません。彼の動画は、被害者、その家族、そして精神疾患に苦しむ人々にとって、不快で不快なものでした。しかし、YouTuberのポールだけを責めるのは不十分でしょう。彼も、同じく有名な弟のジェイク・ポールも、YouTubeで生計を立てています。YouTubeは、クリエイターの過激な発言に報酬を与える一方で、コンテンツを適切に管理していないことが少なくありません。

「コンテンツ制作者レベルでのこうした事件に焦点を当て続ける分析は、実際には構造的な問題の一部しかカバーしていないと思います」と、カリフォルニア大学ロサンゼルス校（UCLA）の情報学助教授で、インターネット文化とコンテンツモデレーションの専門家であるサラ・T・ロバーツ氏は語る。「もちろん、YouTubeはこうした問題に完全に加担しています。彼らの経済モデル、収益創出モデル全体が、ローガン・ポールのような人物を根本的に支えているからです。」

YouTubeは、ポール氏をはじめとするクリエイターの動画から得られる広告収入の45%を徴収しています。YouTubeチャンネルの推定収益を追跡する分析会社SocialBladeによると、ポール氏は年間最大1400万ドルを稼いでいる可能性があります。YouTubeはポール氏に、さらに突飛なスタントをすることを明示的に奨励しているわけではないかもしれませんが、彼や彼のようなクリエイターが奇抜なエピソードで何百万回もの視聴回数を獲得すれば、経済的に利益を得ることになります。

「YouTubeは、こうした人々がフォロワーを維持し、新たなフォロワーを獲得するためには、許容できる限界を押し広げ続けなければならないことを知っている」とロバーツ氏は言う。

YouTubeは、そのプラットフォームを民主的なものとして提示しています。誰でも動画をアップロードし、貢献することができます。しかし同時に、ポールのような人気クリエイターは膨大な視聴者を抱えているため、特別な扱いを受けています。（昨年、YouTubeは、ストリーミングサブスクリプションサービスYouTube Redで配信される初の長編スリラー『The Thinning 』や、同じく同サービスで配信されているロマンティックコメディシリーズ『 Foursome 』で、ポールを主演に起用しました。）

「彼は棒にGoProをくっつけただけの男だという幻想がある」とロバーツは言う。「このプラットフォームの動機を実際に検証する必要がある」

例えば、私が過去に話を聞いた著名なYouTubeクリエイターたちは、YouTubeの担当者にプラットフォームの使い方を教えてもらえることが多いと言っていました。これは、猫動画を投稿する一般の人には許されない贅沢です。ポール氏のチャンネルに担当者が割り当てられているかどうかについて、YouTubeに再度問い合わせたところ、回答はありませんでした。

何事もほどほどに

YouTubeがこの動画をこれほど長期間放置した理由は正確には不明ですが、同プラットフォームの曖昧なコミュニティガイドラインが原因かもしれません。YouTubeのコメントも、この件について多くのことを明らかにしていません。

「動画に登場された方のご遺族に心よりお見舞い申し上げます。YouTubeでは、衝撃的、扇情的、または失礼な方法で投稿された暴力的または残虐なコンテンツを禁止しています。動画に残虐な内容が含まれている場合、適切な教育的または記録的な情報が提供されている場合にのみサイトに掲載され、場合によっては年齢制限が設けられます」と、Googleの広報担当者は電子メールで声明を発表しました。「私たちは、全米自殺予防ライフラインなどの安全対策団体と提携し、YouTubeセーフティセンターに教育リソースを提供しています。」

続きを読む: YouTube、子供たち、そしてシリコンバレーの繰り返されるアルゴリズムの盲点

YouTubeは当初、ポールの動画が暴力的および露骨なコンテンツに関するポリシーに違反していないと判断したのかもしれない。しかし、そのガイドラインは短い文章で構成されているだけなので、真偽のほどは分からない。

「この方針は曖昧で、検閲官側に多くの価値判断を要求します」と、デトロイト・マーシー大学ロースクールの准教授で、憲法修正第一条とインターネット法の専門家であるカイル・ラングヴァルト氏は述べている。「基本的に、この方針は編集ガイドラインとしては読みやすいのですが…法律、あるいは疑似法律として解釈すると、非常に読みにくいです。問題の一部は、この曖昧さにあります。」

リンゲル氏によると、透明性に向けた有意義な一歩となるのは、YouTubeがモデレーションログや編集ログを実装することかもしれない。これにより、YouTubeは理論的にはどのチームがいつ動画を審査したかを公開できる。モデレーターが動画を削除または年齢制限を課すことを選択した場合、その決定に至ったコミュニティ規約違反の内容がログから明らかになる。これは、特定のページに加えられたすべての変更内容を表示するWikipediaの編集ログのようなものをモデルにできるだろう。

「コンテンツにフラグを付けると、そのプロセスで何が起こるのか全く分かりません」とリンゲル氏は言う。「コンテンツに履歴があるかどうか、そういった可視性を実現できない理由はありません。メタデータは存在するのですが、一般ユーザーには見えていないのです。」

リンゲル氏は、コンテンツモデレーションのあり方を根本的に見直す必要があると述べています。現在、YouTubeユーザーが動画を不適切だと報告すると、多くの場合、低賃金労働者が一連のボックスにチェックを入れ、コミュニティガイドラインに違反していないことを確認する作業に任されています（YouTubeは今年、コンテンツモデレーション担当者を1万人に増員することを約束しています）。時には、AIが動画を静かに精査し、不適切なコンテンツやISISの勧誘動画を探します。いずれにせよ、YouTubeのモデレーションプロセスはほぼ匿名で、非公開で行われています。

プラットフォームが適切とみなすものの基準を定めているのは有益です。暴力や憎悪を描写する特定の種類の露骨なコンテンツは禁止されるべきであることは誰もが認めるところです。しかし、前進への前向きな一歩となるのは、より透明性の高いプロセスを構築することです。それは、公開モデレーションフォーラムのような場で、何が許容されるべきか、何が許容されるべきでないかについてオープンな議論を中心とするプロセスです。

ポールの動画はYouTubeにとって転機となる可能性があり、自社コンテンツの管理方法をより透明化する好機となるだろう。このチャンスを逃せば、今回のようなスキャンダルは今後も起こり続けるだろう。

ポール兄弟は、膨大な視聴者を楽しませるために、今後も同じように過激で不快な動画を作り続けるだろう。月曜日の午後、兄のローガンが自殺の森の事件について謝罪したわずか数時間後、ジェイク・ポールは「処女を失った…」というタイトルの新しい動画を投稿した。この記事が最初に公開された時点で、この動画はすでに200万回近く再生されていた。

[i]自殺願望をお持ちの方、または誰かに話を聞いてほしい方は、サマリタンズが秘密厳守のサポートを提供します。08457 90 90 90までお電話いただくか、お近くのサマリタンズ支部までお越しいただくか、サマリタンズのウェブサイトをご覧ください。

この記事はWIRED USで最初に公開されました。

この記事はWIRED UKで最初に公開されました。