血、うんち、暴力：YouTubeに不気味なMinecraft問題

金曜日の朝、YouTubeで数百人の視聴者がライブアニメーション動画を視聴しました。胸を露出させた女性のMinecraftアバターが、うんち絵文字でいっぱいのプレゼントを開ける様子が映し出されていました。動画のサムネイルには、膨らんだ二つの胸がうんちのMinecraftブロックを掲げている様子が映っていました。

これは、 WIREDがYouTubeの2019年に導入されたコンテンツ分類機能「Minecraft Topic」ページで取り上げられた、不穏でグロテスクなアニメーションMinecraft動画のうちの1つです。そこに掲載されている同様のMinecraft風サムネイルには、ハートの目と血まみれのナイフを持ったアバターが、鎖につながれたビキニ姿の女性に微笑みかけているもの、泣きじゃくる幼児に棒を突きつけている両親、排泄物を孕んだ妊婦が男性の上に座ろうとしているものなどがあります。ライブ動画は何時間もループ再生され、中には総再生回数が数万回に達するものもあります。これらのチャンネルの中には、1日に数万回も再生されるものもあります。

2017年、後に「エルサゲート」と呼ばれる事件で、ジャーナリストたちはYouTubeの「年齢制限なし」とされるアプリ上で、「子供向け」と偽装した、性描写や暴力描写が露骨な数百本のYouTube動画を発見しました。児童虐待、殺人、その他のR指定コンテンツを描いたこれらの動画は、ペッパピッグや「アナと雪の女王」のエルサといった人気子供向けテレビキャラクターが登場したり、無害なタイトルで隠されていたりすることが多く、YouTubeのアルゴリズムのレーダーをすり抜けるのに役立っていたようです。これらの動画は、独立系アニメーターによって制作されたものでもありました。これを受けてYouTubeは15万本以上の動画を削除し、200万本の動画から広告を削除しました。

YouTubeのエルサゲート事件は、YouTubeの最大の視聴者層である子供たちを悪質なコンテンツクリエイターが標的とする明白な手法のいくつかに疑問を投げかけました。しかし2017年以降、YouTubeはトピック、ハッシュタグページ、ビデオゲームディレクトリといった新しい発見機能をいくつか追加しました。現在、YouTubeでペッパピッグの不適切な動画を見つけるのはそれほど簡単ではありませんが、WIREDの調査により、MinecraftやAmong Usのファンを狙った数十ものチャンネルが発覚しました。

問題の動画はYouTube Kidsアプリには表示されていないようですが、YouTube本体で最も視聴されている動画の半分以上は子供向けです。童謡や教育動画は、親が休憩が必要な子供たちを楽しませ、落ち着かせます。そして、親たちはそれらを何度も繰り返し再生し、何百万回も再生されることも珍しくありません。子供向け動画の多くは、子供たちのお気に入りのキャラクターの知的財産権を所有する公式チャンネルによって制作されています。また、子供たちのストリーミングへの飽くなき情熱につけ込んだ第三者による低予算アニメーションもあります。

マインクラフトはYouTubeで最も人気のあるゲームで、いつでも何万人もの人々（その多くは子供たち）がそこでライブのマインクラフトコンテンツを視聴しています。YouTubeのゲームホームページの下にあるマインクラフトをクリックすると、ユーザーはマインクラフトのトピックページに移動します。これは、YouTubeがデフォルトで同時視聴者数に基づいて生成します。月曜日、そのセクションの最初のサムネイルには、よだれを垂らして目をハートにした警察官と、ピンクのパンティーを横にずらした巨乳のアバターが描かれていました。6000人がライブで視聴していました。他のマインクラフトのグロテスクな作品と同様に、このサムネイルが最も衝撃的であり、ほのめかしや暴力はアニメーションでわずかにしか登場しません。

1/3

ユーチューブ

YouTubeのトピックページは、「ライブ」「おすすめ」「最新」「人気」「公式」の5つのセクションに分かれています。これらのセクションには、主にMinecraftのアニメーション、ハイライト、チュートリアルが掲載されています。不適切なサムネイルは、特にユーザーが視聴したり検索したりした際に、これらのセクションに散在しています。しかし、最も集中しているのは、最初に表示される「ライブ」セクションです。金曜日には、MinecraftのライブセクションにMinecraftのうんち動画が掲載されていました。少し右にスクロールすると、ビキニ姿の女性に血まみれのナイフを突きつける手の動画サムネイルがありました。

YouTubeのライブセクションは検索で上位に表示されるため、数百、数千もの視聴回数を操作することも可能です。2020年にWIREDが行った調査では、YouTube Gamingのライブセクションが詐欺行為に支配されており、定期的に数千人の同時視聴者数を記録していることが明らかになりました。『グランド・セフト・オートV』のチートを宣伝する動画は、ユーザーの認証情報を盗み取ろうとするサイトなど、怪しいサイトにリンクしていました。問題のMinecraft動画をトピックページのトップに押し上げ、何も知らない視聴者の目に留まる原因となっている視聴回数のうち、どれだけが正当なものなのかは不明です。

YouTubeのハッシュタグ機能は2018年に導入され、特定のタグが付いた動画を集約する機能ですが、「トピック」ほどモデレーションが行き届いていません。「Among Us 」のハッシュタグでは、上位に表示される動画には、女性の「Among Us」アバターが下着を脱いだり、男性のアバターが女性を叩いたり、スカートの中を覗いたりする動画が含まれています。このページには、ハッシュタグを含む「Among Us」の動画から簡単にアクセスできます。

最も衝撃的な動画の多くは100万回以上再生されており、その中にはMinecraft風のAmong Usクロスオーバー動画も含まれており、サムネイルには、妊婦の腹を切り裂いて排泄物を入れた女性の下に男性が横たわり、女性のアバターが3人の子供がいる中で箱に排便する様子が描かれています。同様に子供たちに人気のあるゲームカテゴリーの中には、このような問題を抱えていないものもあります。Fortniteのハッシュタグはクリーンです。Robloxも同様です。不快なコンテンツの大部分は、おそらくクリックを促すため、衝撃的なサムネイルに限定されています。

YouTubeは創業以来、子供向けプラットフォームの構築に苦慮してきました。忙しい親たちにとって事実上の子供向けネットワークへと成長するにつれ、問題はますます複雑化しています。2019年、WIREDはYouTubeでソフトコアな児童ポルノ動画が数百万回も再生されていると報じました。これらの動画は、当時YouTubeでの広告配信を一時停止していた4AやEpic Gamesなどのゲーム会社によるプレロール広告で収益化されていました。YouTubeはまた、インターネット上での児童の追跡など、児童のプライバシー保護法を遵守しなかったとして、2019年に1億7000万ドルの罰金を科されました。YouTubeは、子供向け動画に関するユーザーデータの収集を停止しました。

児童オンラインプライバシー保護規則（COPP）により、YouTubeは13歳未満の子供にサービスを提供できません。先週行われたオンライン上の誤情報および偽情報対策に関する公聴会で、議員たちはYouTubeがこの規則を一貫して施行できていないことを批判しました。これに対し、Google CEOのサンダー・ピチャイ氏はYouTube Kidsアプリに言及しました。

YouTube Kidsには複数の監視レベルがある。コモンセンスメディアのソーシャルメディア・学習リソース担当シニアエディター、クリスティン・エルガースマ氏は、不快なコンテンツがこうした監視フィルターをすり抜けているかどうかを知るのは難しいと語る。「アルゴリズムは簡単に操作できること、そしてモデレーションが必要な動画の量がYouTubeが人間によるモデレーションで対応できる範囲を超えていることが分かってきたようです」とエルガースマ氏は言う。「理想的には、子供に人気のトピックはより厳しくモデレーションされるべきであり、過去のあらゆる問題を踏まえて、YouTubeは適切な動画を装った不快な動画に目を光らせているはずです」。より深刻な問題は、YouTubeがMinecraftなど主に子供を惹きつけるトピックを通して、子供に不適切なコンテンツを提供していることだ。「発見されやすさに影響を与えるさまざまなアルゴリズムの調整や、悪意のある人物が子供向けの不快なコンテンツのように見せかける継続的な取り組みにより、この問題は流動的であるように思われます」とエルガースマ氏は言う。

WIREDはコメント要請の一環として、発見した数十本の動画のうち3本をYouTubeに提供した。YouTubeは、子どもの安全に関するポリシーに違反したとして1本を削除し、ヌードおよび性的なコンテンツに関するポリシーに違反したとして別の動画のサムネイルを削除した。「エルサゲート事件以降、違反コンテンツを迅速に削除できるシステムとポリシーに多大な投資を行ってきました」と、YouTube広報担当のアイヴィー・チョイ氏は述べている。「YouTubeは13歳未満を対象としていませんでした。そのため、2015年にYouTube Kidsを作成し、最近では、10代前半または10代のお子様がYouTubeを楽しめるようになったと判断した保護者向けに、保護者向けアカウントオプションを発表しました。」

YouTubeのゲームに添付されたこれらの懸念すべき動画は、エルサゲート事件の直接的な再現ではありません。まず、サムネイルが最も衝撃的な点です。また、YouTubeが13歳未満の視聴者層を誘導しようとしているYouTube Kidsにも掲載されていません。しかし、 YouTubeのトップページからわずか2クリックでMinecraftの性的虐待動画が見られる現状では、YouTubeが最善を尽くしているかどうか疑問視されます。

WIREDのその他の素晴らしい記事