フォートナイトには政治的暴力の問題がある

ドナルド・トランプ前米大統領がペンシルベニア州バトラーで銃撃された数時間後、フォートナイトに新たなゲーム「ドナルド・トランプ vs アサシン」が登場した。このゲームはすぐに削除されたが、反ユダヤ主義や政治的暴力をテーマとする他の複数のゲームは、ゲームプラットフォーム上に残っていたことが、憎悪と過激主義に対するグローバル・プロジェクト（GPAHE）がWIREDに独占的に提供した新たな報告書で明らかになった。

GPAHEによって特定されたゲームは、ユーザーが独自のマップ（ゲームプレイエリア）をデザインできるフォートナイト クリエイティブの「アイランド」機能を使用して作成されていました。そのうちの1つは、第二次世界大戦中に数万人のユダヤ人、ロマ人、セルビア人が殺害された、現在のクロアチアにあるヤセノヴァツ強制収容所を再現したものでした。このゲームでは、ユーザーはファシズムとナチズムの影響を受けたクロアチアの民族主義組織であるウスタシャのメンバーとしてプレイできました。このマップは「教育」コンテンツとして分類されました。

WIREDがGPAHEの調査結果をフォートナイトの所有者であるEpic Gamesに伝えたところ、同社の広報担当者アラン・クーパー氏は、ヤセノヴァツのゲームはプラットフォームのポリシー違反により削除された2つのゲームのうちの1つだと述べた。クーパー氏はWIREDに対し、GPAHEの調査で明らかになった3つ目のゲームについても「措置を講じた」と語った。

「トランプ vs バイデン」という別のゲームでは、プレイヤーはアメリカの二大政党を代表して赤チームと青チームに分かれて対戦します。勝利チームは、相手チームのより多くのメンバーを殺害したチームです。クーパー氏によると、Epic Gamesはゲームを審査した結果、「プレイヤーはトランプ氏やバイデン大統領ではなく、候補者に対する現実世界の暴力描写もないため、違反には当たらないと判断しました」とのことです。

GPAHEが特定した別のゲーム「afD ZONEWARS」は、ドイツの右派政党「ドイツのための選択肢（AfD）」を宣伝するもので、移民が白人のヨーロッパ人を置き換えていると主張する人種差別的な「大置き換え」理論に言及する曲が含まれている。（この件の公表後、Epic社はWIREDに対し、このゲームを削除したと通知した。）GPAHEの調査では、反ユダヤ主義的または暴力的な政治コンテンツを含むゲームが10件以上見つかった。

月間アクティブユーザー数が推定2億3600万人のフォートナイトは、「既知の現実世界のギャングやギャング暴力の宣伝、既知の現実世界のテロ組織やテロリズムの宣伝、嫌がらせ、いじめ、暴行、個人情報の開示、スワッティングなど、違法行為」を助長するコンテンツの制作を禁止するポリシーを定めています。また、「憎悪的なシンボルや描写、あるいは暴力を美化または扇動するコンテンツを含む」コンテンツも禁止しています。しかし、これらの規則にもかかわらず、憎悪や暴力を含むゲームはオンライン上に残っており、世界中の何百万人ものユーザーに利用されている可能性があります。

GPAHEのCEO兼会長であるウェンディ・ヴィア氏は、ユーザーが独自のコンテンツを作成できる他のプラットフォームと同様に、フォートナイトでも「ありとあらゆるコンテンツが見られる」と述べている。ポリシーでは、人間性を奪い、品位を傷つけ、憎悪的な言葉を拡散し、否定的なステレオタイプを永続させるコンテンツを禁止している場合もあるが、ヴィア氏によると、こうしたルールは曖昧であるため、問題のあるコンテンツがそのまま残ってしまうという。彼女はまた、フォートナイトの政治的発言に関するポリシーが過度に広範囲に及ぶと指摘している（WIREDの取材に対し、Epic Gamesはゲーム内で安全な環境を促進するためのポリシーを設けていると明言している）。「Epic Gamesには具体的なポリシーがないため、目的に応じてコンテンツを残したり削除したりする余地があるのです」とヴィア氏は述べている。

クーパー氏によると、同社のクリエイター向けルールでは、ユーザーに現実世界の政治団体への参加や寄付を勧めることを禁止している。「私たちはルールを厳格に適用するよう最善を尽くしており、ルールで認められているコンテンツを恣意的にブロックすることはありません」とクーパー氏は語る。「ルールに改善の余地があると判断された場合は、公開済みのルールを施行前に更新します。」

憎悪的な政治的発言を盛り込んだゲームなど、Epic社のポリシーのグレーゾーンに該当する可能性のあるゲームもあれば、同社の規則に違反していると思われるゲームもあります。GPAHEの調査で特定されたあるゲームは、聖書に登場するエジプト人とユダヤ人を対立させ、ユーザーがエジプト人としてプレイし、ユダヤ人を殺害するというものです。これらのゲームは、2021年1月6日に米国議会議事堂襲撃をシミュレートするゲームをアップロードしたのと同じ開発者によって作成されました（GPAHEが5月にこのゲームにフラグを付けた後、削除されました）。

「これらのゲームがどれだけの収益をもたらしていようとも、Epicには必要ないのです」とVia氏は言う。「単に面倒なことに煩わされたくない、あるいは何らかの政治的なメッセージを送りたくないという理由以外に、これらのゲームを維持する動機は何でしょうか？」

ゲーム業界は長年、プラットフォームからヘイトスピーチや憎悪を煽る団体やコンテンツを排除しようと苦闘してきました。2022年、ニューハンプシャー州選出のマギー・ハッサン上院議員は、オンラインゲーム配信プラットフォーム「Steam」を運営するValve社のゲイブ・ニューウェル社長に書簡を送りました。これは、Steamのコミュニティスペースでネオナチコンテンツが蔓延しているという報告を受けたものです。2021年には、反誹謗中傷同盟（ADL）が、13歳から17歳までの約230万人のティーンゲーマーがゲームを通じて白人至上主義のイデオロギーやヘイトスピーチにさらされていると推定しました。

マリアナ・オライゾラ・ローゼンブラット氏は、ニューヨーク大学スターン・ビジネス・人権センターのテクノロジーと法律に関する政策アドバイザーであり、複数の企業を対象とした過激主義とゲームに関する調査報告書の共著者です。ローゼンブラット氏によると、Epic Gamesはゲームをプラットフォームにアップロードする前に、複数の段階にわたるモデレーションを実施しています。「安全性レビュー」には、潜在的な問題を自動でフラグ付けするシステムと、その後に人間によるレビューが含まれます。しかし、ローゼンブラット氏は、過激派がこれを回避する方法を見つける可能性があると指摘しています。例えば、ヤセノヴァツのマップにはプレビュー写真がなかったため、研究者たちはそれが検出を逃れたのではないかと推測しています。

ゲームにおける暴力表現のモデレーションは難しい場合がある。「ゲームの場合、必ずしも現実世界について語っているわけではないので、難しいのです」とローゼンブラット氏は言う。フィクションと現実の間には「曖昧な境界線」があり、「プレイヤーは常に『これは歴史的事実に基づいて起こった出来事であり、私たちの信念です』とか『これは反事実的な仮定に基づいて遊んでいるだけで、現実にはそんなことは考えていません』と言うことができます」

しかしローゼンブラット氏は、ゲームは単なるコンテンツではなく、プレイヤーのコミュニティでもあると指摘する。「非常に暴力的なゲームであっても、非常に健全な文化を持つゲームが存在する可能性があります」と彼女は言う。「一方で、現実世界で実際に暴力を行使することに興味を持つ人や、現実世界の暴力を正当化しようとする人を惹きつけるゲームもあるかもしれません」

ローゼンブラット氏はさらに、特定のテーマを持つゲームが特定のタイプのプレイヤーを引きつけ、憎悪や暴力的な表現を使う可能性があることを危険視している。そのような表現にさらされたすべてのユーザーが、それをゲームの外で扱う、あるいは考え方を変えるとは限らないが、「多くのゲーマーは子供であり、非常に幼い子供であり、感受性の強い子供です」と彼女は言う。「時が経つにつれて、彼らはこうした物語を普通のこととして捉えてしまうかもしれません」

クーパー氏によると、Epicは過剰な検閲を避けるため、モデレーションチームに対し「コンテンツ違反について確信が持てない場合は、クリエイターの善意に基づいて判断する」よう指示しているという。「人為的なミスや、物議を醸すテーマに対する認識不足により、この指示が時折失敗することがある」とクーパー氏は述べ、モデレーションシステムに加えて、Epicは「ユーザーに不適切なコンテンツを報告するよう」奨励していると付け加えた。

カリフォルニア大学アーバイン校でデジタルゲームと過激主義を研究するギャリソン・ウェルズ氏は、過激派はユーザーが独自のコンテンツや環境を作れるゲームに惹かれやすいと述べている。こうした環境は、ヘイトスピーチやヘイトコンテンツに抵抗のあるプレイヤーにとって敵対的なものとなる。

「私たちが見ている傾向は、より頻繁に標的にされるプレイヤーがこうした場を去っていくということです」とウェルズ氏は言う。「つまり、通報する意欲が低かったり、それほど腹を立てなかったり、あるいはそうした言説に麻痺してしまったりするプレイヤーが、ゲームを続けてしまうということです。」

ウェルズ氏によると、多くのゲームはプラットフォームを監視するためにユーザーからの報告に依存しているため、これが問題を複雑化させる可能性があるという。

しかしヴィア氏は、ゲームのモデレーションは難しいかもしれないが、企業が本当に望めばそれを実現できるのは明らかだと述べている。「（トランプ暗殺ゲームは）公開された途端、すぐに削除されました」とヴィア氏は言う。「では、なぜ他のものは削除できないのでしょうか？」

更新：2024年7月18日午後12時（東部夏時間）：WIREDは、Global Project Against Hate and Extremism（憎悪と過激主義に対するグローバルプロジェクト）が指摘した特定のFortniteゲームについて、ユーザーがプレイする方法を明らかにしました。また、WIREDは、ゲームの安全な環境に関するポリシーに関するEpicの回答も掲載しています。