年齢確認がゲーム業界に浸透しつつある。AIによる偽造の時代への準備は万端か？

7月のある朝、英国在住のDiscordユーザーであるSiyanさんがログインしたところ、NSFW（不適切なコンテンツ）とマークされた一部のテキストチャットにアクセスできなくなっていました。ポップアップメッセージが表示され、チャンネルが年齢制限に設定されていることが通知されました。英国では、ユーザーが18歳以上であることを確認するための年齢制限システムを含む、広範な児童安全法が制定されていました。Discordのアップデートでは、ユーザーに政府発行の身分証明書または顔認証による年齢確認が義務付けられました。

プライバシー保護のためスクリーンネームのみでの呼びかけを希望したシヤンさんは、「身分証明書を偽造しなければならない年齢をとうに過ぎている」と表現する。身分証明書の写真を撮りたくなかったのだ。当時、顔認証機能はモバイル端末ではまだ利用できず、ウェブカメラも持っていなかったため、他人の顔をプラットフォームに提供することにした。まず、Discordでよく使う「おじいさん」の絵文字を試した。（「この絵文字が心に響く」）しかし、顔認証では、特定の表情やポーズをとった複数の写真を提出する必要がある。シヤンさんは、口を開けた男性の、まずまずの画像を必要としていた。

シヤン氏のライブラリにある 2 つのゲーム、『Stellar Blade』と『Death Stranding』には、プレイヤーがキャラクターにポーズをとらせたり表情を設定したりできる写真モードが含まれています。シヤン氏は、56 歳の俳優ノーマン・リーダスをモデルにした『Death Stranding 』のサムを選択しました。

彼は成功したスクリーンショットを Discord に投稿し、その後友人がそれを X に投稿しました。Siyan の戦略は瞬く間に広まり、Death Stranding、God of Warなどのゲームで他の人が試すきっかけとなりました。

年齢確認は英国では今や当たり前のこととなっているが、世界中で同様の法律が制定され、ウェブへのアクセス方法に大きな影響を与えると予想されている。グーグルなどの企業は、検索やYouTubeにAIを活用した年齢推定システムを導入している。ロブロックスのようなゲームプラットフォームでは、年齢確認は安全対策の重要な要素になりつつある。しかし、IDを使うにしろ顔スキャンを使うにしろ、それは不完全なシステムだ。複数のDiscordユーザーがWIREDに、すでにビデオゲームのキャラクターを使って顔スキャンを回避できたと語っている。生成AIは、技術が高度化するにつれて、この問題の制御をさらに困難にする可能性もある。つい先月、WIREDはリアルタイムで動画を作成できるAIを開発しているスタートアップ企業について報じた。ユーザーはまた、セキュリティ侵害の際に企業に個人情報を提供することを懸念している。

理論上、年齢確認は子供の安全を守る役割を果たします。Robloxのようなプラットフォームでは、モデレーションの不備により、一部の児童を誘惑したり、暴行したりする者が現れています。そのため、ユーザーが未成年者、あるいは18歳以上であることを確認することは、利用できる機能を決定する一つの手段となっています。Pornhubのようなアダルトコンテンツサイトでは、年齢確認は子供がポルノにアクセスできないようにすることを目的としています。しかし、批評家は、導入されているシステムはプライバシーと保護の両方の観点から欠陥があると指摘しています。

SentiLinkの詐欺対策責任者であり、ジョージア州立大学の犯罪学教授でもあるデイビッド・マイモン氏は、現在の認証方法では依然として騙される可能性があると指摘する。「生体認証」（ユーザーが実在の人物であることを確認するためのセキュリティ対策）を回避するために、AI、ビデオゲーム、あるいは他の実在の人物の動画など、様々な手段が用いられている。IDは偽造することも、購入することもできる。「年齢確認のプロセスは複雑です」とマイモン氏は述べ、こうしたシステムの責任者はより深く検討する必要があると訴える。

英国在住の20歳のアッシュは、姓を伏せてほしいと申し出たが、『ゴッド・オブ・ウォー』の主人公クレイトスの写真モードで認証を通過できたとWIREDに語った。「クレイトスの白い肌と髭のせいで（認証が）うまくいくとは思っていなかったが、一発で成功した」と彼は言う。オンラインではアンツィーという名で知られる英国の別のDiscordユーザーは、『Arma 3』とキャラクターにポーズをとらせるMODで同じ結果を得たという。「みんながそうするように、試してみるだけでできると気づいたんだ」と彼はWIREDに語った。「Arma 3のキャラクターは見た目がひどく、リアルとは程遠いので、この技術に対する自分の考えを固めたり、挑戦したりする良い実験になると思ったんだ」。アンツィーによると、彼と彼の友人たちは、この種の技術を回避しようとする「挑戦」と捉えているという。「私はインターネットの安全性には非常に賛成だ」と彼は言う。「しかし、インターネットが若いユーザーを育て、保護する役割を担うべきではないと考えている」

いくつかのゲームのキャラクターがうまくいきました。YouTuberのbeebreadtechの動画では、Siyanの『デス・ストランディング』での手順を繰り返すことで、すぐに成人向けレーティングを取得できています。WIREDが話を聞いた他のDiscordユーザーも、『Days Gone』、『バルダーズ・ゲート3』、 『サイバーパンク2077』、『シムズ4』、『サイバーパンク2077』、 『Days Gone』、『ウォーハンマー40,000: スペースマリーン2』 、 『スター・ウォーズ：旧共和国の騎士』、『グレイゾーン・ウォーフェア』などのゲームで同じことができたと述べています。中には、ドタバタ喜劇的な物理法則と熱病のような夢に出てくるようなキャラクターモデルを備えたゲーム、 Garry's Modを使用して成功したという人もいます。

DiscordはWIREDのコメント要請にまだ応じていない。

マイモン氏は、年齢確認には抜け穴が多すぎると指摘する。「業界はAIディープフェイクと実体AIの問題に対する解決策を模索しています」と彼は言う。それは、電話番号や住所といった人物の関連情報を考慮した複数の要素の組み合わせに頼ることを意味するかもしれない。「個人の存在を証明する歴史的証拠にもっと重点を置くべきです」とマイモン氏は言う。「運転免許証、写真、生体検査といったチェックポイントにはあまり重点を置かないようにすべきです」

マイモン氏によると、犯罪者はこうした技術の回避に長けているという。「犯罪者は、脆弱性を見つけ出し、既存の技術を回避する能力において、常に私たちより7～12ヶ月ほど先を進んでいます」と彼は言う。生成AIがなくても、年齢確認を通過するために自分の顔の動画を売ることは可能だ。

写真付き身分証明書でさえ、防弾ではない。「（偽造）運転免許証の品質は、まさに完璧です」とマイモン氏は言う。透かし、紫外線ライト、あらゆるセキュリティ対策、そして運転免許証が印刷されているプラ​​スチック素材さえも、犯罪者がアクセスできるようになっているのだ。

正規のIDについては、未成年者とその所有者が問題となる。WIREDは以前、ロブロックスの最高安全責任者であるマット・カウフマン氏に、ロブロックスが一部機能をアンロックできる最低年齢である13歳が政府発行のIDを持っていない可能性について尋ねた。「それは問題です」とカウフマン氏は当時WIREDに語り、北米やアメリカ合衆国ではそれほど若い人がIDを持っていることは珍しいと付け加えた。

「[写真付き身分証明書]が年齢確認に有効な手段だと断言するのはためらわれます」とマイモン氏は言う。「なぜなら、それが有効ではないことを示す証拠があまりにも多いからです。」

ユーザー側もIDの引き渡しにためらいを感じている。「自分のデータを扱うサードパーティのサービスを信頼していません。特にデータ漏洩の被害が甚大なことを考えるとなおさらです」とアッシュ氏は言う。「ほとんどの認証アプリは、ユーザーのデータを7日間以上保持しないと謳っていますが、確かにその通りかもしれませんが、それが真実かどうか確信が持てません。」

写真や身分証明書による確認を求める企業に機密情報を渡すことにはリスクが伴います。7月には、女性が男性との嫌な体験を共有できるアプリ「Tea」で大規模なデータ侵害が発生し、確認に使用された女性の写真数千枚が流出しました。404 Mediaによると、2つ目のセキュリティ問題では、ハッカーがユーザーメッセージを通じて電話番号、ソーシャルメディアのハンドルネーム、実名などの機密情報にアクセスでき、4chanなどのフォーラムで拡散され、女性への個人情報の流出や嫌がらせに利用されました。

WIREDが取材した、ビデオゲームを使って年齢確認を回避した経験を持つ人々は、年齢確認に反対している。「DiscordやBlueskyのようなウェブサイトやアプリのすべての機能にアクセスするために顔情報の提供を求めるのは、政府がデジタル上で求めることが許される範囲を大きく逸脱しています」とアッシュ氏は言う。

さらに彼は、ビデオゲームであろうと他の手段であろうと、こうしたシステムが悪用されないとは考えにくいと述べている。「顔スキャンは年齢確認に有効な手段ではないと思います。見た目が18歳未満に見えると、誤って18歳未満と判定されてしまう可能性が容易に考えられるからです」と彼は言う。

Arma 3で年齢認証を通過したDiscordユーザーのアンツィー氏は、ウェブサイトやプラットフォームが年齢確認を担当するべきではないと考えている。「こうした法律を施行することで、若者たちは政府が取り締まれないインターネットの片隅へと追いやられるだけです」と彼は言う。「もし誰かが、これが既に積極的な親が行う以上に子供たちを守っていると考えているなら、その人がGoogleホームページや子供の生活以外のインターネットの隅々まで精通しているとは到底思えません。」