AIが生成した「ビッグフットの悪役」は、アクリルネイルとピンクのウィッグを身に着け、iPhoneを使って想像上の観客に直接語りかけます。「逃げなきゃいけないかもしれない」と彼女は言います。「赤ちゃんの父親に関する虚偽の報告で指名手配されているの」。GoogleのVeo 3によって生成されたこのAI動画は、Instagramで100万回以上再生されています。これは、AI動画ツールを使って黒人女性を霊長類のように描写し、人種差別的な比喩を助長する、InstagramやTikTokで話題になっている数多くの投稿の一つに過ぎません。WIREDが確認した動画には、AI動画ツールが使われています。
GoogleのVeo 3は、5月に同社開発者会議で発表されると、オンラインユーザーの間で大きな反響を呼びました。聖書の登場人物やビッグフットなどの未確認生物が、インフルエンサー風の動画ブログを作成するという、シュールな映像がソーシャルメディアで瞬く間に拡散しました。AIが生成したビッグフットの動画ブログは、Googleの新機能プロモーション広告のセールスポイントとしてさえ利用されました。
「ビッグフットの悪党」という表現は、ソーシャルメディアで比較的無害だったトレンドを、オンラインクリエイターたちが転用して黒人女性の人間性を奪おうとしている。「これが不快な理由には、歴史的な前例があります。奴隷制度の初期には、黒人は原始的な特徴を強調するために、イラストで過度に誇張されていました」と、ブルッキングス研究所技術革新センター所長のニコル・ターナー・リー氏は言う。
「こうした人種差別的な比喩やイメージがオンラインプラットフォーム上で容易にデザインされ、配布されていることは、不快で不安なことだ」とターナー・リーは言う。
最も人気のあるInstagramアカウントの一つは、最初の投稿から1ヶ月も経たないうちに、5本の動画を100万回以上再生しています。AI動画では、動物と女性のハイブリッドキャラクターがアフリカ系アメリカ人の俗語のような英語を話す様子が描かれており、ボンネットをかぶって人々と戦うと脅す場面が多く見られます。ある動画では、AIが田舎風のアクセントで、性器に仕込んでいたヘネシーのボトルを取り出したと示唆しています。
Veo 3は、このような動画に見られる風景から音声、キャラクターに至るまで、すべてをたった一つの指示で作成できます。この人気Instagramアカウントのプロフィールには、同様の動画の作り方を学べる15ドルのオンラインコースへのリンクが掲載されています。「Veo 3が重労働をこなす」といったタイトルの動画では、3人の講師がナレーションを使いながら、AI動画ツールにビッグフットのクリップを指示し、一貫したキャラクターを作成するプロセスを生徒に丁寧に解説しています。WIREDがオンラインコースの管理者として記載されているメールアドレスに連絡を試みましたが、返信がありませんでした。
Instagramを所有するMetaの広報担当者は、公式コメントを控えた。GoogleとTikTokはWIREDのコメント要請に応じたものの、記事掲載前に声明を発表しなかった。
ソーシャルメディア分析の結果、InstagramとTikTokで「ビッグフットの悪役」動画をリポストしたり、類似動画を作成したりしている模倣アカウントが見つかりました。Instagramでは、AIを活用したミームページにおいて、ある動画のリポストが100万回再生されています。また、別のInstagramアカウントが投稿した「ビッグフットの悪役」動画は、300万回近く再生されています。これはInstagramだけに限った話ではありません。TikTokでも、同様のAI生成コンテンツを専門に扱うアカウントが、現在100万件以上の「いいね！」を獲得しています。これらのアカウントはコメント要請に直ちに回答しませんでした。
「ここで死んだら、BBLで蘇った方がいいわ」と、別のアカウントでAI生成のメスのビッグフットが、イスラエルで休暇中に爆弾をかわしながらカメラに向かって話している。「生成型AIの問題の一つは、AIツールの開発者が、人々が互いにひどいことをする可能性のあるあらゆる方法を想像できないことです」と、ニューヨーク大学教授で、テクノロジーにおける偏見に関する著書『 More Than a Glitch』の著者であるメレディス・ブラサードは言う。「だから、十分な数のガードレールを設置できないのです。これはまさに、ソーシャルメディアのプラットフォームで見てきたのと同じ問題です。」
WIREDがInstagramで発見した「ビッグフット・バディーズ」動画のスクリーンショット。この動画はAIツールによって生成された。
リース・ロジャース提供メスのビッグフットの動画を数本クリックした後、テストアカウントの Instagram Reels フィードはすぐにアルゴリズムによって他の人種差別的な動画で埋め尽くされた。その中には、漁船で興奮してフライドチキンを釣り上げ、チンパンジーを自分の息子と呼ぶ黒人男性の AI 生成動画も含まれていた。
これらのAI動画は心を揺さぶるものの、必ずしも驚くべきものではない。2023年、ウィル・スミスがスパゲッティを食べるAI生成動画がソーシャルメディアで拡散した際、WIREDのシニアライター、ジェイソン・パーハムは、この動画を一種のミンストレルショーとして分析した。「来たるべき新たなミンストレルショーの時代は、人間味あふれるディープフェイクや正確な音声操作から、あらゆる種類のデジタル欺瞞に至るまで、より狡猾で適応力があり、即座に行動するカメレオンのような姿を見せるだろう」とパーハムは当時記している。
GoogleのVeo 3に代表される、この最新のAI生成動画ツールの波により、フォトリアリスティックなAI動画の制作がかつてないほど容易になりました。多数の動画を簡単に作成できることに加え、ソーシャルメディアプラットフォーム上でAIによる粗悪な動画が絶えず拡散していることが、こうした「ビッグフットの悪党」を世に広めた一因となっています。クリエイターがAIを使って少数派グループを攻撃するソーシャルメディアのトレンドは、今後も続くでしょう。「AIは画像の操作を容易にしただけではありません」とターナー・リーは言います。「さらに、アルゴリズム自体、そしてアルゴリズムのエコロジーによって、こうしたコンテンツの共有や消費量の増加も容易になっています。」
