チャットボットによる偽情報、ロサンゼルス抗議デモを煽る

ロサンゼルスの住民はここ数日、トランプ政権の移民政策と、ますます頻繁化する移民税関捜査局（ICE）の捜査に抗議するため、街頭に繰り出している。WIREDの政治担当シニアエディター、リア・フェイガーが、ビジネス・インダストリー担当ディレクターのゾーイ・シファーと共に、ソーシャルメディア上で氾濫する関連情報、そしてGrokやChatGPTといったAIチャットボットが、不正確で時に扇動的な回答を提供している現状について議論する。

今日のエピソードで言及されたもの：
AIチャットボットがロサンゼルス抗議デモの偽情報を悪化させている、デビッド・ギルバート、
私は見つけたすべての集団訴訟に参加した、あなたも参加できる、アンディ・バソヤン
、バイブコーディングがエンジニアリングの仕事にやってくる、ウィル・ナイト

Zoë Schiffer を Bluesky でフォローするには、@zoeschiffer にアクセスしてください。[email protected]までメールでご連絡ください。

聴き方

今週のポッドキャストは、このページのオーディオ プレーヤーからいつでも聴くことができますが、すべてのエピソードを無料で購読したい場合は、次の手順に従ってください。

iPhoneまたはiPadをお使いの場合は、「Podcasts」アプリを開くか、このリンクをタップしてください。OvercastやPocket Castsなどのアプリをダウンロードして、「Uncanny Valley」で検索することもできます。Spotifyでもご利用いただけます。

トランスクリプト

注: これは自動記録であり、エラーが含まれている可能性があります。

ゾーイ・シファー：ゾーイです。番組を始める前に、ぜひ皆さんのご意見を聞きたいと思っています。AI、政治、プライバシーについてご質問がある場合や、番組で取り上げてほしいトピックがある場合は、[email protected] までメールでご連絡ください。また、エピソードをお聴きになって気に入っていただけましたら、お使いのポッドキャスト アプリで評価をお願いします。評価していただくと、番組を見つけやすくなります。WIRED の「Uncanny Valley」へようこそ。WIRED のビジネスおよび産業担当ディレクターのゾーイ・シファーです。今日の番組では、AI チャットボットがロサンゼルスで進行中の抗議活動に関する偽情報をいかにして煽っているかを探ります。ここ数日、ロサンゼルスの住民はトランプ政権の移民政策と頻発する ICE の捜査に抗議するため路上に繰り出しました。ソーシャル メディアには抗議活動に関する情報や映像が溢れ、人々は実際に何が起きているのかをファクトチェックしようとしています。 GrokやChatGPTといったAIチャットボットは、不正確な、時に扇動的な回答をしています。この傾向がどのように展開してきたのか、そしてそれが現在の政治情勢にどのような影響を与える可能性があるのか​​を議論します。本日はWIREDのシニア政治エディター、リア・フェイガー氏をお迎えします。リアさん、番組へようこそ。

リア・フェイガー：ゾーイ、招待してくれてありがとう。

ゾーイ・シファー：先週末以来、ロサンゼルスで大規模な抗議活動が勃発しました。そこで、何が起こっているのか、まず大まかにお話ししたいと思います。

リア・フェイガー：先週、ロサンゼルスでICE（移民関税執行局）の襲撃を受けて抗議活動が勃発しました。当初は、ネット上で騒ぎ立てられているほど規模は大きくありませんでした。「大勢の人が集まっている。ロサンゼルスが占拠された。ひどい状況だ」といった声が上がっていました。しかし実際には、これは非常に特定の地域で発生しており、ICEの襲撃と密接に関連していました。しかし、週末にかけて事態は一変しました。トランプ大統領は州兵を動員し、カリフォルニア州知事ギャビン・ニューサム氏を激怒させました。そして、州の権利と連邦の権利、そしてこの件の描写方法について、ネット上で激しい議論が交わされました。多くの逮捕者が出て、現政権の物議を醸す移民政策に多くの人が憤慨し、ICEの襲撃に関する非常に悲惨な映像もロサンゼルスだけでなく全米各地で見られました。つまり、この問題はかなり前から高まっており、ロサンゼルスはまさにこうした反応が最初に見られる場所の一つなのです。

ゾーイ・シファー：ええ、最初からそれが私にとって本当に印象的だったと思います。トランプ政権に対する反対の声が、本当に声高に、そして初めてこれほど高まったのを目にしたような気がします。1月以降、政権運営の様々な局面で、私たちはそのような声を目にするだろうと予想していました。しかし、彼らの行動や発言が、通常の政治のあり方からするとかなり異例であるにもかかわらず、今のところ実際にはそうはなっていません。

リア・フェイガー：まさにその通りです。かなり荒れ狂っていますし、テスラの撤去を求める抗議運動や、イーロン・マスク氏が率いるいわゆる政府効率化局（DOGE）が発足した直後に起きた小規模な抗議活動もいくつかありました。しかし、おっしゃる通り、特に何かが起きたわけではありません。これは非常に個人的な問題だからです。抗議活動に参加した人たちからは、家族が移民税関捜査局（ICE）に連行され、その後連絡が取れなくなったという話が聞こえてきます。全国各地で、近所の人が路上から連れ去られたことにショックを受けているという驚くべき話が飛び交っています。繰り返しますが、政権はずっとこの状況に対処するつもりだと公言しています。ここで大きな違いがあるのは、一つにはロサンゼルスのコミュニティの人々の反応、そしてもう一つは、これが今や州の権利と連邦政府の権利をめぐる問題になりつつあるということです。

ゾーイ・シファー：そして、この事態が展開していく中で、私たち自身も、おっしゃったように、ここで実際に何が起こっているのか、何が起こっているのかを理解していこうとしてきたように感じます。そして、2025年らしい行動の一つとして、チャットボットに頼り、ChatGPTやGrokに「ここで何が起こっているんだ？」と尋ねることが挙げられます。では、人々が答えを求めている質問にはどんなものがあるのでしょうか？そして、何が起こっているのかについてチャットボットに話しかけると、何が起こるのでしょうか？

リア・フェイガー：さて。まずはちょっと物議を醸すような意見から始めましょう。ソーシャルメディアで写真や動画を見て、「え、これって現実？正確なの？」と思うのは、実に純粋な感情だと思います。実は、それは良いことなんです。私にとっては、良いことなんです。

ゾーイ・シファー：そうですね、メディアリテラシーですね。

リア・フェイガー：メディアリテラシー。私たちは長い間、このことの重要性を訴えてきました。しかし、深刻なのは、チャットボットが全くこの課題に応えられていないということです。ここで一つ例を挙げてもいいでしょうか？

ゾーイ・シファー：お願いします、お願いします。

リア・フェイガー：わかりました。ICE（移民税関捜査局）の捜査を受けて街頭に繰り出した人々がいるのは明らかで、保守派の投稿者たちは不正確な情報をフィードに大量に流しています。彼らは古い抗議活動の映像やビデオゲームや映画のクリップを投稿し、扇動者がいると主張しています。本当にたくさんあります。その結果、人々はGrokなどのAIチャットボットに頼るようになりました。具体的な事例の一つとして、連邦政府が2000人の州兵を派遣した際、サンフランシスコ・クロニクル紙が床で寝ている兵士たちの写真を掲載しました。これらの画像はニューサム知事によって共有され、「あなた方は文字通り、私たちが求めてもいない兵士たちを州に送り込み、この状況を完全に煽動しています。彼らは今、寝る場所さえありません」と発言しました。ニューサム知事がこれを共有した直後、XやFacebookで、これらの画像は捏造だ、AIが生成したものだ、あるいは全く別の出来事を示唆していると主張する人が大量に現れました。私たちが話しているのは、ただの投稿者ではありません。陰謀論の女王、ローラ・ルーマーのような人物です。

ゾーイ・シファー：わあ、すごいですね。

リア・ファイガー：まさにその通りです。トランプ氏の耳には既に届いています。この件は広く拡散しました。それで人々はXのGrok（グロック）に行って、「Grok、これは何？」と尋ねました。Grokは何と言ったでしょうか？いいえ、違います。Grokは、これらは実際にはロサンゼルスの抗議活動の映像ではないと言いました。アフガニスタンから来たものだと。

ゾーイ・シファー:ああ。グロク、いや。

リア・フェイガー：彼らは「信頼できる裏付けがない。これは誤った帰属だ」と言っていました。本当にひどい状況でした。本当に、本当にひどい状況でした。その後、別の数人がこれらの写真をChatGPTに共有したところ、ChatGPTも「そうです、ここはアフガニスタンです。これは正確ではありません」などと言い返しました。これは良くありません。

ゾーイ・シファー：つまり、多くのプラットフォームがファクトチェックプログラムを体系的に解体し、意図的に多くのコンテンツを通過させることを決めた後に、このような事態が起こったことについては、話すまでもありません。そこにチャットボットが加わると、その用途は多岐にわたります。そして私はチャットボットは本当に便利だと思うのですが、彼らは信じられないほど自信に満ちています。彼らが幻覚を起こしたり、失敗したりする時も、非常​​に説得力のある方法でそれをします。私がここでGoogle検索を擁護するのを見かけることはないでしょう。まったくのゴミで悪夢です。しかし、それがいつ道を踏み外すかは、ランダムで信用できないブログを見ている時の方が、実際にはアフガニスタンの写真を見ていないのに、Grokが自信満々にアフガニスタンの写真だと告げる時よりも、少しは明らかです。

リア・フェイガー：本当に心配です。というか、幻覚です。完全に幻覚なんですが、人生で一度きりのパーティーで運悪く追い詰められた、酔っ払った大学の男子学生のような威勢の良さがあります。

ゾーイ・シファー：悪夢。悪夢。そう。

リア・ファイガー：彼らは「いやいや、確信してる。人生でこれほど確信したことはない」って言うの。

ゾーイ・シファー：その通りです。では、なぜチャットボットはあんなに自信満々に間違った答えを出すのでしょうか？なぜ「ええと、私には分かりません。だから、他の場所で調べた方がいいかもしれません。その答えと情報を探すのに信頼できるサイトをいくつかご紹介します」と言わないのでしょうか？

リア・フェイガー：彼らはそうしないんです。知らないことを認めない。本当に驚きです。実はこのことについては多くの研究があり、コロンビア大学トウ・センター・フォー・デジタルジャーナリズムによる最近のAI検索ツールの研究では、チャットボットは「正確に答えられない質問には答えないのが苦手で、代わりに間違った答えや推測に基づいた答えを出す」という結果が出ています。本当に、本当に、本当に驚きです。特に選挙期間中には、「申し訳ありませんが、私はChatGPTなので政治には関与できません」という記事がたくさんあったことを考えると、なおさらです。「まあ、今はいろんなことに関わっているんだな」という気持ちになります。

ゾーイ・シファー:はい、この非常に恐ろしい話はここで一旦止めて、すぐに戻ります。

[壊す]

ゾーイ・シファー：『不気味の谷』へようこそ。今日はWIREDの政治担当シニアエディター、リア・フェイガーにお越しいただいています。さて、情報や映像の検証に努めるだけでなく、AIが生成した誤解を招く動画に関する報告も数多く寄せられています。ロサンゼルスの抗議活動に派遣されたとされるボブという名の州兵の動画を投稿し始めたTikTokアカウントがありました。ボブは、抗議活動参加者が「石油を詰めた風船を投げ込んでいる」など、虚偽で扇動的な発言をしており、動画の一つは100万回近く再生されました。ですから、こういったフェイク映像を見分ける能力を人々はもう少し磨く必要があるように感じますが、Xの投稿やTikTokの動画のように、本質的に文脈のない環境では難しいのです。

リア・フェイガー：その通りです。ボブが話していたTikTokのライブ配信はBBCに事実無根だと暴露され、削除されました。もう消えてしまいました。でも、人々は「なんてことだ、これが主流メディアだ。これを遮断するなんて。これが情報だ」と反応しています。つまり、事実を見つけて、事実無根だと暴露しても、まだ十分ではないということです。メディアリテラシーの問題に戻らなければなりませんが、AIチャットボットが間違った判断を下すことが私をこれほど苛立たせるのは、おそらくそのためでしょう。なぜなら、全員ではないにせよ、確かに「これは本当なの？誰か、本当に本当かどうか教えて」と言っている善意の人々がいるからです。

ゾーイ・シファー：ええ、本当に。ええ、彼らは知りたいんです。分かります。可哀想な母が先日、同じ形のナマケモノの赤ちゃんたちがカメラを見つめている動画を見せてくれたんです。「これ、すごく可愛いでしょ？ Facebookで見つけたの」って。それで私は「ママ、あれは本物のナマケモノじゃない。もっと先に進まなきゃ」って言ったんです。母はひどく落ち込んでいました。

リア・フェイガー：でも、AI 動物の汚物は、私にとっては問題ないかもしれないと思う。

ゾーイ・シファー:リアが好きな AI の形態は AI 動物です。

リア・ファイガー：いいえ、違います。撤回します。とにかく、リスクは低いとはいえ、何が真実なのかという問題に依然として影響を与えていると言えるでしょう。分かりません。誰が判断できるでしょうか？そして、ある意味、私たちは以前にも同じような状況を経験してきました。5年前の2020年は、ジョージ・フロイドの抗議活動が全米で起こり、それは大規模で、大きな出来事でした。そして、多くの誤情報が問題になりました。「いや、これはこれだ。これはこのビデオゲームだ。これはこれだ」と言う人がたくさんいました。しかし、5年後、状況は完全に変わりました。悪質な行為をする人物は相変わらずいますが、状況ははるかに複雑になっています。メディアへの信頼は低下しています。あなたは誰に頼ればいいのでしょうか？それは、あなたが個人的にアクセスできるすべてのソーシャルメディアアプリに統合されている、頼りになるAIチャットボットです。

ゾーイ・シファー：それによって、他のファクトチェックの仕組みも失われてしまいました。それで、今の状況になっているんです。

リア・ファイガー：はい。

ゾーイ・シファー：私たちはこれを何度も見てきました。イーロン・マスクがX（旧Twitter）のコンテンツモデレーションチームの大部分を解雇したことは有名ですが、これは興味深いことです。彼はまた、社内で何年もかけて検討、導入、議論を重ねてきたコンテンツモデレーションのルールの一部を撤廃しました。そして、大地震、戦争、抗議活動など、Twitterが本来備えているような大きなニュースがリアルタイムで展開される中で、以前は何が起こっているのかを知るために皆がXに集まっていたのに、今でも同じような行動をとる人々がいます。しかし、このプラットフォーム上で実際に何が起こっているのかを見極める能力は、近年著しく低下しています。有益な情報もある一方で、ひどく悪質な偽情報も混ざり合ってしまい、何が真実なのかを見極めるのは非常に困難です。

リア・フェイガー：本当にひどい状況ですね。私はもうXの投稿者ではありませんが、何が起こっているのかを確認するために頻繁にアクセスしています。ひどい状況です。今まさにこの状況で、イーロン・マスクが戻ってきて宇宙旅行についてひっきりなしに投稿しているせいで、フィードの一番上にはイーロン・マスクの投稿が並んでいるようなものです。ロサンゼルスが燃えていて、火はアメリカ全土に広がっているのに、まだ何人かのジャーナリストが「私の記事を読んで」と言いながら、そこに居座っているんです。

ゾーイ・シファー：全然進展がないって？ええ。

リア・ファイガー：本当に悲しいわ。そうね。

ゾーイ・シファー：ええ、Xインフルエンサーを目指す人が共有すべきコンテンツは、本質的に多少物議を醸したり、扇動的だったり、ショッキングだったりするものです。場合によっては、プラットフォームから報酬を得て、こうしたコンテンツを投稿していることもあります。いくつかガードレールが敷かれていると思います。投稿にコミュニティノートを添えても、報酬は支払われないはずですが、先ほどおっしゃったように、インセンティブ構造は、人々ができる限りクレイジーなことを投稿するように仕向ける仕組みになっていて、まさに今、まさに私たちが目にしている状況です。

リア・フェイガー：何のためにやっているのかと言えば、企業や億万長者のオーナーたちの懐を肥やすためです。ポスターそのものについては、多くの人が詐欺を働いていると思いますが、つい最近、ニューヨーク・タイムズに、非常に有名な…という記事が出ていました。

ゾーイ・シファー：そうです。

リア・フェイガー：ええ、Xのポスターの人です。彼は「私は共和党員で、これが私の大切なことだ」と言っていました。休暇も週末も取らない。一日中コンピューターの前に座って、年間6万ドルにも満たない収入を得ている。私は「一体何が動機なんだ？」と不思議に思います。ツイートがバズってセロトニンが大量に分泌されることが動機なのか？食料品の代金も払えないほど？だから、マスクやザッカーバーグ、その他大勢の人間が、扇動的で不正確なコンテンツで、ここが依然として重要な場所だと人々を説得することに成功したという事実は、間違いなく最大の詐欺行為です。

ゾーイ・シファー：ええ、素晴らしいですね。それでは、また少し休憩を取ります。戻ってきたら、今週WIRED.comでチェックすべき記事のおすすめをシェアしますね。

[嘴]

ゾーイ・シファー：『不気味の谷』へようこそ。WIREDのビジネス・インダストリー担当ディレクター、ゾーイ・シファーです。本日はWIREDの政治担当シニアエディター、リア・フェイガーをお迎えしています。本題に入る前に、リア、リスナーの皆さんにWIRED.comで絶対に読んでほしい記事を教えてください。

リア・フェイガー：この推薦には本当に心から賛成です。アンディ・バソヤン氏の「私は見つけた集団訴訟すべてに参加した。あなたもできる」という記事です。まさに、人々のあらゆる悩みを解決してくれる内容です。知りたいのは、あの5ドルの追加料金は私にも当然のことだったのか、ということです。本当に知りたい。そして、この筆者はそれを成し遂げました。彼らはそれを成し遂げました。まさにその道を歩んでいるのです。彼らは、人々に金銭を勝ち取らせることに携わっている人々と話をしています。そして、この統計は私の中で永遠に忘れられないでしょう。それは、こうした集団訴訟の請求のうち、実際に請求に値する人々によって請求されているのはわずか4%程度だということです。これは本当に痛ましいことです。

ゾーイ・シファー：ええ、私も同じです。こういう手紙はよく届くんです。最近届いたものは何だったかな？

リア・フェイガー：ゾーイ、あなたも問題の一部よ。7ドルもらって。

ゾーイ・シファー：わかっています。

リア・フェイガー： Venmo が使えるようになりました。

ゾーイ・シファー：一度やってみたんですが、2ドルくらいで「まあいいか」って感じでした。3000ドルくらいもらえると思っていたんですが、そうはならなかったんです。

リア・フェイガー：わかりました。いえ、これは長い道のりです。これはゲームですから。さて、あなたのお気に入りは何ですか？何が好きですか？

ゾーイ・シファー：今週掲載した、AI担当記者のウィル・ナイトの記事がおすすめです。エンジニアリングの仕事にバイブコーディングが浸透しつつあるという内容で、その実力は絶大です。シリコンバレー中のエンジニアに話を聞いて、AIコーディング・エージェントの能力が飛躍的に向上していることから、いわゆる「エンジニアリングの終末」が来ると聞いています。しかし、ウィルが実際に取材してみると、状況はもっと複雑でした。まるで幼児にチェーンソーを与えるようなもので、驚くほど素晴らしいものが作れると人々は言っていました。チャットボットと話すだけでアプリやウェブサイト全体をコーディングできる一方で、バグだらけのコード、つまり様々なセキュリティ上の脆弱性を抱えたコードも作成できます。そして、「作っているアプリの機能性を気にし始めると、すぐに完全に機能しなくなる」という意見も聞かれました。

リア・フェイガー：今、冷や汗をかいています。

ゾーイ・シファー：ええ、わかっています。これはリアの悪夢が全部ひとつにまとまったような感じでした。

リア・フェイガー：私の本当の恐怖体験。

ゾーイ・シファー：リア、あなたにビジネス用のバイブコードを作ってあげましょう。

リア・ファイガー：なんてこった。私ならそこに座って泣き出してしまいそう。正直言って、それはいいコンテンツになると思う。オンライン上のクリック可能な地獄絵図に、私が加担しているんだから。これはいいことだ。私たちにとって、これで一周回って元の状態に戻った。

ゾーイ・シファー：あなたは今やTikTokのインフルエンサーです。ここで初めてそのことを知りましたね。これが今日の番組です。番組で話したすべてのストーリーへのリンクは番組ノートに貼っておきます。木曜日の「Uncanny Valley」のエピソードもぜひチェックしてください。テック企業と、なぜ彼らがAIエージェントに大きく賭けているのかがテーマです。来週はお休みで、その次の回に戻ります。このエピソードのプロデューサーはアドリアナ・タピアとジョーダン・ベル、ミキシングはマクロ・サウンドのアマー・ラル、ニューヨークのスタジオエンジニアはジェイク・ラムス、エグゼクティブ・プロデューサーはジョーダン・ベル、コンデ・ナストのグローバルオーディオ責任者はクリス・バノン、そしてケイティ・ドラモンドはWIREDのグローバル編集ディレクターです。