WIRED総括：OpenAIのソーシャルビデオアプリが生み出す新たなフェイクワールド

今日のエピソードでは、ゾーイ・シファーがWIREDのシニアカルチャーエディター、マニシャ・クリシュナンと共に、今週掲載したベストストーリー5選を振り返ります。連邦政府職員が政府閉鎖の責任を民主党に押し付けられていることや、ピーター・ティールの反キリストへの執着など、様々な話題を取り上げます。さらに、ゾーイとマニシャは、OpenAIがAI生成動画向けの新しいソーシャルアプリをリリースしたというニュースを解説します。

このエピソードで言及された内容：
OpenAIはAI生成動画用のソーシャルアプリのリリース準備を進めている（ゾーイ・シファー、ルイーズ・マツサキス）
連邦政府職員は閉鎖の責任を民主党に押し付けるよう言われている（ヴィットーリア・エリオット）
ピーター・ティールの反キリストへの執着の真の危険性と真実（ローラ・ブラード）
テスラは居眠り運転者に「完全自動運転」の使用を促しているが、これは大きな間違いを犯す可能性がある（アーリアン・マーシャル）
科学者たちは皮膚細胞から人間の卵子を作り、それを使って胚を形成した（エミリー・マリン）

Zoë SchifferはBlueskyで@zoeschiffer、Manisha KrishnanはBlueskyで@manishakrishnanをフォローできます。[email protected]までご連絡ください。

聴き方

今週のポッドキャストは、このページのオーディオ プレーヤーからいつでも聴くことができますが、すべてのエピソードを無料で購読したい場合は、次の手順に従ってください。

iPhoneまたはiPadをお使いの場合は、「Podcast」アプリを開くか、このリンクをタップしてください。OvercastやPocket Castsなどのアプリをダウンロードして、「不気味の谷」で検索することもできます。Spotifyでも配信しています。

トランスクリプト

注: これは自動記録であり、エラーが含まれている可能性があります。

ゾーイ・シファー： WIREDの「不気味の谷」へようこそ。WIREDのビジネス・インダストリー担当ディレクター、ゾーイ・シファーです。今日の番組では、今週注目すべき5つのニュースをお届けします。OpenAIがAI生成動画専用のソーシャルアプリをリリースしたというスクープ記事もその一つです。本日は、シニアカルチャーエディターのマニシャ・クリシュナンをお迎えしています。マニシャ、不気味の谷へようこそ。

Manisha Krishnan:こんにちは、Zoë。

ゾーイ・シファー：最初の記事は、私たちの編集室全体が、いやおそらく全米が話題にしている問題についてです。それは政府閉鎖です。今週水曜日の時点で、少なくとも今のところは、アメリカ政府は正式に閉鎖され、多くの連邦政府職員は政府機関が再開するまで一時帰休となっています。同僚のヴィットリア・エリオットは今週、中小企業庁（SBA）の職員が人事部から不在通知メールの文言が書かれたテンプレートを受け取り、民主党を非難するように指示されていたことを知りました。

マニシャ・クリシュナン：もちろんです。このテンプレートはどれほど明確だったのでしょうか？

ゾーイ・シファー：では、少しだけ読んでみましょう。「上院民主党がクリーンな連邦支出法案を否決したため、私は当面の間、職務を離れる。この結果、政府閉鎖につながり、米国中小企業庁が全米3,600万の中小企業にサービスを提供できなくなっている。」と書いてあります。かなり明確な文言だと思います。

マニシャ・クリシュナン：ええ、もし不在通知としてそれを受け取ったら、「全部読む気はないわ。長すぎるから」って思うでしょう。

ゾーイ・シファー：些細なことで、ちょっと面白いんだけど、同時に暗い側面もある。政府の露骨さがまたしても露骨に表れているように感じる。もはや、国や二大政党をまとめようとする気配すら感じられない。

マニシャ・クリシュナン：連邦政府職員は退屈な存在であるべきだとわかっています。彼らからこんな意見を聞くべきではないのです。そして、トリが記事の中で指摘した点の一つは、これは実際にハッチ法に違反する可能性があるということです。ハッチ法は、政府職員が参加できる政治活動の種類に制限を設ける法律です。ですから、公務員に公務外での活動を促すことは、実際には法律違反を強いることになりかねません。

ゾーイ・シファー：ええ、ここ数年、「ディープステート」についてよく耳にするようになりました。例えば、連邦政府職員は政治的な思惑にとらわれていて、自分たちの政治的アジェンダを推進しようとしている、といった話です。実際にこうしたことを取材して、職員と話をすると、彼らは「私たちは様々な政権下で働いてきました。私たちの仕事は政治問題に口出しすることではなく、この退屈な書類仕事の山をこなすことです」と言うのです。でも、状況は変わり始めているようです。彼らはまるで脇に追いやられるように言われているのです。そのため、他の機関の職員は、より標準的な不在時指示書を受け取っています。しかし、多くの機関は依然として、こうした辛辣な政治用語を使っています。ウェブサイトには、民主党を非難するポップアップバナーが表示されています。住宅都市開発省のウェブサイトには、「議会の極左派が政府を閉鎖した。当省は、利用可能な資源を活用して、困窮しているアメリカ国民を支援します」というバナーがあります。司法省のウェブサイトにも、かなり似たようなバナーがあります。

マニシャ・クリシュナン：ええ、司法省からそのような発言が出てくると、今の私たちの状況がよく分かります。これらのメッセージは常軌を逸しているにもかかわらず、あまりにも当たり前になってきています。連邦職員の皆さんには同情します。司法省の影響を受けている連邦職員に語りかける素晴らしい特集記事を執筆された皆さんなら、私よりもよくご存知でしょう。彼らは職を失い、極めて政治的なメッセージを発信せざるを得ない状況です。本当に…「不快」という言葉では言い表せないほどです。

ゾーイ・シファー：よく話題になるのは、政府の規範がいかに急速に変化したかということです。以前は標準的な運営方法がありましたが、必ずしもそうだったわけではありません。あちこちで規範を無視する人もいました。しかし、大抵の場合、連邦政府職員は極端に率直な意見を言うべきではない、公の場で過激に政治的な発言をすべきではない、といった感じでした。そして、こうした状況は実に急速に変化しました。そして、職を保った人々でさえ、その過程で何か本質的なものが失われたと感じているのではないでしょうか。

マニシャ・クリシュナン：普段は礼儀作法を気にするタイプではないのですが、この状況下では、少しでも日常が戻ってほしいと切に願っています。

ゾーイ・シファー：ええ。次の話はちょっとすごいので、特にあなたの意見を聞きたいです。WIREDの寄稿者であるローラ・ブラードが、ピーター・ティールの反キリストへの執着について深く掘り下げた記事を書きました。ティールはここ数年、終末論について講演を重ねてきました。それは、私たちがテクノロジーに過度に依存しているというものです。その結果、私たちははるかに大きな脅威、つまり反キリストの到来に目を向けることができなくなっています。この人物は、人類を一つのルールの下に統合し、その後、私たちを終末へと導くと言われています。ですから、あなたの意見をぜひ聞きたいです。

マニシャ・クリシュナン：彼が「ああ、テクノロジーのことは心配するな。終末が来るんだから、そっちのことを心配すべきだ」と言っているのは、確かに都合がいいと思います。それを思い出させます。彼がホットドッグの中にいて、自分が交通事故を起こしたのではないと偽ろうとしているミームは、もうやめておくべきだと思います。つまり、私たち一人ひとりが自分なりの終末論を持つのは自由だと思います。今まさに、まさにその渦中にいるような気がします。でも、ティールはPayPalとPalantirの共同創業者であり、共和党の熱心な支持者でもあるため、世界で最も影響力のある人物の一人であるという点が違います。

ゾーイ・シファー：ええ。もう少し背景を説明すると、ローラはティールの信念をオーストリアの神学者との関係に遡らせました。その神学者は、法理論家カール・シュミットの著作に影響を受けた人物です。シュミット自身も1940年代にナチスに利用され、ドイツの民主主義から独裁主義への転落を正当化しました。シュミットはティールと同様に、反キリストの悪は世界を統一しようとする試みだと信じていました。これは一見肯定的に聞こえますが、彼らの見方からすると実は非常に否定的です。この統一は私たちを洗脳に導き、最終的には滅亡をもたらすのです。データ・監視技術企業の共同創業者がこのような社会統制への恐怖を抱いているという皮肉は、見過ごされていません。ティールは最近、ニューヨーク・タイムズの記者ロス・ドゥーザットと会話を交わした際に、この話題が持ち上がった際に非常に気まずい場面がありました。

ロス・ドゥーザット [アーカイブ音声]:具体的な質問なのですが、あなたはAIへの投資家で、パランティア社、軍事技術、監視技術、戦争技術などに深く投資していますね。反キリストが権力を握り、技術革新への恐怖を利用して世界に秩序を押し付けるという話を聞かせていただくと、その反キリストはあなたが開発しているツールを使うのではないかと思うのですが、そうではないでしょうか？ 反キリストは「よし、もう技術の進歩はないな。でも、パランティアのこれまでの成果は素晴らしい」と言うのではないでしょうか？ そうですよね？ つまり、それは懸念事項ではないでしょうか？ 公然と反キリストを心配する人が、うっかり反キリストの到来を早めてしまうというのは、歴史の皮肉ではないでしょうか？

ピーター・ティール [アーカイブ音声]:いいですか、いろいろなシナリオがあるんです... もちろん、自分がやっているのはそういうことではないと思います。

ロス・ドゥーザット [アーカイブ音声]:つまり、はっきり言いますが、私もあなたがそんなことをしているとは思っていません。

マニシャ・クリシュナン：ああ。

ゾーイ・シファー：ああ。

マニシャ・クリシュナン：ロスが最後に「君がやっていることはそういうことじゃないと思う」と口を挟まなければよかったのに。彼は言葉に詰まって、ぎこちない態度をとったままにしておけばよかったのに。明らかに彼はそのことでとても居心地が悪かったのでしょう。でも、彼は一体誰を、この超富裕で権力のある人物と結びつけることになるのかと心配しているのでしょうか？普通の人が権力を取り戻そうとするのではないかと心配しているだけなのでしょうか？これは、今の私たちのメディアリテラシーのレベル、そして私たちが浴びせられているくだらない情報、そして…つまり、私自身の家族でそれを見てきました。正直に言うと、父は、今現実だと信じ込んでいるようなことを言っています。ですから、私たちが世に出しているくだらない情報と教育不足が相まって、間違いなく危険だと私は考えています。

ゾーイ・シファー：ええ、ええ、全く同感です。実は2つの考えがありました。このポッドキャストが配信された時に聴いたのは、脳の病気があって、この手のコンテンツがとても好きなんです。そして、私が学んだことの一つは、長年イーロン・マスクについて取材してきた中で、本当に感銘を受けたことです。イーロンの話を聞いていると、たとえ彼の口から出てくる言葉の一つ一つに反対だとしても、彼は自分が言っていることを信じているように見えます。どんなに突飛に聞こえても。ピーター・ティールの場合はそう感じませんでした。「これが本当に信じているのかどうか、私には分からない」と思いました。そして、文字通り「これは全部比喩なのか、それとも文字通りの人間が出てくるのか？」と思いました。本当に混乱しました。ロスはそれを文字通り、とても真剣に受け止めていました。

マニシャ・クリシュナン：カトリックの学校に通っていた頃以来、反キリストの話はあまり聞いていません。当時も、ほとんど関係を断ち切っていました。ローラの報道でもう一つ触れられていたのは、反キリストの対となる存在、カタコンベという概念です。カタコンベは、反キリストと終末を封じ込めることができる存在だと言われています。ティールはトランプがカタコンベなのかと聞かれた際、答えることを拒否しました。ゾーイ、あなたにとってのカタコンベは誰ですか？

ゾーイ・シファー：本当に悩みました。だって、今の時代に一人の人間にこれほどの重荷を背負わせるなんて、想像もつきません。国を一つにまとめられる人なんて、ましてや世界を一つにできる人なんて、想像もつきません。二つのことを思い浮かべました。一つは、コールドプレイのコンサートで、天文学者のCEOが人事部長と寄り添っているところをキスカメラに捉えられた時のことです。あの瞬間が本当に国を一つにしたように感じました。皆が一体となって笑い、興味津々で、あまり意見が分かれることはありません。まるで皆がインターネットでこの出来事の展開を見守っているようでした。もう一つは、私は実際にはサウスパークを観ていないのですが、昨晩ウェズリー・モリスが出演するポッドキャストを聴いていました。サウスパークの視聴者は、番組自体が非常に政治的な内容ではあるものの、政治的な境界線を越えているように聞こえます。

マニシャ・クリシュナン：ええ、今シーズンは…というか、15年ぶりに見ました。でも、今シーズンはまさに的を射ています。まるでWIREDを読んで、あらゆるものを風刺しているかのようです。もしトランプとエリック・アダムスがトークショーを始めたら、カタコンベ（地下墓地）のような感じかもしれません。

ゾーイ・シファー：それはいいですね。

マニシャ・クリシュナン：政治的な垣根を越えて、誰もが面白いと思うからです。

ゾーイ・シファー：結局、サウスパークが私たちを救ってくれるかもしれませんね。次の話題に移りましょう。同僚のアーリアン・マーシャルが報じたところによると、テスラは居眠り運転をするドライバーに、車の完全自動運転モード（FSDモード）の使用を推奨しているそうです。この機能は名前とは裏腹に、実際には車が自動運転するわけではなく、ドライバーが様々な基本的な操作を行うのを支援するだけです。マニュアルには、ドライバーは常に運転を引き継ぐ準備をしておく必要があると書かれています。しかし、ドライバーからは、車内のメッセージには全く逆の指示が表示されているという報告が寄せられています。「居眠りを検知しました。FSDで集中力を維持してください」とか「車線逸脱を検知しました。FSDがアシストして集中力を維持してください」といったメッセージです。

マニシャ・クリシュナン：ええ、それは危険ですね。まるで「ねえ、今すぐお昼寝したい？FSDを作動させて」と言っているように聞こえます。いや、音楽をガンガン鳴らし、エアコンをガンガンに効かせ、まるでスピニングクラスのような雰囲気で目を覚まさせるべきです。テスラは、不注意なドライバーがFSDを使用しにくくするために、技術を改良しました。2021年には、車内運転モニターカメラを使い、FSD使用中にドライバーが十分に注意を払っている場所を特定し始めました。

ゾーイ・シファー：これは、自動運転機能の安全性向上に向けたこれまでの取り組みと矛盾しているように思えます。テスラにとって、今はまさに微妙な時期と言えるでしょう。長年にわたり、同社は特定の欠陥がある可能性のある製品を製造していると非難されてきました。今年8月、フロリダの陪審は、2019年に22歳​​の女性が死亡した事故について、テスラに一部責任があるとの判断を下しました。この事故は、テスラ モデルSのドライバーが、同社の運転支援ソフトウェア「オートパイロット」の旧バージョンを使用していた際に発生しました。同時に、イーロン・マスク氏とテスラの取締役会は、FSDを自動車メーカーの戦略の中核に据えています。マスク氏は、この機能が年末までに真の自動運転システムに移行すると約束していますが、実現は難しそうです。イーロン・マスク氏は、かなり大胆なスケジュールを約束しながら、それを何度も破ることで知られています。休憩に入る前に、もう一つ。 WIREDの科学記者、エミリー・マリン氏は今週、科学者たちが皮膚細胞からヒトの卵子を作り、それを用いて胚を形成したと報じました。これは非常に重要な出来事です。なぜなら、子供を望む人々にとって、不妊治療の新たな方法となる可能性があるからです。しかし、誤解のないよう明確にしておくと、これらの胚は実際に妊娠を成立させるために使用されたものではありません。また、子宮から大きく成長した可能性も低いでしょう。しかし、将来的には体外受精の代替手段として使用される可能性があるため、これは非常に重要な出来事です。

マニシャ・クリシュナン：それは本当にすごいことなのですが、具体的にはどのような仕組みなのでしょうか？

ゾーイ・シファー：そうですね、体外受精が失敗する理由の一つは、卵子の質が悪いことです。あなたも私も、同じような経験をした人、つまり採卵を試みたけれど生存可能な卵子が得られなかった人を知っているのではないでしょうか。卵子の質は加齢とともに低下し、不妊の大きな要因であることは明らかです。しかし、体外受精を受ける患者が、自分の皮膚サンプルから研究室で生成された卵子をいつでも入手できるようになれば、体外受精の成功率は大幅に向上し、より多くの人が赤ちゃんを産めるようになるかもしれません。しかし、この新しい技術の可能性は、その技術をどのように使うべきかという重大な倫理的問題も提起しています。2017年にジャーナル「サイエンス・トランスナショナル・メディシン」の論説で、生命倫理学者たちは、この技術によって胚培養が現在では想像もできない規模にまで拡大する可能性があると警告しました。

マニシャ・クリシュナン：確かに、おっしゃる通りだと思います。不妊に悩む友人もいるので、どんな新しい選択肢が生まれるのか、本当に興味深いです。でも同時に、疑問に思うことがあります。特に超富裕層の間では、生殖能力や子供に優れた遺伝子を受け継がせたいという思いが強くなっている現状です。このことが、こうした状況にどう影響するのか、倫理に反する形で利用される可能性はあるのか、そして誰が傷つき、あるいは搾取される可能性があるのか​​、私は少し疑問に思っています。

ゾーイ・シファー：ええ、本当に良い質問だと思います。おっしゃる通り、シリコンバレーのエリートたちは、長寿に執着しているだけでなく、胚の選択や様々な検査を行う新しい方法にもかなり熱心に取り組んでいます。サム・アルトマンは実際に、似たようなことをしているスタートアップ企業に投資したことがあると思います。胚の選択に関する話は、ある意味ではある程度、私も完全に理解できる部分があります。しかし、それを行き過ぎてしまうと、良い人生とは何かという誤解に陥ってしまうのではないかと個人的に感じます。特定の検査すべてでトップの胚を選んだからといって、必ずしもそれより少し低い順位の胚よりも幸せで、より良い状態にあるという保証はありません。

マニシャ・クリシュナン：わあ。とても深く哲学的なお話ですね。私も同感です。

ゾーイ・シファー：休憩後に、OpenAIがAI生成動画用のソーシャルアプリをリリースしたというニュースをお伝えします。このニュースについては後ほど詳しくお話しします。どうぞお付き合いください。不気味の谷へようこそ。ゾーイ・シファーです。今日はシニアカルチャーエディターのマニシャ・クリシュナンが参加しています。それでは本題に入りましょう。今週初め、同僚のルイーズ・マツサキスと私は、OpenAIがAI生成動画用のソーシャルアプリをリリースする準備をしていることを知りました。このアプリは、私たちがニュースを報じた翌日、実際にリリースされました。動画生成モデルSora 2を使用するスタンドアロンアプリです。私はリリース当初からこのアプリを少し使っていますが、スワイプしてスクロールできる縦型動画フィードや、おすすめページのあるタブなど、かなり馴染みのある機能があります。つまり、基本的にはTikTokですが、見ているものはすべてAIによって生成されています。

マニシャ・クリシュナン：わかりました。まずは、今回のスクープおめでとうございます。この話は本当にすごいですね。使ってみてどう感じたのか、ちょっと聞きたいんです。Slackに投稿していた動画をいくつか見たんですが、正直言って「あれ、ゾーイ？」って思ったんです。

ゾーイ・シファー：いくつかあります。アプリを開くと、ユーザーがただ無意識にスクロールするだけにならないように、コンテンツの作成を強く促されます。プラスボタンを押すと、本人確認を求められます。画面上の数字を読み上げながら、自分の動画を撮影することで本人確認を行います。これにより、アプリがあなたの顔と体、そして声のデジタルアバターのような肖像を生成します。その後はとても簡単です。プロンプトを入力するだけです。ChatGPTの問題があり、適切なプロンプトを作成するのは想像以上に難しいのです。

マニシャ・クリシュナン：なるほど。自分の似顔絵を作って、それに奇妙なことをさせるというのは確かに斬新ですね。でも、TikTokと同じように、人々の興味を引き続けられると思いますか？ まあ、私には分かりません。ソーシャルメディアの特徴の一つは、カルチャーライターのジェイソン・パーハムが話していたように、私たちは本物であること、個性を持つことでフォロワーを増やしてきました。でも、これはそこから大きく逸脱しているように思えます。自分のコンテンツさえ使っていないのですから。

ゾーイ・シファー：ええ、奇妙な話です。Metaが最近AI生成動画アプリをリリースしようとしたのですが、全くのゴーストタウン状態でした。完全な失敗でした。実際、OpenAIがSora 2アプリを開発していると聞いてリリースを早めたのではないかという報道もあります。しかし、いずれにせよ、あまり使われていませんでした。OpenAIの素晴らしい点の一つは、自分や友達を中心として据えた点だと思います。AIが作り出したシナリオの中で、自分や友達が動くのを見るのは、本当に斬新です。リアルに見せることもできますし、自分や友達全員が海を泳ぐ人魚のように見せることもできます。何か面白くて興味深い点があります。とはいえ、今実際のフィードを見てみると、少なくとも私のフィードはほとんどがOpenAIの社員です。そして、このアプリの主役は、OpenAIのCEOであるサム・アルトマンです。彼はほぼすべての動画に登場しています。

マニシャ・クリシュナン：そうですね、CEOが主人公になるのは誰も望んでいないと思います。例えばディープフェイクポルノとか、そういうものについて、何か規制はあるのでしょうか？

マニシャ・クリシュナン：彼らは、誰が最も訴訟を起こすだろうと予想したかどうかに基づいて判断しているのだろうか。

マニシャ・クリシュナン： TikTokとどう競合していくのか、そして人々の行動を変えるのか、とても興味があります。TikTokは文字通り人々の公共の場での行動を変えました。ですから、TikTokが本質的に何をしようとしているのか、あなたの見解を伺いたいです。

ゾーイ・シファー：とても良い質問ですね。多くのAI企業がAIエンターテインメントをソーシャルメディアの未来の一つとして捉えているように感じます。興味深いことに、TikTokはAI生成コンテンツから大きく距離を置いています。プラットフォームとしてAI生成コンテンツに本格的に投資しようとしているようには見えません。OpenAIは、人々が自分自身や友人をこれらのシナリオ、つまり動画の中に登場させることで、ある程度の可能性を解き放つことができると提言し、一歩前進したと言えるでしょう。しかし、実際にこれが成功するかどうかは未知数です。

マニシャ・クリシュナン：ええ、あなたの録音を拝見します。そして、正直に言うと、私も試してみたいと思っています。

ゾーイ・シファー：いいえ、そうすべきです。そうすべきです。わかっています。では、マニシャさん、今日は来てくださって本当にありがとうございます。

マニシャ・クリシュナン：お招きいただきありがとうございます。

ゾーイ・シファー：今日の番組はこれで終わりです。番組ノートに、話したすべてのストーリーへのリンクを貼っておきます。木曜日の「Uncanny Valley」のエピソードもぜひチェックしてください。DoorDashのようなデリバリーアプリが、ロボットがデリバリーの未来を担うという可能性に賭けている様子が描かれています。このエピソードのプロデューサーはアドリアナ・タピアとマーク・リダ、ミックスはマクロサウンドのアマー・ラル、ニューヨークスタジオのエンジニアはプラン・バンディ、エグゼクティブプロデューサーはケイト・オズボーン、コンデナストのグローバルオーディオ責任者はクリス・バノン、WIREDのグローバル編集ディレクターはケイティ・ドラモンドです。