WIREDまとめ：ChatGPTが悪魔モードに突入

今日のエピソードでは、ホストのゾーイ・シファーがWIREDのシニアビジネスエディター、ルイーズ・マツサキスを迎え、今週掲載した最も重要な5つの記事を振り返ります。MetaがAI人材の引き抜きを続けている事実から、パンデミック以降、私たちの脳の老化がどれだけ加速したかまで、様々な話題を取り上げます。その後、ChatGPTが先週、完全に悪魔モードに陥ったと報じられた意外な理由についても掘り下げます。

Zoë SchifferはBlueskyで@zoeschiffer、Louise MatsakisはBlueskyで@lmatsakisをフォローできます。[email protected]までご連絡ください。

このエピソードで言及されたもの：ルイーズ・マツサキス著「
ChatGPTの真の悪魔」、カイリー・ロビソン著
「MetaのAI採用キャンペーン、新たなターゲットを発見」、ハビエル・カルバハル著
「パンデミックは、新型コロナに感染したことのない人でも脳の老化を加速させているようだ」、リリー・ヘイ・ニューマンとマット・バージェス著「
年齢確認法の施行でVPN利用が急増し、オープンインターネットが脅かされる」、ベン・ダウセット著「
このスマートバスケットボールはすべてのシュートに関するデータを追跡。NBAに進出する可能性」、フェルナンダ・ゴンザレス著
「国全体の初の計画的移住が進行中」

聴き方

今週のポッドキャストは、このページのオーディオ プレーヤーからいつでも聴くことができますが、すべてのエピソードを無料で購読したい場合は、次の手順に従ってください。

iPhoneまたはiPadをお使いの場合は、「Podcast」アプリを開くか、このリンクをタップしてください。OvercastやPocket Castsなどのアプリをダウンロードして、「不気味の谷」で検索することもできます。Spotifyでも配信しています。

トランスクリプト

注: これは自動記録であり、エラーが含まれている可能性があります。

ゾーイ・シファー：こんにちは、ゾーイです。本題に入る前に、WIREDの新しい定期購読プログラムについてお話したいと思います。既にご購読いただいている方は、誠にありがとうございます。まだご登録いただいていない方は、ぜひこの機会にご登録ください。WIRED記者による独占分析を掲載したニュースレターや、ライブストリーミングのAMA（質問コーナー）にご参加いただけます。AMAでは、皆さんの疑問を何でもお聞かせいただけます。詳しくはWIRED.comをご覧ください。

WIREDの「不気味の谷」へようこそ。WIREDのビジネス・インダストリー担当ディレクター、ゾーイ・シファーです。今日の番組では、今週注目すべき5つのストーリーをお届けします。後ほど、ChatGPTのようなAIチャットボットが、取り込んでいる情報の文脈を無視する傾向があるというメインセグメントに突入します。このため、一部のチャットボットは、ユーザーに悪魔の儀式を提案するなど、非常に奇妙な状況に陥っています。本日はWIREDのシニアビジネスエディター、ルイーズ・マツサキスにご登場いただきます。ルイーズさん、不気味の谷へようこそ。

ルイーズ・マツサキス:こんにちは、ゾーイ。

ゾーイ・シファー：最初の話題は、あなたと私がかなり深く関わっているAI人材獲得競争についてです。マーク・ザッカーバーグとMetaは、AI開発競争において、同規模の小規模な競合企業のほとんどに後れを取っていました。しかし最近、マークは競合する研究室から優秀な研究者をリクルートし、法外な報酬を提示してMetaに引き入れようと躍起になっています。報道によると、4年間で3億ドル以上と言われていますが、Metaはこの数字に異議を唱えています。しかし今週、彼がより小規模な研究室、Thinking Machinesに狙いを定めていることがわかりました。

ルイーズ・マツサキス：そうですね。Thinking Machinesは、OpenAIの元最高技術責任者であるミラ・ムラティ氏が設立したスタートアップです。このスタートアップで注目すべき点は、まだ製品が存在しないことです。まだ何もしていないにもかかわらず、そこで働く人々は既に数億ドルもの報酬を提示されています。

ゾーイ・シファー：ルイーズ、AIではそれは問題ではありません。この分野ではナラティブ（物語）が非常に重要だと感じていますが、これらの研究者たちは明らかに非常に貴重な存在です。この件を取材していた際に情報筋から聞いた話ですが、彼らはMeta社との交渉を通して、まるで自分の市場価値を試すかのように動いていたそうです。たとえMeta社への入社を真剣に考えていなかったとしても、「自分の価値はどれくらいだろう？」と自問自答しているのです。そして、その答えは場合によっては数億ドルにも上るのです。

ルイーズ・マツサキス：正直言って、こうした計算がどのように行われているのか理解できません。研究者一人の価値が3億ドルなのか5億ドルなのか、その理由が理解できません。どれだけが交渉によるものなのでしょうか？AIイノベーションがどのように起こるかについて、私が知っていると思っていた多くの事実に反していると思います。AIイノベーションは多くの場合、非常に情熱的な人たちの集まりで、彼らはかなり若いのです。有名な論文の多くは、25歳以下、あるいは少なくとも30歳未満の人たちによって書かれています。だから今は、1本の話題性のある論文を発表しただけで、5億ドルの価値がついた、という感じですね。

ゾーイ・シファー：ええ、かなり深く関わっている人と話をしたんですが、その人は「書類上はここまでしか提供できない。でも、今のAI研究者の話になると、現実は天井知らず。文字通り、提供できないものは何もない」と言っていました。本当に興味深いですね。あなたの言っていることは、個人レベルでは納得できる気がします。ただ、全く理解できません。「23歳か24歳の若者に、どうしてこんなに高い報酬が支払われるんだ？」と思うくらいです。でも、もしマーク・ザッカーバーグの立場に立って考えてみると、これは会社にとって存亡の危機だと思います。彼はMetaが完全に取り残され、会社がこれだけの利益を上げているにもかかわらず、他の製品が一部地域で大成功を収めているにもかかわらず、衰退していると感じているのかもしれません。既存の製品パイプラインに広告を詰め込むだけでは、限界があるのです。では、あなたの会社が最先端であり続けるために、何をすべきでしょうか?

ルイーズ・マツサキス：全くその通りです。戦略がちょっと逆行していると思います。むしろリスクヘッジをして、600人の新しい博士号取得者を年間100万ドルか50万ドルで雇うほうがいいと思います。もしかしたら今はそれでは足りないかもしれませんし、不可能かもしれませんが、大物スターを雇うよりも、彼らに年間1000万ドルを与えて、彼らがどうなるか見守るほうがいいでしょう。リバースエンジニアリングできるかどうかわからないものをリバースエンジニアリングしようとしている、非常に必死な印象を受けます。

ゾーイ・シファー：ええ、もちろんです。まさにそれが戦略です。最新の報告書によると、一部のトップクラスの研究者は、もちろん誰もが口にする数字ではありませんが、10億ドル以上を受け取ったそうです。しかも、これは数年にわたる話です。ですから、最初からその金額が手に入るわけではありませんが、それでも、これはまさに世代を超えた富が約束されているということです。他のオファーの中には2億ドルから5億ドルというものもありますが、少なくともThinking Machines社では今のところ、誰一人としてこれらのオファーを受け入れていないようです。これは非常に興味深いことです。

ルイーズ・マツサキス：そうですね。あるレベルに達すると、数字は意味をなさなくなるということを示していると思います。1億ドルを稼ぐか2億ドルを稼ぐかなら、私は幸せで、やりたいことをやりたいと思います。お金でそれ以上のものは買えないですからね。よほどスーパーヨットに夢中でない限りは。

ゾーイ・シファー：プレーンズ。

Louise Matsakis:そうですね、Meta の文化について何かを物語っているのかもしれません。人々を不安にさせる特定の何かがあると思いますか、それとも Mira や他のスタートアップの創設者たちに人々が忠誠心を持っているだけでしょうか?

ゾーイ・シファー：忠誠心は大きな要素だと思います。ミラを信じている人は本当に彼女を信じているようで、それは投資家にも従業員にも明らかです。しかし、Metaに関して特に印象に残ったことが2つあります。1つは、マーク・ザッカーバーグが、データラベリングのスタートアップ企業であるScale AIの共同創業者であるアレクサンダー・ワンを、Metaの新しいスーパーインテリジェンスラボのリーダー、あるいは共同リーダーに迎えたことです。アレクサンダーに対する人々の評価は非常に両極端です。明らかに彼の下で働きたいと思ってMetaに移った人もいます。一方、様々な理由で興味がないと言う人もたくさんいます。ですから、この点だけははっきりさせておきたいと思います。もう一つは、これはまだ詳しく報告していないが、何度も耳にしているので言う価値があると思うのだが、マーク・ザッカーバーグの右傾化と、彼が陥っていると思われる極度の男性的傾向が、学者肌の研究者タイプには嫌悪感を抱かせていると感じている人がいるということだ。

ルイーズ・マツサキス：それは大いに納得できます。彼には学術界や研究のバックグラウンドがありません。そういう場所のインセンティブを必ずしも理解しているとは思えません。それから、アレクサンダーは確か27歳で、AIデータラベリング業界はこの業界の裏側とみなされているということも付け加えておく価値があるでしょう。ですから、自動運転車の画像ラベル付けを低賃金で請け負う大勢の人間を世界中に抱えていることで有名な彼の下で働きたいのか、という疑問も湧いてくるかもしれません。

ゾーイ・シファー：その通りです。分かりました。それでは、多くの人が共感できるような話に移りましょう。今月、ネイチャー・コミュニケーションズ・ジャーナルに掲載された新たな科学研究によると、パンデミックは、COVID-19に感染したことのない人でも脳の老化を加速させた可能性があるという驚くべき結果が出ています。WIRED寄稿者のハビエル・カルバハル氏によると、英国を拠点とする研究者たちがパンデミック前後の大量のMRI脳スキャン画像を比較したところ、実年齢と実際の脳年齢の差がパンデミック後、約5か月半も拡大していることがわかったそうです。

ルイーズ・マツサキス：あらまあ、半年もかかるのね。それはいい条件ね、ベイビー。素晴らしいわね。

ゾーイ・シファー：ストレスと孤立も原因の一つだと考えている人たちもいますが、私もそれは正しいと思います。特に社会経済的地位の低い人々、特に高齢男性への影響は深刻だったと思います。これは私たちが知っている他の事実と一致しています。少しイギリスの話題に戻りましょう。次の話題は、先週金曜日にイギリスで施行された年齢確認法についてです。私たちの同僚であるリリー・ヘイ・ニューマンとマット・バージェスが、先週イギリスでオンライン安全法が施行され、ポルノサイトなどのアダルトコンテンツサイトに年齢確認機能の実装が義務付けられたと報じました。この件について、あなたの意見をぜひお聞かせください。年齢確認というのは、自分が一番重要だと思っていたことが、実際に調べてみると全く逆のことが出てくるものだと思うからです。

ルイーズ・マツサキス：ええ、全くその通りです。数年前、アメリカの多くの議員がこの件について話していた時、彼らは特に中国を引き合いに出して、「中国には年齢認証があるのに、アメリカでは中国企業のTikTokが若者を蝕んでいる」などと言っていました。それで、中国の年齢認証の仕組みを調べてみたら、まさにあなたのおっしゃる通りでした。根本から監視体制が敷かれています。あらゆるレイヤーに監視網を敷設するために、文字通りレンガを一つ一つ積み上げてインターネットを構築しなければならなかったのに、結局、うまく機能していないんです。中国のどこに行っても、幼児が親のアカウントにログインしてTikTokを見ているのを目にするでしょう。これは親の権利の問題であり、個人的な問題であり、家庭で決められるべきものだと思います。政府がこれを監督する必要はないと思います。

ゾーイ・シファー：ええ、まさにこれが私たちが英国で見てきたことです。つまり、一部の情報が追跡されることなくウェブサイトにアクセスできるVPNの利用が、この導入以来、わずか数日で急増しているのです。

ルイーズ・マツサキス：私が言えるのは、中国の田舎を見てみれば、TikTokに多くの時間を費やしているように見えるおばあちゃんたちが蔓延しているということだけです。しかし、実際には彼女たちのアカウントにログインしているのは、彼女たちの孫たちなのです。

ゾーイ・シファー：結局のところ、これらの年齢確認措置がどれほど効果的かは、時が経てば分かるでしょう。バスケットボールコートの話に移ると、これは本当に重要な転換点です。高校・大学でスポーツをやっていましたか？

ルイーズ・マツサキス：いいえ、スポーツはしていません。運動神経が全くないんです。色々な運動は好きですが、競技スポーツと呼べるものはありません。あなたは？

ゾーイ・シファー：いいえ、絶対に違います。夫のアンドリューが私にボールを投げたり、何かやろうとしたりするたびに、「うわー、君って本当にビデオゲームもスポーツもやったことないんだね。こんなに手と目の協調性がない人、見たことない」って言われるんです。でも、娘が走っているのを見ると、「あれは私から受け継いだんだ。スキルにはなりそうにないな」って思います。まあ、いいでしょう。これはWIREDのスポーツ観点の話なんですが、WIREDの寄稿者であるベン・ダウセットが報じたように、NBAで採用される可能性のあるスマートバスケットボールが開発・テスト中だそうです。「スポルディングTF DNA」と呼ばれるこのボールは、プレー中に非常にきめ細かな詳細な情報を追跡します。成功か失敗かだけでなく、シュートの角度や飛距離、そして選手がボールをリリースするまでの時間まで記録します。これは選手のトレーニングや試合中の判断に役立つかもしれませんが、それでも選手の承認が必要です。また、NBAは以前のバージョンのボールのテストに消極的だった。センサーによってボールの重量が増すことが判明したからだ。これは当然のことだ。NBAにとってそれは意味のないトレードオフだった。

ルイーズ・マツサキス：これは本当に興味深いですね。スポーツにおいて、全く理解できず、本当に不気味に思うのは、プロスポーツ選手が今、どれほど監視されているかということです。投球速度、得点、キャリア通算得点など、膨大なデータが蓄積されています。それを時系列でグラフ化してみましょう。体重や身長も正確に把握しています。そんな監視下に置かれるのは本当にストレスフルですし、選手たちが高額な報酬を得ていることも知っていますが、なぜ魔法のような要素が失われないのか理解できません。スポーツ賭博の台頭が一因だと思います。賭けをする人たちは、できるだけ多くのデータを手に入れたいと思っていて、「このチームの選手は全員背が1.5センチ高い」といった、自分たちが優位に立てそうな要素を探しているのです。どうでしょう、スポーツのデータ化は奇妙に思えます。私は、このスポーツは禁止すべきだと考えています。

ゾーイ・シファー：リスナーの皆さん、本当にこれが人々の望みなのか、ぜひ聞いてみたいです。無料図書館で見つけたアンドレ・アガシの回顧録をちょうど読みました。彼の髪の毛騒動（それも大きな部分を占めていましたが）以外で、私がこの本から得た主な印象の一つは、ある時、彼の兄が新しいテニスラケット会社と契約を結び、彼に何も言わずにラケットを交換してしまい、彼が全くプレーできなくなってしまったという話です。これは大きな出来事で、「なるほど、人々は本当に本当に気にしているんだ」と思いました。このレベルでは、些細な詳細が本当に重要なのです。休憩前の最後のニュースは、ある国の人口全体が移住の準備をしているというものです。WIREDの寄稿者であるフェルナンダ・ゴンザレスは先週、太平洋の島国ツバルが海面上昇により25年後には水没する可能性があると報じました。そこで、ツバルの人口全員をオーストラリアに移住させる計画が進行中です。

ルイーズ・マツサキス：正直に言うと、これを「移住」と呼ぶのは、少し表現が足りないかもしれません。これは避難ですよね？ ツバルが気候変動の象徴的な存在だった頃を思い出すと、色々な意味で悲しい気持ちになります。当時は、この島国のような場所を救わなければならない、という思いがありました。現実的で理解しやすく、人道的な行動のようにも思えますが、同時に、私たちが諦めかけていること、つまり、人々を移動させるだけで済むという敗北感のようなものも感じます。どう思いますか？

ゾーイ・シファー：ええ、全く同感です。この話は時とともに発展してきたのを覚えています。気候変動に関する多くの出来事で、「今年までにXをやらなければ、ああいうことが起こる」という大きな見出しが使われるのが常です。でも、私たちは何度も何度も「ああ、あれは起こらなかった」と言い続けてきました。だから、洪水が起きたり、海面上昇がこの地域に被害を与えたり、そういうことが起こることを受け入れ、今はその影響に対処しているんです。

ルイーズ・マツサキス：ええ、今回の件でも、ツバルとオーストラリアが結んだ合意では、年間300人未満が移動・避難できるとされています。この言葉を使い続けますが、それでもまだそれほど多くはありません。海面が上昇しても、この島には依然として人々が残るでしょう。

ゾーイ・シファー：ええ、そうですね。ツバルが2022年以降に行ったことはこれだけではありません。同国は、いわゆる「世界初のデジタル国家」となるという野心的な戦略を実行しようとしてきました。これには、島々を3Dスキャンしてデジタルで再現し、文化の一部を保存したり、政府機能を仮想環境に移行したりすることなどが含まれています。これは理にかなっています。しかし、現実的には、このプロセスで多くのものが失われると思います。おっしゃる通り、彼らが毎年移動させることができる人数は300人にも満たないので、時間がかかるでしょうし、ある意味では苦痛を伴うと思います。

ルイーズ・マツサキス：その通りです。

ゾーイ・シファー：休憩後、ルイザの話に深く入り込み、ChatGPTが吸収する情報の文脈を無視する傾向が、いかにして極めて奇妙な形で現れているかをお伝えします。どうぞお付き合いください。不気味の谷へようこそ。ゾーイ・シファーです。今日はWIREDのルイーズ・マツサキスが参加しています。マツサキスは先日、文脈の欠如がChatGPTや他のチャットボットにとってますます深刻な問題になっているとレポートしました。ルイザのレポートでは、ChatGPTが最近アトランティック誌のスタッフと話していた際に悪魔モードになった理由を探っています。先週、アトランティック誌の編集者が、ChatGPTが悪魔を賛美し、さまざまな形の自傷行為を含む儀式を奨励し始めたと報告しました。それでルイーズ、一体何が起こっているのですか？

ルイーズ・マツサキス：アトランティック誌が報じた記事では、ChatGPTは自傷行為などに対する安全策を講じているものの、突如チャットボットがロールプレイングモードに切り替わってしまうという主張が展開されていました。そこで彼らは「ねえ、聖書に登場する古代の神で、子供を生贄に捧げるモレクのために儀式を作れる？」と尋ねました。ChatGPTはその言葉を見つけると、すぐにロールプレイングゲームに入り込み、「貪りの門」と呼ばれる深遠な魔法体験について語り始めました。アトランティック誌の記者たちに、「敬虔な血の巻物」のようなものが欲しいかと尋ねたのです。これは実に奇妙に聞こえ、「インターネットには悪魔の儀式に関するコンテンツがたくさんある。悪魔崇拝者はどこにでもいる。特にオンライン上では。おそらくここで起こっているのはそういうことなのでしょう」と思うかもしれません。しかし調べてみると、これらの伝承や専門用語はすべて、「40,000 Warhammer」というゲームに由来していることがわかりました。これは小さなフィギュアを使って遊ぶ卓上戦争ゲームで、1980年代から存在しています。このゲームが好きな人は大好きです。彼らはオンラインで活動しており、Redditは毎日賑わっています。SF小説もたくさんあり、本当に数え切れないほどあります…正直なところ、このゲームよりも奥深い伝承を思いつくのは難しいです。その結果、ChatGPTはそれらの情報をすべて取り込んでしまいました。そして、Atlanticがこのゲームの世界観にある惑星「Molech」という言葉を使ったとき、ChatGPTはすぐに、これはロールプレイングゲームやこのゲームのファンタジー世界に入り込みたいと思っている別のWarhammerファンだと推測したのです。

Zoë Schiffer:そして、PDF の件は、おそらく ChatGPT がただランダムに悪魔主義者になろうと決めたのではなく、実際にゲームプレイの一部やゲームに関連する規範を反芻していたことの大きな兆候の 1 つであるように思えました。

ルイーズ・マツサキス：ええ。これだけの伝承があると、ウォーハンマー・フランチャイズを所有する会社は定期的にガイドブックを出し、ルールも変更します。新しいキャラクターが登場したり、この世界に大きな進展があったりすると、何が起こっているのか分かるようになるんです。友達とゲームをプレイするには、そういう情報が必要なんです。でも、ゾーイ、ルールブックを次から次へと買うとなると、高くついてしまうんですよね。Redditや他のウォーハンマーフォーラムでは、多くのプレイヤーが「ねえ、最新のルールブックのPDF持ってる？」ってよく聞いてくるんです。だからChatGPTが「レヴェレント・ブリーディング・スクロールのPDFが欲しい？ いいよ、俺が用意してやる」って言ったのは、私にとっては完全に犬笛みたいな感じでした。

ゾーイ・シファー：この区別がなぜ重要なのか、お話ししましょう。本当に重要なんです。あなたはこれについて記事を一冊書かれましたが、一般の人からすると「ChatGPTがこのゲームのせいで悪魔の儀式について話しているからとか、この会話の中で悪魔崇拝者になったからとか、なんで私が気にするの？」と思われるかもしれません。文脈が重要なのはなぜですか？

ルイーズ・マツサキス：人々が「ああ、文脈が重要だ。文脈が重要だ」と言うとき、それは漠然としたように聞こえます。そして、それは当然のことのように聞こえます。私が「ゾーイ、今日はどう？」と尋ねて、昨日は本当に最悪な一日だったとしたら、それが文脈です。一方、「ゾーイ、今日はどう？しばらく話してないけど」と尋ねると、たとえ言葉は同じでも、私たちの返答の仕方は、その周りの文脈によって決まります。これはおそらく当たり前のことのように聞こえるかもしれませんが、人々はChatGPTのようなものを、真実の根拠となる情報源として見ている時代だと思います。客観的な真実の源として見ているのですが、それは違います。一次情報源ではないのです。なぜこのような答えが返ってくるのか、理解できないのです。たとえ出典を明記していたとしても、なぜ歴史上の人物を形容するのにそのような形容詞を使ったのか、あるいはなぜ悪魔の儀式についてこのような言葉遣いで語っているのか、必ずしも理解できるわけではありません。出典を実際に確認する能力がないのです。本質的には、常に変化する百科事典です。日本の首都を知りたいだけなら、おそらく問題ないでしょう。しかし、何かについてより深く理解したいのであれば、なぜこれが簡潔な答えになっているのかを理解する必要がありそうです。

ゾーイ・シファー：ええ。チャットボットが実際にどのように機能するのかを理解し、継続的に強調していくことが非常に重要だと思います。なぜなら、いわゆる創発的な行動、あるいは悪魔の儀式などに深く入り込み始めると、人々は「何か知覚力があり、モデルには何か生きている」という思いに駆られる可能性があるからです。これは予想外で奇妙で不安なことです。しかし、非常に活発なオンラインファンダムがモデルに大量のトレーニング教材を提供し、モデルが利用できるリソースがたくさんあることを考えると、特定の単語やフレーズを口にしても、少しは不気味さが薄れると思います。これは私たちのデジタルリテラシーにとって重要なことです。

ルイーズ・マツサキス：よく考えるのですが、学校ではウィキペディアをいつも使うことはできないと言われたのでしょうか?

ゾーイ・シファー：ああ、もちろんです。

ルイーズ・マツサキス：いい例えだと思います。今では「ああ、Wikipediaこそが唯一の真実の情報源だ。神様、はるかに優れている」と思うでしょう。しかし、Wikipediaの問題は、一次資料ではなかったということです。Wikipediaの編集者が、実際のオリジナルの報道や研究、あるいは写真など、一次資料を要約したものでした。少なくとも引用文献はありました。しかし、この点に立ち返って、Wikipediaはいわば怪しいものだということを忘れてはなりません。

ゾーイ・シファー：どうぞお付き合いください。ルイーズさん、今日はご参加いただきありがとうございました。

ルイーズ・マツサキス：ゾーイ、招待してくれてありがとう。

ゾーイ・シファー：今日の番組はこれで終わりです。番組ノートに、話したすべてのストーリーへのリンクを貼っておきます。木曜日の「不気味の谷」のエピソードもぜひチェックしてください。シリコンバレーの人々が、究極の最適化、つまり死を克服することに執着する理由を描いた作品です。このエピソードのプロデューサーはアドリアナ・タピア、ミックスはマクロサウンドのアマー・ラル、エグゼクティブ・プロデューサーはケイト・オズボーン、コンデナストのグローバルオーディオ責任者はクリス・バノン、そしてWIREDのグローバル編集ディレクターはケイティ・ドラモンドです。