ラスベガスで爆発事故が起きる前に、インテルのアナリストは爆弾製造業者がAIに頼り始めていると警告していた

ラスベガスのトランプ・インターナショナル・ホテル正面玄関前で自殺する6日前、コロラド州出身の米陸軍グリーンベレー隊員で、数々の勲章を受けたマシュー・リヴェルスバーガーは、一連の指示に従い、レンタルしたサイバートラックを4トンの車両搭載型爆弾に改造する最良の方法について人工知能（AI）に相談した。WIREDが独占入手した文書によると、米国の情報分析官たちはまさにこのシナリオについて過去1年間警告を発しており、その懸念の中には、人種的またはイデオロギー的な動機を持つ過激派がAIツールを悪用し、重要インフラ、特に電力網を標的にする可能性があるというものがある。

「AIが私たちの生活のどこかの時点で、実のところあらゆる面で状況を変えるだろうことは分かっていました」と、ラスベガス市警察のケビン・マクマヒル保安官は火曜日に記者団に語った。「まさに、私たちにとって憂慮すべき瞬間です」

OpenAIのChatGPTとのやり取りのコピーによると、37歳のリベルスバーガー氏は、ラスベガスへ向かう途中で合法的に可能な限り爆発物を集める方法、そして自身の死後にサイバートラック内で発見されたデザートイーグル銃を使ってそれらを起爆させる最良の方法について情報を探っていた。マクマヒル氏の事務所が共有したスクリーンショットには、リベルスバーガー氏がChatGPTにタネライト（通常は射撃練習に使用される反応性化合物）に関する情報を求める様子が写っている。ある質問で、リベルスバーガー氏は「タネライトはTNT火薬1ポンドにどれくらい相当しますか？」と尋ね、さらに「至近距離」でどのように発火させるのかを尋ねている。

WIREDが入手した文書は、AIがテロを含む重大犯罪の実行に利用されるという脅威に対する懸念が、米国の法執行機関の間で広まっていることを示している。文書によると、国土安全保障省は、国内の過激派がAI技術を「爆弾製造指示書の作成」や「米国に対する攻撃戦術の策定」に利用しているとして、繰り返し警告を発している。

機密扱いではないが政府職員に限定されているこのメモには、暴力的過激派が国内テロ行為を通じてアメリカ社会を崩壊させることを目的とした攻撃を仕掛けるために、ChatGPTのようなツールを利用するケースが増えていると記されている。

捜査官がリベルスバーガー容疑者の携帯電話で発見したメモによると、同容疑者は爆破事件をアメリカ国民への「警鐘」と捉え、多様性を拒絶し、男らしさを受け入れ、次期大統領ドナルド・トランプ氏、イーロン・マスク氏、ロバート・F・ケネディ・ジュニア氏を支持するよう促していた。また、連邦政府と軍から民主党員を排除し、「ハードリセット」を訴えるようアメリカ国民に促した。

マクマヒル氏は火曜日、ラスベガスでの事件が「米国国内でChatGPTが特定のデバイスの構築を支援するために使用された最初の事例」である可能性があると主張したが、連邦情報アナリストは、オンライン上の白人至上主義や加速主義運動に関連する過激派が現在、法執行機関、政府施設、重要インフラへの攻撃を目的とした爆弾を製造する目的で、ハッキングされたAIチャットボットへのアクセスを頻繁に共有していると述べている。

特に、これらのメモは米国の電力網の脆弱性を浮き彫りにしている。電力網は、「テログラム」と呼ばれる暗号化されたチャットルームの緩やかなネットワークに集まる過激派の間で頻繁に標的となっており、アメリカの民主主義制度を破壊しようとする暴力的で人種差別的な個人が多数存在する。WIREDが独占的に入手したこれらの文書は、国家安全保障と政府の透明性に重点を置く非営利団体「プロパティ・オブ・ザ・ピープル」によって初めて入手された。

国土安全保障省はコメントを拒否した。OpenAIの広報担当者リズ・ブルジョワ氏は、同社は「ラスベガスでの事件に心を痛めており、AIツールが責任ある形で使用されるよう尽力して​​いく」と述べた。

「当社のモデルは、有害な指示を拒否し、有害なコンテンツを最小限に抑えるように設計されています。今回のケースでは、ChatGPTはインターネット上で既に公開されている情報に基づき対応し、有害または違法な活動に対する警告を提供しました」と広報担当者は述べ、同社は捜査を支援するために法執行機関と引き続き協力していくと付け加えました。

ChatGPTをはじめとする類似ツールは、程度の差こそあれ情報統合に長けているものの、そのほとんどはGoogleなどの検索エンジンなど、他の方法で入手可能な情報源からのみ情報を得ています。それでも当局は、これらのツール独自の機能によって、少なくとも攻撃計画が容易になる可能性があると懸念しています。

10月、連邦、州、地方の法執行機関と連携する地域情報局は、過激派が「戦術と標的」に関する情報を照会するために人工知能を活用していると警察に警告するセキュリティ速報を発表しました。情報分析官が提供したある例では、ユーザーが「電力網に対する最も効果的な物理的攻撃」の詳細を尋ねる様子が映し出されています。チャットボットはすぐに数段落にわたる情報を返します。分析官のメモによると、どの方法が「他よりも効果的」であるかに関する提案です。

チャットボットは、電力網のどのエリアが最も「重要」と考えられるかについてアドバイスを提供する言語を生成し、修理にかかる「相当な時間」に基づいて、どのコンポーネントを攻撃すべきかについての提案を行った。ボットによると、一部のコンポーネントは「交換に数ヶ月かかる可能性が高い」とのことだ。（WIREDは、ここでは意図的に指示を再現することを控えている。）

アナリストらによると、人気のAIツールを「騙して」悪意ある指示を生成させる方法はあるが、米国製のツールのような従来の安全対策を欠いたチャットボットなど、他の「あまり知られていない」ツールも人気が高まっているという。

WIREDが検証した、オハイオ州の法執行機関が昨年配布した対テロ対策メモは、悪意のある攻撃者が一般的なAIツールの「ジェイルブレイク」に非常に成功していると警告している。「これらのジェイルブレイクは、チャットボットアカウントの認証情報に加えて、現在Telegramなどのオンラインフォーラムで売買・共有されており、より幅広い攻撃者がアクセスしやすくなっている」。アナリストたちは、プロンプトインジェクションとして知られるいくつかの一般的なセキュリティエクスプロイトを特定した。よく知られているものとしては、GitHubで無料で公開されているDAN（「今すぐ何でもやれ」）プロンプトや、「Evil-Bot」やSTAN（「規範を避けるように努める」）プロンプトなどが挙げられている。

「これらのプロンプトはそれぞれ、『ロールプレイ』トレーニングモデルと呼ばれる手法を用いており、ユーザーはチャットボットに、ChatGPTの倫理的制約のない別のチャットボットであるかのように質問に答えるよう指示する」とメモには記されている。メモではまた、マイクロソフトが昨年春に報告した新しい脱獄方法である「スケルトンキー」の使用についても強調されている。

国土安全保障省の情報アナリストが警察に宛てた別のメモでも同様に、米国の暴力的過激派が、ChatGPTなどの一般的なAIツールにインストールされている安全対策を無効にするために、プロンプト・インジェクションを利用していると述べています。アナリストらは昨春、海賊版AI製品が「爆弾製造指示書の作成」や「変電所の標的に関する情報の提供」に利用されていると警告しており、これはよくあることです。

「エネルギー部門への攻撃は、国内テロリストにとって常に最優先事項です。彼らの主な攻撃目標であり、内戦という歪んだ夢を実現するための直接的な道筋と捉えているのです」と、ネブラスカ大学オマハ校で対テロとテクノロジーを専門とする学術拠点、NCITEの研究員、シェイマス・ヒューズ氏は語る。

「攻撃開始のハードルを下げるための重要なツールとして AI が使われていることも確認しました」とヒューズ氏は言う。「AI は、計画立案を支援したり、法執行機関の監視を招かずに暴力行為のアイデアを練ったり、プロパガンダの出力を強化したりするのに役立っています。」

「テログラムによる暴力的な行為の加速化を継続的に、かつ積極的に奨励する動きは、ますます恐ろしくなっています」と、憎悪と過激主義に反対するグローバル・プロジェクトの共同設立者兼代表であるウェンディ・ヴィア氏は付け加える。「2025年には、政治的暴力の潜在的な状況は不安定になるでしょう。」

5月には、ネオナチ集団に所属する36歳の女性が、ボルチモア地域の変電所への攻撃を計画した罪を認めた。当局は刑事告発の中で、この攻撃は「人種的または民族的動機によるもの」と述べている。2022年後半にオレゴン州、ノースカロライナ州、ワシントン州の変電所が相次いで攻撃を受け、数万人が停電したと報じられている。2016年にはユタ州で発生した攻撃で、約1万3000世帯が停電に見舞われた。襲撃者は高性能ライフルを使用し、変電所に向けて遠距離から発砲したと報じられている。FBIによると、テログラムのマニュアルの中には、爆発物を運び込んだり送電線を切断したりするためにマイラー風船を飛ばすことを攻撃者に推奨しているものもある。

「脅威は圧倒的に極右から来ています」と、Property of the Peopleのエグゼクティブ・ディレクター、ライアン・シャピロ氏は語る。「しかし、ドナルド・トランプはすでに嘘を捏造し、移民や進歩主義者に責任を転嫁しています。これまで幾度となく見てきたように、トランプによる真実への攻撃は、彼自身と彼の支持者による民主主義への攻撃を隠蔽する役割を果たしているのです。」

シャピロ氏の組織が入手した別の一連の内部セキュリティ速報には、テログラム集団が執筆した出版物の継続的な拡散など、国内の脅威に重点を置く米国諜報アナリストの間で懸念が高まっていることが示されている。これらの出版物では、使用者に対し「自殺願望のある一匹狼」になるよう指示し、「国会議事堂にロケットを発射」し、「変電所、通信塔、その他の重要なインフラ」を標的にするよう指示している。

こうした攻撃を実行し、その過程で命を落としたユーザーは「聖人」の称号を約束され、誰もが羨む「リーダーボード」への参加を申し出られる。これは、殺害数の多い順に並べられた、既知のテロリストのリストである。リーダーボードには、オクラホマシティ爆破事件の犯人ティモシー・マクベイや、2015年のチャールストン教会銃乱射事件で有罪判決を受けたネオナチのディラン・ルーフなどが含まれている。

「テログラム集団は依然として重要インフラへの攻撃に執着しており、システムを崩壊させるための効率的な手段と見なすようになっている」と、ジョージ・ワシントン大学過激主義プログラムの研究員、ジョナサン・ルイス氏は述べている。「デジタルプロパガンダやオンラインエコシステムにおけるこうした攻撃の宣伝は、重要インフラに対するローンアクターによる陰謀を刺激し続けている。」

変電所への攻撃の多くは、監視範囲の狭さ、設備の遠隔地への設置、そして遠距離からの攻撃の可能性といった理由から未解決のままです。これらの施設における物理的なセキュリティを義務付ける連邦規制はなく、ほとんどの州では統一された防護戦略も欠如しています。

WIREDが9月に入手したセキュリティ速報によると、FBIは米国西部全域で発生した攻撃を指摘し、エネルギー関連企業に対し、変電所の監視体制を強化し、監視範囲を拡大するよう強く求めていた。「監視映像がなければ、これらの事件の捜査は困難です。監視映像のない変電所の事件の中には、未解決のまま残っているものもあります」とFBIは述べている。

FBI広報担当者は、「特定の通信についてはコメントできませんが、FBIは、管轄する地域社会の保護を支援するため、法執行機関のパートナーと潜在的な脅威に関する情報を定期的に共有しています」と述べています。「私たちはあらゆる脅威を深刻に受け止めており、市民の皆様には、疑わしいと思われるものがあれば、直ちに法執行機関に通報していただくようお願いいたします。FBIへの通報は、tips.fbi.gov または 1-800-CALL-FBI までお願いいたします。」