ChatGPTやそれに類似したボットがマルウェアを拡散する仕組み

WIREDに掲載されているすべての製品は、編集者が独自に選定したものです。ただし、小売店やリンクを経由した製品購入から報酬を受け取る場合があります。詳細はこちらをご覧ください。

AI を取り巻く環境は非常に急速に変化し始めています。Midjourney や ChatGPT などの消費者向けツールは、自然言語プロンプトに基づいて数秒で素晴らしい画像とテキストの結果を生成できるようになり、Web 検索から児童書まであらゆる場所に導入されるようになっています。

しかし、これらのAIアプリケーションは、マルウェアの拡散など、より悪質な用途に転用されつつあります。例えば、従来の詐欺メールは、文法やスペルに明らかな誤りが散見されます。しかし、ユーロポールの最近の勧告報告書によると、最新のAIモデルではこのような誤りは発生しません。

考えてみてください。多くのフィッシング攻撃やその他のセキュリティ脅威はソーシャルエンジニアリングを駆使し、ユーザーを騙してパスワード、金融情報、その他の機密データを盗み出します。こうした詐欺に必要な、説得力があり本物らしく聞こえる文章は、今では人間の手を必要とせず、非常に簡単に作成でき、特定の対象者に合わせて何度も調整・改良することができます。

ChatGPTの場合、まず開発元のOpenAIが安全対策を組み込んでいることに注目すべきです。「マルウェアを作成」または「フィッシングメールを作成」するように指示すると、「マルウェアの作成や作成支援を含む、悪意のある行為を禁じる厳格な倫理ガイドラインに従うようにプログラムされています」と表示されます。

しかし、これらの保護策を回避するのはそれほど難しくありません。ChatGPTは確かにコードを記述でき、メールも作成できます。たとえマルウェアを作成していることを自覚していなくても、誘導によってマルウェアのようなものを作成してしまう可能性があります。サイバー犯罪者が既に導入されている安全対策を回避しようとしている兆候が見られます。

ここで特にChatGPTを批判しているわけではありませんが、ChatGPTのような大規模言語モデル（LLM）がより悪質な目的に利用されると、何が起こるかを指摘しています。実際、犯罪組織が詐欺をより説得力のあるものにするために、独自のLLMや類似のツールを開発することは想像に難くありません。また、テキストだけではありません。音声や動画は偽造がより困難ですが、偽造も行われています。

上司から緊急の報告書の提出を求められたり、会社のテクニカルサポートからセキュリティパッチのインストールを指示されたり、銀行から対応が必要な問題が発生したと連絡があったりするなど、こうした潜在的な詐欺行為はすべて、相手に信頼を築き、本物らしく聞こえるようにすることが不可欠です。そして、AIボットはまさにその点で非常に優れています。AIボットは、自然な音声で特定の対象者に合わせたテキスト、音声、動画を、迅速かつ継続的にオンデマンドで生成できます。

では、AIを駆使した脅威の波の中で、私たち人間に希望はあるのでしょうか？諦めて運命を受け入れるしかないのでしょうか？必ずしもそうではありません。最新技術による詐欺被害を最小限に抑える方法はまだあり、それらはあなたが普段から意識している予防策とそれほど変わりません。

AIを利用した詐欺から身を守る方法

AI関連のセキュリティ脅威には2つの種類があります。1つ目は、ChatGPTやMidjourneyといったツールが、ブラウザプラグインなど、インストールすべきではないものをインストールさせようとするものです。必要のないサービスに騙されて料金を支払わされたり、公式に見えるツールを使って不正行為をされたりする可能性があります。

こうした罠に陥らないためには、ここで紹介したようなAIサービスの最新情報を把握し、必ず最初に元の情報源を確認することが重要です。例えばChatGPTの場合、公式に承認されたモバイルアプリはなく、ツールはWebのみです。これらのアプリやその派生アプリを使用する際には、新しいソフトウェアをインストールする際と同様に、その利用履歴、関連するレビュー、そして開発元を確認するのが基本ルールです。

2つ目のタイプの脅威は、潜在的にさらに危険です。それは、まるで本物のように聞こえるテキスト、音声、または動画を作成するために使用されるAIです。その出力は、知人になりすますために利用される可能性もあります。例えば、緊急の資金拠出を求める最高経営責任者の音声を装い、ある会社の従業員を騙したケースが挙げられます。

テクノロジーは進化したとはいえ、いまだに同じ手口が使われ、少し（あるいは非常に）普通ではない緊急の仕事をさせようとしています。時間をかけて、可能な限り様々な方法（メールを確認するために電話したり、その逆）で確認し、頼まれた仕事に時間制限があったり、通常とは異なるタスクだったりするなど、危険信号に注意してください。

テキストメッセージやメールに意図せず届いたリンクをクリックするのは、通常、賢明ではありません。特にログインを求められた場合はなおさらです。例えば、銀行がメッセージで連絡を取ったような場合は、埋め込まれたリンクをクリックするのではなく、ブラウザで直接銀行のウェブサイトにアクセスしてログインしてください。

オペレーティングシステム、アプリ、ブラウザを常に最新の状態に保つことは必須です（現在ではほぼ自動的に更新されるため、言い訳の余地はありません）。最新のブラウザは、あなたを騙すために表示されたプロンプトがAIによって生成されたものかどうかに関わらず、あらゆるフィッシングや詐欺攻撃からあなたを守ってくれます。

現時点では、AIによるテキスト、音声、動画の存在を確実に検出するツールはありませんが、注意すべき兆候がいくつかあります。例えば、写真のぼやけや矛盾、あるいは漠然とした漠然とした内容のテキストなどです。詐欺師はあなたの生活や職場に関する詳細情報をどこかから収集しているかもしれませんが、あなたの活動の詳細をすべて把握している可能性は低いでしょう。

要するに、用心深く、あらゆることに疑問を持つべきだ。これは、これらの新しいAIサービスが登場する以前も今も変わらない。映画『ミッション：インポッシブル』シリーズに登場する顔が変形するマスクのように（今のところSF映画だが）、何かを明かす前に、自分が本当に相手だと思っている人物と本当に付き合っているのかを、完全に確信する必要がある。