リアルタイム・ディープフェイク・ロマンス詐欺が登場

2024年4月18日午前7時

「ヤフーボーイズ」として知られる口達者な詐欺師たちが、広く普及している顔交換技術を使って、手の込んだ恋愛詐欺を実行する様子をご覧ください。

リングライトで照らされた男性の顔が切り取られ、携帯電話上の女性の顔に置き換えられた写真イラスト

写真イラスト：ジャッキー・ヴァンリュー、ゲッティイメージズ

彼女がビデオ通話に出るや否や、褒め言葉が次々と飛び交い始めた。「わあ、すごく綺麗だね」と画面の向こうの男性が言う。ビデオ映像には、白人で短髪、おそらく彼女より数歳年下の男性が、チェック柄のシャツを着てカメラの前に座っている様子が映っている。

「ヒゲとか剃ったら、見た目が変わったわね」と、会話が始まると女性がアメリカ訛りで言った。男性は間髪入れずに言った。「ヒゲを剃るって言ったでしょ、見た目がよくなるから」

しかし、彼は自分が主張する人物ではない。ビデオ映像は嘘だ。そして、女性がビデオ通話越しに見ている顔は、髭の有無に関わらず、彼のものではない。ディープフェイクなのだ。

実は、この男性は顔交換技術を使ってリアルタイムで容姿を完全に変える詐欺師です。女性からおそらく数千マイル離れた場所で詐欺師の共犯者が撮影した通話動画では、このノートパソコンに映っている偽のペルソナと並んで、男性が被害者と話している姿が確認できます。

この自撮り動画は、ヤフー・ボーイズとして知られる詐欺師集団がオンラインに投稿した数多くの動画の一つです。彼らはナイジェリアを拠点とすることが多い、緩やかな詐欺集団です。動画では、彼らがディープフェイクや顔入れ替え技術を用いて被害者をロマンス詐欺に誘い込み、偽の身元を使って信頼関係を築き、数千ドルを騙し取る様子が明らかにされています。FBIによると、昨年、ロマンス詐欺による被害額は6億5000万ドルを超えています。

Yahoo Boyの詐欺師は、複数の携帯電話と顔交換ソフトウェアを悪用して被害者を騙します。これは、このグループがリアルタイム通話に用いる2つの手法のうちの1つです。

ヤフー・ボーイズは約2年間ディープフェイク動画クリップの実験を続けており、昨年はよりリアルタイムのディープフェイク動画通話に移行したと、ジョージア州立大学教授で本人確認会社SentiLinkの詐欺インサイト責任者を務めるデイビッド・マイモン氏は述べています。マイモン氏は4年以上にわたりテレグラム上のヤフー・ボーイズを監視し、詐欺師たちがディープフェイクをどのように使用しているかを明らかにする数十本の動画をWIREDに共有しました。

WIREDによるこれらの動画と関連するYahoo! BoyのTelegramチャンネル3件の検証は、ディープフェイクアプリと人工知能の進化に伴い、詐欺師の手口がどのように進化してきたかを示している。ディープフェイクビデオ通話を利用する詐欺師の具体的な戦術と奇抜な手法がこれほど詳細に記録されたのは、今回が初めてだ。

動画には、ヤフーボーイズがノートパソコンとスマートフォンの両方にこの技術を使っている様子が映っている。複数の動画で、詐欺師たちはしばしば自分の顔だけでなく、詐欺の対象となる被害者の顔も堂々と映している。「彼らがこんなことをするのは、愚かだからではないと思います」とマイモン氏は言う。「単に気にしていないだけで、報復を恐れていないだけでしょう」

ヤフーボーイズは経験豊富な詐欺師であり、それを公然と自慢しています。彼らの詐欺行為や勧誘の様子を捉えた写真や動画は、FacebookからTikTokまで、あらゆるソーシャルメディアで見ることができます。しかし、ナイジェリア王子を騙るメール詐欺へのリンクを貼っているサイバー犯罪者たちは、Telegram上で最もオープンに活動していると言えるでしょう。

数千人のメンバーが参加するグループで、ヤフーボーイズは様々な詐欺を仕掛けるため、それぞれのスキルを組織化し、宣伝しています。彼らは巧みな社会操作の達人で、被害者に長期的な影響を与える可能性があります。ビジネスメール詐欺、暗号詐欺、なりすまし詐欺など、様々な詐欺が1日に数百件もの投稿で宣伝されています。メンバーは、写真や動画の編集スキル、そして説得力のある人物像を構築するために使える、性的な写真が詰まったアルバムを販売していると主張しています。偽の身分証明書や、本物に見えるソーシャルメディアのプロフィールも販売されています。詐欺の「スクリプト」は無料でダウンロードできます。

「ヤフー・ボーイズは組織犯罪と非組織犯罪の両面を持っています」と、ネットワーク・コンテイジョン研究所の情報アナリスト、ポール・ラファイル氏は語る。ラファイル氏は、ヤフー・ボーイズによる10代の若者へのセクストーション（性的脅迫）と自殺への追い込みについて調査している。「彼らにはリーダーも、統治機構もありません」。ラファイル氏によると、彼らは集団で組織化し、オンラインでアドバイスやヒントを共有しているという。ワイアードはヤフー・ボーイズのチャンネルについてテレグラムにコメントを求めたが、回答は得られなかった。しかし、3つのチャンネルはアクセスできなくなっているようだ。

マイモン氏によると、デジタル詐欺師たちは2022年5月頃からロマンス詐欺の一環としてディープフェイクを使い始めたという。「彼らはただ自分の動画を投稿し、外見を変えて被害者に送りつけ、話を持ちかけさせようとしていたのです」と彼は言う。それ以来、彼らは別の方法に移っている。

ヤフー・ボーイズは動画を作成するために、いくつかの異なるソフトウェアとアプリを使用しています。WIREDは、攻撃を模倣する人々を制限するため、具体的なソフトウェア名を明かしていません。しかし、彼らが使用しているツールは、有名人やインフルエンサーの顔と自分の顔を交換できるなど、娯楽目的として宣伝されていることが多いです。

ヤフー・ボーイズのライブ・ディープフェイク通話は2つの異なる方法で行われている。1つ目は、上の写真で示されているように、詐欺師たちが2台の携帯電話と顔交換アプリをセットアップして使用している。詐欺師は被害者と通話する際に使用する携帯電話を手に持ち（マイモン氏によると、Zoomを使用している様子が見られることが多いが、どのプラットフォームでも機能する可能性があるという）、その背面カメラで2台目の携帯電話の画面を録画する。この2台目の携帯電話のカメラは詐欺師の顔に向けられており、顔交換アプリが起動している。動画には、2台の携帯電話が動かないようにスタンドに設置し、リングライトを使ってリアルタイムの顔交換をスムーズに行う様子が映っている。

2番目によくある手口（以下参照）は、スマートフォンではなくノートパソコンを使うというものです。（WIREDは両方の動画で実際の顔にぼかしを入れています。）この動画では、詐欺師がウェブカメラで自分の顔を撮影し、ノートパソコンで動作するソフトウェアが容姿を変えます。この様子を撮影した動画では、詐欺師が自分の顔と加工されたディープフェイク画像を同時に見ることができ、ライブビデオ通話では加工された画像だけが映し出されています。

マイモン氏によると、彼と彼のチームは、Yahoo Boysが販売しているディープフェイク動画と写真アルバムの両方で被害者の一部を追跡し、連絡を取ろうとしたという。WIREDは被害者や詐欺師の正体を特定できず、ディープフェイクが実際に何回使用されたかは不明だ。それでも、被害者を映しているように見える動画は、詐欺師がどのようにしてターゲットと信頼関係を築いていくかを明らかにしている。

動画には、詐欺師が相手に「愛している」と語りかけ、容姿を頻繁に褒める様子が映っている。ある動画では、詐欺師がターゲットに会うためにカナダへ旅行したいと言い、到着したら「すぐに」支払うと脅している。これは、ターゲットが詐欺師に送金した金銭を、詐欺師が偽って返済すると約束したことを示唆している。他の動画には、非常に個人的な情報が含まれており、詐欺師がターゲットにどれほどの信頼関係を築けるかを示している。「被害者の中には、摂食障害やうつ病について話す人もいます」とマイモン氏は言う。

これらの動画は、ヤフー・ボーイズのロマンス詐欺活動のほんの一例に過ぎない可能性が高い。彼らが自主公開する動画の多くは、自らの能力を誇示し、他者にその手法を「購入」させることを目的としたものも多い。ラファイル氏は、セクストーションの疑いでこれらのグループを調査したところ、フェイススワッピングの大半はロマンス詐欺に利用されていることに気づいたと述べている。しかし、ヤフー・ボーイズがディープフェイクの「ヌード」ジェネレーターを使って写真に加工したと主張する事例もあった。

詐欺師たちはノートパソコンで顔交換ソフトウェアを実行し、自分の表情や口の動きを模倣します。

人工知能（AI）は詐欺行為を激化させるだろう。ディープフェイク動画は5年以上前から存在し、主に非合意のポルノに利用されているが、不具合が多く、簡単に見破られる。人が話しているときに唇の動きが同期しないなど、エラーは比較的簡単に検出できる。しかし、この技術は急速に進歩しており、誰でも簡単に利用できるようになるだろう。

Yahoo Boyの動画の中には、信じられないほど明らかに偽物と思われるものもあれば、もっともらしいものもある。不安定な接続環境の携帯電話でライブ配信で視聴すると、明らかな欠陥が隠れてしまう可能性がある。特に、詐欺師が何ヶ月もかけて被害者をソーシャルエンジニアリングで騙していた場合はなおさらだ。

SocialProof Securityの共同創業者兼CEO、レイチェル・トバック氏は、同社CTOのエヴァン・トバック氏と共にWIREDの取材でYahoo Boyの動画をレビューした。彼女は過去12ヶ月間、ロマンス詐欺で顔の入れ替えが頻繁に利用されているのを目にしてきたと語る。「昨年私がチェックした時は、それほど説得力のあるものではありませんでした。でも今年は大きく変わりました」とトバック氏は語る。「特に声の高さや顔の印象を変えられるものは、肌の色、髪の色、目の色まで変えられることもあり、すべてが一致しています。かなりワイルドです」

ヤフーボーイズは、アプリに組み込まれている既存のペルソナや顔を頻繁に使用しているようです。詐欺師たちは主に自分の声で話しますが、いくつかの動画では声に手を加えている可能性もあります。WIREDが確認した動画の多くでは、画面上の登場人物は頭を動かすことはできますが、体全体を動かすことはできません。彼らの唇や表情は、詐欺師の顔の動きに合わせて動いています。これらのツールの機能は、今後さらに向上していくでしょう。

本人確認企業iProovの最高科学責任者、アンドリュー・ニューウェル氏は、100種類以上のツールを追跡調査した結果、昨年、顔交換システムの利用数が「劇的に変化」したと述べています。これらのツールのうち、リアルタイムの顔交換が可能なのはほんの一部に過ぎないとニューウェル氏は指摘します。「これらのリアルタイムツールの性能は、かなり向上しています。」

ヤフーボーイズは独自のソフトウェアを開発したり、高度な技術を駆使したりはしていないかもしれないが、彼らは多才だとマイモン氏は言う。彼らは複数の詐欺を同時に実行し、一度に数十人の被害者と話をし、複数の人物が詐欺を完遂するために必要なスキルを持っている。「彼らは常に進化しているのです」とマイモン氏は言う。

サイバー犯罪被害者を支援するインテリジェンス・フォー・グッドのチーフ詐欺対策担当者、ロニー・トカゾウスキー氏は、ヤフー・ボーイズがロマンス詐欺にディープフェイクを使ってきたことから、他の詐欺にもこの技術を使うようになるだろうと述べている。「これは一種の早期警告のようなもので、『よし、彼らはこういう詐欺をするのが本当に得意だ。さて、次は何をするんだろう？』という感じだ」