Googleはデバイス上のAIを活用して詐欺テキストや投資詐欺を検知している

デジタル詐欺師はかつてないほど成功を収めています。昨年、アメリカ人はオンライン犯罪で166億ドルの損失を被り、約20万人がフィッシングやなりすましなどの詐欺をFBIに通報しました。連邦取引委員会（FTC）によると、昨年、テキストメッセージから始まった詐欺で4億7000万ドル以上が盗まれました。そして、世界最大のモバイルOSメーカーであるGoogleは、消費者に潜在的な詐欺について警告するツールを開発するなど、対策を急いでいます。

Googleは来週のAndroid 16のリリースに先立ち、火曜日に、Googleメッセージアプリ向けに最近導入されたAIフラグ機能「詐欺検出」を拡張し、仮想通貨詐欺、金融詐欺、ギフトカードや賞品詐欺、テクニカルサポート詐欺など、潜在的に悪質なメッセージに警告を発すると発表しました。Googleメッセージの他のAIセキュリティ機能（これらはすべてユーザーのデバイス上でローカルに実行され、データやメッセージ内容をGoogleと共有することはありません）と組み合わせることで、Androidは現在、毎月約20億件の不審なメッセージを検出しています。

「今回の詐欺は本当に悲痛です」と、Androidのセキュリティ・プライバシー部門エンジニアリング担当副社長、デイブ・クライダーマッハー氏は語る。「世界中で金融詐欺が蔓延しており、もはや蔓延し、人類にとっての災いと言えるほどです。」

詐欺師は世界中で活動していますが、特に中国の詐欺グループが何百万件もの詐欺メッセージの背後におり、「通行料」の支払いや郵便サービスの配達と称する情報などを要求しています。ユーザーがリンクをクリックして支払い情報を含む詳細を入力すると、詐欺師はデータを盗みます。場合によっては、詐欺は一種の強奪を目的として設計されており、攻撃者はユーザーを素早く騙してログイン認証情報やクレジットカード番号などの情報の断片を手渡させます。これらの詐欺はより定型化されている傾向があり、検出が容易である可能性があります。より複雑な課題は、非常に複雑な投資詐欺や恋愛詐欺（しばしば「豚の屠殺詐欺」と呼ばれます）を検出することです。これらの詐欺は、何ヶ月にもわたるメッセージのやり取りを通じて構築および進化し、詐欺師がターゲットとの信頼関係を構築してから、老後の蓄えを渡させたり、さらに送金するために借金をしたりするように仕向けます。

「詐欺にたどり着くまでには時間がかかります。リンクをクリックするだけでは不十分です」とクライダーマッハー氏は言います。「デバイスにAIを搭載することで、より高度な会話を観察・分析し、詐欺行為を検知できるようになります。」

Googleが提供する詐欺検出機能のスクリーンショットでは、暗号化されたRSCチャットに、EZ Passの通行料が未払いであるという典型的な詐欺メッセージが表示されている。メッセージには、支払いが行われない場合、運転する「法的資格」が取り消される可能性があると付け加えられている。メッセージには、悪質な決済ウェブサイトに誘導するリンクが含まれている。画面下部の詐欺検出オーバーレイには、メッセージに「不審なアクティビティ」が検出されたことが示され、送信者を報告してブロックする方法と、詐欺ではないことをフラグ付けできるオプションが表示されている。

詐欺師に対抗し、人々のメールボックスへの到達を阻止するためにAIを活用している企業は、Googleだけではありません。中には、AIを詐欺師への直接的な反撃に活用する企業もあります。例えば、英国の通信会社O2は、詐欺師が電話に出られないようにし、時間を無駄にさせる「AIおばあちゃん」を開発しました。また、オンライン詐欺対策企業のKitbogaは、詐欺を行うコールセンターに同時に電話をかける一連のボットを開発しました。

一方、WhatsApp、Messenger、Instagramを所有するMetaは、ここ数ヶ月で、チャットメッセージで支払いを求められた場合にポップアップ警告を表示する機能を導入し始めました。また、サイバーセキュリティ企業のF-Secureは、メッセージと送信者が詐欺師である可能性が高いかどうかを識別し、メッセージをブロックするためのベータ版ツールを開発しました。知らないアカウントにメッセージを送信したり、詳細を尋ねるメッセージに返信したりすることを控えさせるような、ある程度の摩擦を設けることで、詐欺師が成功する可能性を減らすことができます。

Googleのクライダーマッハー氏は、機械学習システムを用いて潜在的な詐欺メッセージをリアルタイムで検出することで、「非常に良い効果」が得られていると述べています。保護機能が成熟するにつれて、基盤となるシステムはGoogleメッセージアプリだけでなく、サードパーティのコミュニケーションプラットフォームにも普及していく可能性があると同氏は指摘しています。

現時点では、こうした機能拡張の一部はGoogle自身の製品内で始まっている。同社は火曜日、通話に詐欺検知機能を組み込む方法をテストする初期段階にあるものの、この機能はまだ広く展開されていないと述べた。