ディープフェイクは仮想通貨取引所の顔認識を欺くことができる

生成AIディープフェイクは、偽情報を拡散したり、実在の人物の画像を不正な目的で操作したりする可能性がある。また、Cato Networksの10月9日付の調査レポートによると、脅威アクターが二要素認証を通過するのを助ける可能性もある。

AIがカメラを覗き込む偽の人物の動画を生成

Cato Networksがプロファイリングした脅威アクター（ハンドルネームはProKYC）は、ディープフェイクを用いて政府発行の身分証明書を偽造し、顔認識システムを偽装しています。この攻撃者は、ダークウェブ上でこのツールを詐欺師志望者に販売しており、最終的な目標は暗号通貨取引所への侵入です。

一部の取引所では、アカウント保有者に政府発行の身分証明書の提出とライブビデオ出演の両方を求めています。攻撃者は生成AIを駆使して、人物のリアルな顔画像を簡単に作成できます。そして、ProKYCのディープフェイクツールは、その画像を偽の運転免許証やパスポートに挿入します。

暗号資産取引所の顔認識テストでは、人物がカメラの前にいるという簡単な証明が必要です。ディープフェイクツールはカメラを偽装し、左右を向いている人物のAI画像を作成します。

参照: Meta は、フォトリアリスティックなビデオ用のツールを作成する最新の AI 大手です。

攻撃者は、生成された架空の人物の身元情報を用いて、仮想通貨取引所にアカウントを作成します。そこから、攻撃者はそのアカウントを利用して、不法に得た資金をロンダリングしたり、その他の詐欺行為を行ったりします。Javelin ResearchとAARPによると、この種の攻撃は「新規アカウント詐欺」と呼ばれ、2023年には53億ドルの損失が発生しました。

ネットワークに侵入する方法を販売することは目新しいことではありません。ランサムウェア・アズ・ア・サービスのスキームにより、意欲的な攻撃者はシステムへの侵入方法を購入できるようになります。

新規アカウント詐欺を防ぐ方法

Cato Networks のチーフ セキュリティ ストラテジストである Etay Maor 氏は、AI を使用した偽アカウントの作成を防ぐためのヒントを組織にいくつか提供しました。

• 企業は、AI が生成したビデオの共通の特徴、たとえば非常に高品質のビデオなどを探す必要があります。AI は、標準的なウェブカメラで通常キャプチャされるものよりも鮮明な画像を生成できます。
• AI が生成したビデオの不具合、特に目や唇の周りの不規則性がないか確認またはスキャンします。
• 組織全体から脅威インテリジェンス データを収集します。

過剰な監視と過剰な監視のバランスを取るのは難しいと、マオール氏はCato Networksの調査レポートで述べている。「前述のように、非常に制限の厳しい生体認証システムを構築すると、誤検知のアラートが多数発生する可能性があります」とマオール氏は述べている。「一方で、管理が緩いと詐欺につながる可能性があります。」

こちらもご覧ください

• 生成AI「脱獄」攻撃の20%が成功
• サイバーセキュリティに関する必読書10冊
• デロイト：サイバーセキュリティ専門家の4分の1だけが女性である理由
• サイバーセキュリティ：さらに読むべき記事