生成AIは数秒でSonnetを作成できる一方で、個人、組織、政府の評判を深刻に損なうアイデンティティ詐欺を助長しています。AU10TIXの2023年第2四半期国際アイデンティティ詐欺報告によると、米国における組織的なアイデンティティ詐欺は、従来の四半期と比較して44%増加しています。
AU10TIXのレポートは、AI駆動の詐欺検出ソリューションから得られたデータで構成されています。特に、Serial Fraud Monitorというツールは、専門的な組織的攻撃やさまざまな攻撃手法の増加を記録しており、特に仮想通貨取引や決済などの脆弱なセクターに焦点を当てています。この急増は、私たちのデジタル化が進む世界と直接的に関連しており、金融サービス、消費者、セキュアな相互作用を保障するテクノロジー間で信頼を築くことが一層難しくなっています。これは生成AIによって悪化しています。
「大規模言語モデルと生成AIは、詐欺師が正当なアイデンティティを巧妙に模倣できる能力を与え、偽造と本物を区別するのを困難にしています」とAU10TIXのCEOダン・エルシャルミは述べています。
「詐欺師は単にいくつかのアカウントを開設するだけではありません。彼らは数週間から数ヶ月にわたって広範な集団攻撃を行い、重大な被害をもたらします」とAU10TIXの最高ビジネス開発責任者オファー・フリードマンは付け加えます。「組織はより大きな影響に直面し、しばしば圧倒される感覚を抱いています。」
消費者は安全性とコントロールの向上を求めており、利便性よりも安全を優先しています。これに対応できない組織は顧客の信頼を失うリスクがあります。
生成AIが詐欺に与える影響
「生成AIは詐欺師に膨大なデータを提供し、彼らの手法を無限に適応させる能力を与えています」とエルシャルミは説明します。「これは手軽でコスト効果が高く、新たなプレイヤーがサイバー攻撃ツールを活用することを促しています。」
生成AIは、ディープフェイクを用いてリアルな画像や音声、動画を作成し、高度な社会工学やフィッシング詐欺を実行することで、詐欺に影響を与えています。詐欺師はディープフェイクを使って偽のアカウントを作成したり、アイデンティティの確認を回避したり、生体認証システムを欺く手法を用いたりします。
さらに、生成AIは詐欺師が完全なアイデンティティを偽造することを可能にします。「詐欺師は他の業界よりも早くAI技術を採用しています」とフリードマンは述べます。「この技術は詐欺検出のダイナミクスを変化させています。以前は操作の兆候を特定することが重要でしたが、今では完全に偽造されたアイデンティティの検出が重要です。」
合成ID（盗まれた社会保障番号、名前、住所、偽情報の組み合わせ）は、検証チェックを通過することが可能です。これらの進化したデジタル人格は正当な人間の行動を模倣し、検出を難しくし、クレジット詐欺、アカウント乗っ取り、マネーロンダリングなどの組織的詐欺の道を開いています。
AIツールによる詐欺対策
では、組織はどのようにほぼ検出不可能な詐欺に対抗するのでしょうか？フリードマンは、生成AIによる検出能力を既存のセキュリティに強化することを提案しています。「これらの脅威に対抗するためには、詐欺とその加害者を多面的に評価するための多層的な検出戦略を実施することが不可欠です。」
AIのディープフェイク検出は、アルゴリズムを用いて操作されたコンテンツを特定し、顔の変形やライティングの不一致などの要素を評価します。生体マーカー（顔のランドマークや声のパターン）を統合することで、さらに厳密な検査が可能になります。
組織は自動化されたAIおよび機械学習によるアイデンティティ検証システムを導入し、高度なネットワークトラフィックレベルでの洗練された組織的攻撃を検出するための強固な層を追加するべきです。高度なニューラルネットワークは微妙な詐欺パターンをリアルタイムで分析し、計画的な介入を可能にします。AU10TIXのSerial Fraud Monitorは、さまざまな大規模機関からの匿名化データを集約し、高度な詐欺パターンの特定を助けます。
エルシャルミは、生成AIが詐欺の能力と検出の両方を向上させる一方で、従来のアルゴリズムを見逃してはならないと強調します。「機械学習、AI、基礎的な技術を組み合わせたバランスの取れたアプローチが最適な結果をもたらします。」
詐欺防止の最適化は不可欠です。顧客はますますセキュリティを重視する反面、シームレスなユーザー体験も求めています。「ユーザーは、プロセスに満足できないと別の選択肢を選ぶため、すぐに撤退します」とエルシャルミは警告します。「彼らはすぐに忍耐を失い、認証に保護技術を統合することは、ユーザー体験を損なうことなく保護を強化しなければなりません。」
顧客信頼の維持
顧客を詐欺から守ることは、組織の法的かつ倫理的な義務であり、ビジネスの生存に不可欠です。この義務は、顧客を財政的な損失から守ることと、信頼と忠誠を育むことを含みます。また、世界中での複雑な詐欺に立ち向かうには、組織間の連携が重要です。
「組織は全球的に詐欺に立ち向かうために団結しなければなりません。AU10TIXはこの取り組みを支援し、信頼を構築することに尽力しています」とエルシャルミは主張します。「新しい技術と生成AIが進化し続ける中で、私たちはデジタル環境で信頼できるパートナーであり続けることに尽力しています。」
ランキング
