対抗AIの脅威が高まる中、ディープフェイク技術は2027年までに400億ドル市場に成長する見込み

ディープフェイクのリスク増加：企業への緊急の脅威

ディープフェイク技術は、敵対的AIの中でも最も強力な形態の一つとして急速に台頭しており、2023年の損失額は123億ドルから2027年には400億ドルに達する見通しで、年平均成長率は32%に上ります。デロイトによると、特に銀行および金融サービス分野におけるディープフェイクの普及が懸念されています。

過去1年間で、ディープフェイクの数は驚異的に3000%増加し、2024年には事例が50%から60%増加し、全世界で14万から15万件に達する見込みです。最新の生成AIアプリケーションは、攻撃者が迅速かつ安価にリアルなディープフェイク動画、模倣された音声、偽の文書を作成する手助けをしています。Pindropの2024年ボイスインテリジェンスとセキュリティレポートによれば、コンタクトセンターを狙ったディープフェイク詐欺により、企業は年間約50億ドルの損失を被っています。

ブルームバーグは、ダークウェブ上に迅速に拡大する詐欺ソフトウェア市場があると報じており、その価格は20ドルから数千ドルに及びます。また、Sumsubの2023年アイデンティティ詐欺レポートに基づいたインフォグラフィックは、AIを利用した詐欺が世界的に急増していることを示しています。

企業の備え：高まる懸念

敵対的AIが進化するにつれ、それは予期しない攻撃手段をもたらし、セキュリティの状況を複雑にしています。驚くべきことに、企業の3分の1がディープフェイクに関連するリスクに対抗する戦略を持っておらず、特に重要な幹部を狙った攻撃に脆弱です。Ivantiの2024年サイバーセキュリティレポートによれば、調査対象の企業の30%は敵対的AI攻撃の特定や防御の計画がないとしています。

調査の結果、74%の企業が既にAIを利用した脅威を実感しており、89%がこれらの脅威はまだ始まったばかりだと考えています。さらに、CISO、CIO、ITリーダーの60%がこうした攻撃に対する備えが不十分だと感じています。また、フィッシングやランサムウェアを含む広範な戦略の一環としてディープフェイクが使用されることが増えており、生成AIによるより洗練された脅威シナリオへの移行が見られます。

幹部を狙った新たな攻撃戦略

サイバーセキュリティ専門家は、ディープフェイクが容易に検出できるものからリアルな模倣へと進化しているという懸念を表明しています。業界の幹部たちは、国家レベルの攻撃者や大規模なサイバー犯罪組織が生成的敵対ネットワーク（GAN）技術に資源を投資していることを指摘しています。この攻撃の巧妙さは、世界最大の広告会社のCEOを狙った顕著な事件によって浮き彫りになっています。

クラウドストライクのCEOジョージ・カーツは、最近のウォールストリートジャーナルとのインタビューで、AIの進展がサイバーセキュリティの防御を強化すると同時に攻撃者の能力も拡大していることを語りました。「今日のディープフェイク技術は非常に優れており、本物と見分けがつきにくい」とカーツは強調します。国家による偽情報キャンペーンがもたらすリスクの重要性を訴えています。

クラウドストライクのインテリジェンスチームは、ディープフェイクがなぜ説得力を持つのかを研究し、この技術の進展を理解することに努めています。カーツは、情報が広がる様子を池の中の石の波紋に例え、重要なトピックが公の認識に与える影響を強調します。

企業への呼びかけ

企業は、敵対的AIの進化に迅速に対応できなければ、ディープフェイク攻撃に対する戦いで劣勢に立たされる危険があります。ディープフェイクがますます広がる中、アメリカ国土安全保障省は「ディープフェイクIDの脅威増加」と題したガイドを発表し、企業に防御を強化するよう促しています。

組織は、ディープフェイク技術によるリスクを軽減し、進行中のAIの軍備競争において先手を打つための積極的な戦略を策定することが重要です。