マカフィー、AI音声模倣詐欺対策プロジェクト「モッキンバード」を始動

マカフィー、プロジェクト・モッキンバードを発表：AI生成のディープフェイク音声詐欺に対する防御策

AI駆動の詐欺の脅威が高まる中、マカフィーは消費者をサイバー犯罪者から保護するためのAIベースのディープフェイク音声検出技術「プロジェクト・モッキンバード」を発表しました。この技術は、偽情報を広めたり詐欺を実行するために音声を操作する犯罪から、一般の人々を守ることを目的としています。

2024年CESで発表されたプロジェクト・モッキンバードは、ユーザーが誤解を招くディープフェイク音声から自らを守る手助けをします。マカフィーのCTO、スティーブ・グロブマンによると、ディープフェイク詐欺ではニュースキャスターなどの有名な話者がフィーチャーされ、その声が改ざんされて発言していない内容を言わせることがよくあるとのことです。「マカフィーは常にデジタルの脅威から消費者を保護することに注力してきました。生成AIの出現に伴い、サイバー犯罪者がこれらの技術を悪用して様々な詐欺を実行する姿が見られます」とグロブマンは述べています。

選挙シーズンが近づく中、生成AIがデマキャンペーンで果たす役割への懸念が増しています。マカフィーは、顧客が本物の動画と操作された動画を区別できるよう、技術を強化することに尽力しています。ディープフェイクが他のハッキングされたコンテンツと融合する可能性があるため、識別の努力は特に難しくなっています。

グロブマンは、インソムニアック・ゲームズの例を挙げ、ハッカーが私的データを漏洩させたケースを紹介しました。ディープフェイク音声が実際のハッキングされた映像にシームレスに統合され、消費者にとっての曖昧さが増す可能性があります。

プロジェクト・モッキンバードは、音声トラックが本当にその人物に属しているかどうかを判断するために高度なAI技術を活用しています。話された言葉を分析することで、生成AIが作成する説得力のあるディープフェイク音声の驚異的な傾向に対処します。ビデオディープフェイクが注目を集める中、グロブマンは、音声の偽造が新たな課題をもたらしていると強調しました。

AI技術の進化により、サイバー犯罪者は誤解を招くコンテンツを作成し、音声や動画が操作されることを利用した詐欺が増えています。これには、愛する人の声をクローンして成りすますものや、本物の動画に偽の音声を重ねる手法が含まれ、消費者の判断力が脅かされています。

この急務に応える形で、マカフィー・ラボはAI生成音声を90%以上の精度で検出できる高精度のAIモデルを開発しました。このモデルは、文脈的、行動的、カテゴリ的な検出技術を組み合わせて、効果的にユーザーを保護します。「この技術は、特にAI生成の詐欺が広がる中で、ユーザーが自信を持ってデジタルインタラクションを行うために重要です」とグロブマンは強調しました。「私たちのディープフェイク音声検出能力を活用し、消費者が本物と詐欺を迅速に見分けられるようサポートし、プライバシーやアイデンティティを守る手助けをします。」

CES 2024では、マカフィーがプロジェクト・モッキンバードをデモンストレーションし、その能力を来場者に披露しました。この取り組みは、消費者をデジタル脅威から守るために設計されたAIモデルの堅固なポートフォリオを提供するという同社のコミットメントを示しています。

模倣することで知られるモッキンバードの行動に触発され、マカフィーはこれらの鳥と消費者を欺くサイバー犯罪者との類似性を強調しています。2023年12月のマカフィーの調査では、ディープフェイク技術に対する広範な懸念が浮き彫りになっています。回答者の68%が前年に比べて高まった不安を示し、33%がディープフェイク詐欺に対する認識があると答えています。主要な懸念には、選挙への干渉やサイバーいじめ、著名な公人の成りすましが含まれています。

「重要な選挙サイクルを前に、ディープフェイク技術が公共の議論に影響を与えることへの懸念は正当です」とグロブマンは指摘しました。「私たちのAIは、人の目には見えない微妙な特徴を識別し、消費者が本物と操作されたコンテンツを区別できるようにします。」

マカフィーの検出技術は、未加工の動画データを分析し、機械学習モデルを用いてコンテンツの正当性を判断します。このシステムは以前にマルウェア検出に使用され、深く改変された音声や動画を識別するように適応しています。

ますます複雑化するデジタル環境を乗り越えるために、グロブマンは消費者の懐疑心とディープフェイク技術についての教育が重要であると強調しました。「消費者には、何かが違和感を覚える場合、それがAI生成の可能性があることを認識してほしいです。私たちの目標は、信頼できる技術を提供し、欺瞞コンテンツを識別できるようにし、安全なデジタル体験を確保することです。」

プロジェクト・モッキンバードは、AIによる操作の脅威に対するマカフィーの積極的な対応を示しており、実験段階を超えて製品提供の中核を形成しています。