対抗的AIが深層偽造の世界で信頼を侵食する方法

デジタルプライバシーとAIにおける信頼のギャップの拡大

アメリカ人の87%がデジタルプライバシーに関して企業に説明責任を求めている一方で、34%のみが企業がAIを効果的に利用して詐欺と戦っていると信じています。このことから、大きな信頼のギャップが浮き彫りになっています。セキュリティと詐欺防止にAIを導入している企業は51%ですが、実際にグローバルな顧客の43%が企業がこれらの問題に適切に対処していると信じているに過ぎません。これは、企業がこの信頼ギャップを埋め、AIを活用したセキュリティ対策が信頼を醸成することが急務であることを示しています。特に、ディープフェイクの増加がこの問題を悪化させています。

信頼のギャップの理解

拡大しつつある信頼のギャップは、長年の顧客関係から主要な民主主義国家の選挙の信頼性にまで影響を及ぼしています。Telesignの2024年の信頼指数は、この拡大する分断を明らかにし、信頼に対する懸念が消費者行動や国の選挙プロセスにどのように影響しているかを示しています。

ディープフェイクと誤情報の影響

ディープフェイクや誤情報は、企業、その顧客、および選挙に参加する市民との間に重大な不信感を生んでいます。Adobeのコンテンツ認証イニシアチブのシニアディレクター、アンディ・パーソンズは、「ディープフェイクに騙されてしまうと、オンラインで見たものを信じられなくなる。人々がフィクションと事実を区別できないとき、民主主義は危機にさらされる」と警告しています。

ソーシャルメディアを通じてディープフェイクが簡単に拡散されること、特に自動化されたアカウントによって促進されることは、リアルなコンテンツとフェイクを見分ける障害を一層難しくしています。2020年9月には、GraphikaとFacebookが地政学的問題に関する誤解を招くコンテンツを発信していた中国のアカウントネットワークを閉鎖する事例もありました。国家もよく誤情報キャンペーンに投資し、民主主義を不安定化させ、社会の不安を煽っています。

アメリカの情報機関の2024年年次脅威評価では、「ロシアはAIを利用して専門家を巧みに騙すことができるディープフェイクを作成しており、政治的に不安定な地域の個人を標的にして有害な影響を与えている」と指摘。攻撃者は生成対抗ネットワーク（GAN）によって強化された高度なディープフェイク技術を利用して、世界中の有権者に影響を及ぼしています。

Telesignの信頼指数によると、72%の世界の有権者がAI生成のディープフェイクが選挙の信頼性を損ねていると懸念しており、81%のアメリカ人が同様の恐れを表明しています。さらに、45%のアメリカ人は過去1年の間にAI生成の政治コンテンツに出会ったと答えており、17%は過去1週間にそのような内容を見たと述べています。

AIと機械学習への信頼

選挙を乱すAIの悪用に対する懸念がある中で、Telesignの信頼指数は明るい兆しも示しています。71%のアメリカ人は、サイバー攻撃や詐欺の軽減にAIと機械学習（ML）が利用されれば、選挙の結果に対する信頼が高まると考えています。

GANとディープフェイクのメカニズム

生成対抗ネットワーク（GAN）は、ディープフェイクコンテンツのリアルさを高める原動力です。無法者から高度な国家的アクターまで、GANは本物に見えるビデオや音声の複製を作成するために使用されています。ディープフェイクがより信じられるものになるほど、顧客および有権者の信頼が損なわれる可能性が高まります。この技術はフィッシング攻撃やソーシャルエンジニアリングに利用されることが多く、警戒が求められています。ニューヨーク・タイムズでは、読者が本物とAI生成の画像を見分ける能力を試すクイズも提供しており、GAN技術の急速な進歩を示しています。

GANは、生成器が合成データを作成し、識別器がそのリアリズムを評価するという二つの競合する神経ネットワークから成り立っています。生成器は出力の質と信頼性を向上させることを目指しており、その結果、ディープフェイクを検出することがますます困難になり、社会における信頼が脅かされています。

ディープフェイクの世界における信頼の保護

TelesignのCEOクリストフ・ヴァン・デ・ウェイヤーは、デジタル時代における信頼の重要性を強調し、「AIが進化する中で、個人データや組織データを保護するためにAIによる詐欺対策ソリューションを優先させる必要がある」と述べています。Telesignは、2,200以上のデジタルアイデンティティ信号から得られたインサイトを活用し、信頼を強化し、安全な取引を実現しており、毎月数百万件の不正行為を防いでいます。

Telesignの信頼指数によると、成功したデジタル侵入の驚くべき99%は、多要素認証（MFA）がないアカウントで発生しています。堅牢なMFA戦略を導入することは、侵入を防ぎ、顧客の信頼を維持するために不可欠です。調査によれば、多くの元従業員が依然として企業の機密データへのアクセス権を持ち続けており、効果的なアイデンティティおよびアクセス管理（IAM）の重要性が浮き彫りになっています。

結論: ディープフェイクの脅威の中で信頼を守る

Telesignの信頼指数は、特にIAMおよびMFAの実践において、既存の信頼ギャップを解消する必要があることを示しています。GAN技術の進歩が欺瞞コンテンツの創造能力を高める中、CISOにとってはセキュリティ対策を強化することが重要です。ほぼすべての侵入は、妥協したアイデンティティから始まるため、企業はこの脆弱性を保護することを最優先しなければなりません。