企業が人工知能（AI）や機械学習（ML）ツールにますます依存する中、取引件数は驚異的に600%増加しました。2023年4月の5億2100万件から2024年1月には31億件に達しました。しかし、セキュリティに対する懸念が高まる中、組織はAI/ML取引の18.5%をブロックしており、この数値は9ヶ月で577%の増加を示しています。
最高情報セキュリティ責任者（CISO）とその守る組織は、慎重なアプローチを取る正当な理由があり、ブロックされたAI/ML取引の数は過去に例を見ないレベルに達しています。攻撃者は大規模な言語モデル（LLM）を悪用し、組織に侵入する手法を用いるようになり、この逆向きのAIは見逃されがちな新たな脅威となっています。
ZscalerのThreatLabzが発表した2024年AIセキュリティレポートによれば、企業は拡大するAI/MLツールを保護するためにスケーラブルなサイバーセキュリティ戦略を採用する必要があります。レポートで指摘されている主な問題は、データ保護、AIデータ品質管理、プライバシーの懸念です。ThreatLabzは2023年4月から2024年1月までの180億件以上の取引を分析し、さまざまな分野におけるAIおよびMLツールの使用状況を調査しました。
医療、金融、保険、サービス、技術、製造業は、AI/MLツールの採用が進む一方で、サイバー攻撃に対する脆弱性も増しています。製造業は取引の20.9%を占め、AIトラフィックの最大ボリュームを生成しています。次いで金融・保険が19.9%、サービスが16.8%となっています。
取引をブロックすることは迅速な一時的対応を示しています
CISOとそのチームは潜在的なサイバー攻撃から守るため、記録的な数のAI/ML取引をブロックしています。この予防的措置は高リスクセクターをサイバー脅威の波から守ることを目的としています。
現在、最も利用されブロックされているAIツールはChatGPTで、次いでOpenAI、Fraud.net、Forethought、Hugging Faceが続きます。ブロックされた主なドメインはBing.com、Divo.ai、Drift.com、Quillbot.comです。2023年4月から2024年1月までの間に、企業は26億件以上の取引をブロックしました。
製造業はAI取引のわずか15.65%をブロックしており、サイバー攻撃、とりわけランサムウェアに対する脆弱性を考えると、非常に懸念される数字です。一方、金融と保険業界は37.16%をブロックしており、データのセキュリティとプライバシーに対する懸念が高まっています。驚くべきことに、医療業界はAI取引のわずか17.23%をブロックしており、敏感なデータの保護への取り組みが疑問視されています。
医療や製造業などの重要な分野での中断は、重大なランサムウェアの支払いにつながる可能性があります。最近のユナイテッドヘルスケアのランサムウェア攻撃は、協調的な攻撃がいかにして供給チェーン全体を機能不全に陥れるかを示す一例です。
ブロックははるかに大きな課題への短期的解決策
企業は単に取引をブロックするだけでなく、高度なサイバーセキュリティプラットフォームのテレメトリ機能を活用すべきです。CrowdStrike、Palo Alto Networks、Zscalerなどがテレメトリデータから得た洞察を促進しています。
CrowdStrikeのCEOジョージ・カーツは、異なるエンドポイントからの微弱信号をつなげて検出能力を向上させることの重要性を強調しました。このアプローチは第三者との協力にも及び、より深い洞察と新たな検出を可能にします。
AIに関する広範な専門知識と数十年の経験を持つ主要なサイバーセキュリティベンダーには、Blackberry Persona、Broadcom、Cisco Security、CrowdStrike、CyberArk、Cybereason、Ivanti、SentinelOne、Microsoft、McAfee、Sophos、VMware Carbon Blackが含まれます。これらの企業は、攻撃者が使用する高度な手法に合ったAI駆動型攻撃データを用いてLLMを訓練する可能性が高いです。
新たな致命的なAI脅威の風景が現れた
Zscalerのレポートによれば、AI駆動のリスクは、企業のAIツールに関連するデータ保護およびセキュリティのリスクと、生成AIや自動化によって期待される新たなサイバー脅威の風景に分類されます。
CISOは、レポートで示されたさまざまなAI攻撃手法に対抗するための厳しい課題に直面しています。ChatGPTの利用における従業員の過失を解決し、機密データが誤って共有されないようにすることは、経営陣にとって重要な議題となるべきです。リスク管理を優先することは、堅牢なサイバーセキュリティ戦略にとって不可欠です。
ChatGPTを介した知的財産の漏洩防止、シャドウAIの制御、データプライバシーとセキュリティの確保は、成功するAI/ML戦略の重要な要素です。
前年度、ナショナル・オイルウェル・バルコ（NOV）のCIOアレックス・フィリップスは、生成AIに関する洞察を経営陣に共有し、ChatGPTの利点とリスクの理解の重要性を強調しました。フィリップスは、生成AI技術の進展について定期的に経営陣に情報提供し、重大な違反を防ぐために必要なセキュリティ対策に対する期待感を高めています。
生産性とセキュリティのバランスを取ることは、新たなAI脅威の風景に対処する上で極めて重要です。ZscalerのCEOは、攻撃者が彼を偽装したボイスフィッシングやSMSフィッシングの試みに直面し、従業員を騙して機密情報を明かさせようとしたことを報告しました。幸い、Zscalerのシステムがその攻撃を阻止し、これは経営層や技術リーダーを狙った傾向の高まりを示しています。
攻撃者は急速にAIを利用して、迅速なランサムウェア攻撃を展開しています。Zscalerの報告によれば、AI駆動のランサムウェアは国家主導のハッカーの武器庫にあり、その頻度は増加しています。生成AIを用いることで、攻撃者は組織のファイアウォールやVPNに関連する脆弱性の完全なテーブルを作成し、コードの悪用を最適化して特定の環境に合わせたペイロードを仕込むことが可能です。
さらに、Zscalerは生成AIが企業のサプライチェーン内の弱点を特定し、コアネットワークへの最適な接続経路を明らかにできる方法を強調しています。強固なセキュリティ対策が存在する場合でも、下流の脆弱性が最も大きなリスクをもたらすことがよくあります。攻撃者は生成AIを活用し続け、その戦術を洗練させており、ますます困難な稼働状況を突き止めています。
最終的に、敵はランサムウェア攻撃チェーン全体に生成AIを組み込むことを目指しており、偵察とコードの悪用を自動化し、高度なポリモーフィックマルウェアやランサムウェアを生成します。攻撃プロセスの重要な部分を効率化することで、脅威アクターは企業に対して迅速かつターゲットを絞った、洗練された攻撃を実行できるようになります。
ランキング
