メンロ・セキュリティレポート：AI導入に伴うサイバーセキュリティ脅威の増加

新しい研究によると、メンロ・セキュリティは、企業における生成的AIの急速な導入がもたらすサイバーセキュリティの課題を明らかにしました。ChatGPTのようなツールが日常の業務に不可欠となる中、企業はセキュリティ戦略の見直しが求められています。

「従業員が日々の業務でAIを採用しています。我々の制御は、不正利用の防止だけでなく、無秩序なアクセスを防ぐ必要があります」と、メンロ・セキュリティのプロダクト・マーケティングVPであるアンドリュー・ハーディング氏は独占インタビューで述べました。「企業内での生成的AIの利用は大きく成長していますが、セキュリティやITチームは依然として困難に直面しています。CISOがリスク管理を行いながら、生成的AIの生産性向上を活用できる強力なツールが必要です。」

AI利用急増の中のリスク

メンロ・セキュリティの報告書は、企業における生成的AIサイトへの訪問が過去6ヶ月で100%以上も増加し、頻繁なユーザー数も64%増加したことを示しています。この急速な統合は新たな脆弱性を露呈しています。

多くの組織が生成的AIのセキュリティ対策を強化しているものの、研究者たちはほとんどが効果的でないドメインごとのポリシーを実施していると指摘しています。「組織はセキュリティを強化していますが、的外れです。ドメインベースで適用されたポリシーは不十分です」とハーディング氏は強調しました。

この断片的なアプローチは、新たな生成的AIプラットフォームの出現に追いついていません。報告書によれば、生成的AIサイトへのファイルアップロードの試みは、6ヶ月で80%増加しており、新しい機能が後押ししています。リスクはデータ喪失の可能性にとどまりません。

専門家たちは、生成的AIがフィッシング脅威を大幅に増大させる可能性があると警告しています。ハーディング氏は「AIを利用したフィッシングは、よりスマートなフィッシングです。企業はAIが引き起こす詐欺から守るためにリアルタイムの保護が必要です」と述べています。

新たな必要性への変化

生成的AIの急成長は、特にChatGPTの登場によって技術的な新奇性からビジネスの必要性へと変貌しました。OpenAIは2018年6月に最初の生成的AIシステムであるGPT-1を発表し、その後、Google Brainの5400億パラメーターを持つPaLMが2022年4月に登場しました。

2021年初頭にDALL-Eが導入されたことで一般の関心が高まりましたが、ChatGPTの登場（2022年11月）が広範なエンゲージメントを引き起こしました。ユーザーは、メール作成からコードデバッグまで、さまざまなタスクにこれらのツールを迅速に取り入れ始め、その多様性を示しています。

しかし、この急速な統合は、しばしば見落とされる重大なリスクを伴います。生成的AIシステムは、トレーニングに使用されるデータと同じくらい安全かつ倫理的に正確である必要があります。それにより、意図せぬ偏見を露呈したり、誤情報を広めたり、敏感な情報を公開してしまう可能性があります。

さらに、これらのモデルは膨大なインターネットの情報を取り込み、どのコンテンツが取り込まれるかを制御する上での課題を生じさせます。もし機密情報が公開されれば、AIシステムはそれを無意識に取り込み、後に明らかにしてしまうことがあります。

セキュリティと革新のバランス

セキュリティと革新を効果的に両立させるために、専門家たちは多層的なアプローチを提唱しています。ハーディング氏は「コピー＆ペーストの制限、セキュリティポリシーの設定、セッションの監視、および生成的AIプラットフォーム全体でのグループレベルの制御の実施」を進めています。

組織は過去の技術の変革から学ぶべきです。クラウドコンピューティングやモバイルデバイスなどの技術は新たなリスクを内包しており、セキュリティ戦略の継続的な適応を促してきました。同じプロアクティブなアプローチが生成的AIにも必要不可欠です。

行動を起こす時は今です。「生成的AIサイトへの訪問とアクティブユーザーは増加していますが、セキュリティとITチームは依然として課題に直面しています」とハーディング氏は警告します。

企業は、生成的AIの急速な導入に合わせてセキュリティ戦略を迅速に進化させ、リスクが制御を超えないようにすることが求められます。セキュリティと革新のバランスを取ることが不可欠です。