CISOs e CIOs estão avaliando os benefícios de utilizar a IA generativa como um motor de aprendizado contínuo, capaz de capturar dados comportamentais, telemetria, informações sobre intrusões e brechas em relação aos riscos associados. O objetivo é estabelecer uma nova “memória muscular” de inteligência sobre ameaças para aprimorar a previsão de brechas e melhorar os fluxos de trabalho de SecOps.
No entanto, a confiança na IA generativa continua dividida. Conversas recentes com CISOs de diversos setores de manufatura e serviços revelam que, apesar dos ganhos potenciais de produtividade nas áreas de marketing, operações e segurança, as preocupações com a propriedade intelectual comprometida e a confidencialidade de dados são questões prioritárias levantadas pelos membros do conselho.
Uma pesquisa recente da Deep Instinct, intitulada "IA Generativa e Cibersegurança: O Futuro Brilhante do Campo de Batalha Empresarial?", quantifica as percepções coletadas em entrevistas com CISOs. A pesquisa indica que, embora 69% das organizações tenham adotado ferramentas de IA generativa, 46% dos profissionais de cibersegurança acreditam que essas ferramentas aumentam a probabilidade de ataques. Impressionantes 88% dos CISOs e líderes de segurança afirmam que ataques com IA armada são inevitáveis.
Cinquenta e cinco por cento dos entrevistados suspeitam que ataques recentes foram potencializados por IA generativa, especialmente com o surgimento do WormGPT, uma ferramenta de IA generativa divulgada em fóruns clandestinos para ataques de phishing e comprometimento de e-mails empresariais. Ferramentas como o FraudGPT rapidamente ganharam popularidade na dark web, evidenciando a rápida comercialização da IA armada.
Sven Krasser, cientista chefe e vice-presidente sênior da CrowdStrike, observou que os atacantes estão acelerando a armação de grandes modelos de linguagem (LLMs) e IA generativa. Embora isso aumente a frequência e o volume de ataques, Krasser enfatiza que não melhora fundamentalmente a qualidade desses ataques. Ele sugere que a segurança baseada em nuvem, utilizando IA para correlacionar sinais globais, pode combater eficazmente essas ameaças em evolução.
Max Heinemeyer, diretor de caçada a ameaças da Darktrace, alerta que as empresas devem implementar IA cibernética para defesa antes que a IA ofensiva se torne comum. Ele afirma que, quando o conflito se transforma em algoritmos lutando entre si, apenas respostas autônomas em velocidades de máquina conseguirão neutralizar os ataques aprimorados por IA.
O mercado de aplicações de IA generativa está se expandindo rapidamente. A capacidade da IA generativa de aprender continuamente é especialmente vantajosa para analisar os vastos dados gerados por dispositivos finais. Espera-se que as atualizações constantes nos algoritmos de avaliação de ameaças e priorização de riscos resultem em novos casos de uso que os CISOs e CIOs esperam que melhorem a previsão de ameaças. Por exemplo, a parceria entre Ivanti e Securin visa oferecer priorização de riscos em tempo real e aprimorar as posturas de segurança.
A colaboração entre Ivanti e Securin combina a Inteligência de Vulnerabilidade (IV) da Securin com Neurons da Ivanti para criar um ecossistema de inteligência de ameaças quase em tempo real. Dr. Srinivas Mukkamala, diretor de produtos da Ivanti, destaca os benefícios da inteligência humana augmentada por IA na entrega de uma inteligência de ameaças completa e priorização de riscos.
O mercado de cibersegurança com IA generativa deve disparar de US$ 1,6 bilhão em 2022 para US$ 11,2 bilhões até 2032, refletindo uma taxa de crescimento anual composta (CAGR) de 22%. A Canalys prevê que a IA generativa sustentará mais de 70% das operações de cibersegurança nos próximos cinco anos.
A Forrester categoriza os casos de uso da IA generativa em três áreas principais: criação de conteúdo, previsão de comportamento e articulação de conhecimento. Allie Mellen, analista principal da Forrester, ressalta que, embora a integração de IA e aprendizado de máquina em ferramentas de segurança não seja nova, está evoluindo para utilizar dados históricos e metodologias de pontuação de risco de forma mais eficaz.
A Gartner prevê que 80% das aplicações apresentarão capacidades de IA generativa até 2026, indicando uma adoção rápida entre as organizações. Os CISOs enfatizam que a adaptabilidade de uma plataforma é crucial para maximizar o valor das aplicações de IA generativa, especialmente na melhoria de estruturas de segurança de zero-trust.
Para integrar efetivamente a IA generativa em um framework de zero-trust, os CISOs recomendam a segurança de todas as aplicações, plataformas, ferramentas e dispositivos finais através de monitoramento contínuo, controles de acesso dinâmicos e verificações recorrentes. A incorporação de IA generativa pode introduzir novos vetores de ataque, levando os CISOs a priorizar defesas contra ataques de consulta, injeções de prompt, manipulação de modelos e envenenamento de dados.
A gestão do conhecimento utilizando IA generativa está emergindo como um caso de uso chave, substituindo projetos prolongados e caros de integração de sistemas. Na RSAC 2023, vários fornecedores lançaram soluções baseadas em ChatGPT, incluindo Google Security AI Workbench, Microsoft Security Copilot, entre outros, demonstrando a tendência em direção à segurança melhorada pela IA.
A introdução da Charlotte AI pela CrowdStrike visa amplificar a produtividade para analistas de segurança, automatizando tarefas repetitivas e aprimorando os processos de detecção de ameaças utilizando IA conversacional. Prevista para ser lançada no próximo ano, a Charlotte AI captura interações em tempo real para rastrear ameaças de forma eficaz.
Os erros de configuração na nuvem continuam sendo um alvo significativo para os atacantes, com incidentes de exploração aumentando 95% ano após ano. Em resposta a esse cenário de ameaças crescente, especialistas preveem um aumento nas atividades de fusões e aquisições visando melhorar a segurança em nuvem múltipla e híbrida. A aquisição da Bionic pela CrowdStrike exemplifica essa tendência, reforçando a importância da IA generativa no fortalecimento das iniciativas gerais de cibersegurança.
Classificação
