As empresas estão cada vez mais dependendo de ferramentas de inteligência artificial (IA) e aprendizado de máquina (ML), com um aumento nas transações de quase 600%. Esse crescimento saltou de 521 milhões em abril de 2023 para 3,1 bilhões em janeiro de 2024. Em resposta às crescentes preocupações com a segurança, as organizações bloquearam 18,5% de todas as transações de IA/ML, refletindo um impressionante aumento de 577% em nove meses.
Os CISOs e as organizações que protegem têm motivos válidos para sua abordagem cautelosa, o que resulta em níveis sem precedentes de transações de IA/ML bloqueadas. Os atacantes se adaptaram, utilizando modelos de linguagem de grande porte (LLMs) para infiltrar organizações de forma furtiva. Essa ascensão da IA adversarial representa uma ameaça crescente que frequentemente passa despercebida.
De acordo com o Relatório de Segurança em IA da ThreatLabz 2024 da Zscaler, as empresas precisam adotar estratégias de cibersegurança escaláveis para proteger suas ferramentas de IA/ML em expansão. Os principais problemas destacados no relatório incluem proteção de dados, gestão da qualidade dos dados de IA e preocupações com a privacidade. Analisando mais de 18 bilhões de transações de abril de 2023 a janeiro de 2024, a ThreatLabz examinou o uso atual de ferramentas de IA e ML em diversos setores.
Setores como saúde, finanças, seguros, serviços, tecnologia e manufatura experimentam tanto uma adoção significativa de ferramentas de IA/ML quanto uma vulnerabilidade aumentada a ciberataques. O setor de manufatura gera o maior volume de tráfego de IA, representando 20,9% das transações, seguido de perto por finanças e seguros com 19,9% e serviços com 16,8%.
Bloquear transações representa uma resposta temporária e rápida. Na busca por proteção contra possíveis ciberataques, os CISOs e suas equipes estão bloqueando números recordes de transações de IA/ML. Essa medida proativa visa proteger setores de alto risco de uma onda de ameaças cibernéticas.
Atualmente, o ChatGPT é a ferramenta de IA mais utilizada e bloqueada, seguido pela OpenAI, Fraud.net, Forethought e Hugging Face. Os principais domínios bloqueados incluem Bing.com, Divo.ai, Drift.com e Quillbot.com. Entre abril de 2023 e janeiro de 2024, as empresas bloquearam mais de 2,6 bilhões de transações.
A manufatura bloqueia apenas 15,65% das transações de IA, um número preocupantemente baixo considerando sua suscetibilidade a ciberataques, especialmente ransomware. Em contraste, o setor de finanças e seguros bloqueia 37,16% das transações, refletindo preocupações elevadas com a segurança de dados e privacidade. Alarmantemente, a indústria de saúde bloqueia apenas 17,23% das transações de IA, levantando questões sobre seu compromisso em proteger dados confidenciais.
Disrupções em setores críticos como saúde e manufatura podem resultar em altos pagamentos de ransomware. O recente ataque de ransomware à United Healthcare ilustra como uma ofensiva coordenada pode incapacitar cadeias de suprimento inteiras.
O bloqueio é uma solução de curto prazo para um desafio muito maior. Para ir além do simples bloqueio, as organizações devem aproveitar as capacidades de telemetria das plataformas avançadas de cibersegurança. CrowdStrike, Palo Alto Networks e Zscaler estão entre aquelas que promovem insights derivados de dados de telemetria.
O CEO da CrowdStrike, George Kurtz, destacou a importância de vincular sinais fracos de diversos pontos finais para aprimorar as capacidades de detecção. Essa abordagem se estende às colaborações de terceiros, permitindo insights mais profundos e detecções inovadoras.
Os principais fornecedores de cibersegurança com vasta experiência em IA e décadas de atuação em ML incluem Blackberry Persona, Broadcom, Cisco Security, CrowdStrike, CyberArk, Cybereason, Ivanti, SentinelOne, Microsoft, McAfee, Sophos e VMware Carbon Black. Essas empresas provavelmente treinarão seus LLMs utilizando dados de ataques orientados por IA para igualar os métodos sofisticados empregados pelos atacantes.
Um novo e mais letal cenário de ameaças de IA emergiu. Segundo o relatório da Zscaler, os riscos impulsionados por IA podem ser categorizados em duas áreas principais: os riscos de proteção e segurança de dados associados às ferramentas de IA empresariais e o novo cenário de ameaças cibernéticas alimentado por IA generativa e automação.
Os CISOs enfrentam desafios formidáveis para se proteger contra várias técnicas de ataque em IA abordadas no relatório. Abordar a negligência dos funcionários ao utilizar o ChatGPT e garantir que dados confidenciais não sejam compartilhados inadvertidamente devem ser questões críticas em discussões de nível de conselho. Priorizar a gestão de riscos é essencial para qualquer estratégia robusta de cibersegurança.
Proteger a propriedade intelectual contra vazamentos via ChatGPT, controlar a IA sombra e alcançar privacidade e segurança de dados são componentes integrais para uma estratégia bem-sucedida de IA/ML. No ano passado, Alex Philips, CIO da National Oilwell Varco (NOV), compartilhou insights sobre IA generativa com seu conselho, enfatizando a importância de entender tanto as vantagens quanto os riscos do ChatGPT. Philips atualiza regularmente o conselho sobre desenvolvimentos em tecnologias de IA generativa, promovendo uma expectativa informada sobre as medidas de segurança necessárias para evitar violações significativas.
Encontrar um equilíbrio entre produtividade e segurança é vital para lidar com os desafios impostos pelo novo cenário de ameaças de IA. O CEO da Zscaler enfrentou uma tentativa de vishing e smishing, onde atacantes se passaram por ele em mensagens no WhatsApp, tentando enganar um funcionário a revelar informações sensíveis. Felizmente, os sistemas da Zscaler impediram o ataque, o que indica uma tendência crescente de alvos em executivos e líderes de tecnologia.
Os atacantes estão cada vez mais utilizando IA para orquestrar ataques de ransomware em ritmo acelerado. A Zscaler relata que o ransomware impulsionado por IA é uma ferramenta nos arsenais de hackers apoiados por estados-nação, com frequência em ascensão. Ao empregar IA generativa, os atacantes criam tabelas abrangentes de vulnerabilidades associadas aos firewalls e VPNs de uma organização. Essa inteligência permite otimizar explorações de código, personalizando cargas úteis para ambientes específicos.
Além disso, a Zscaler destaca como a IA generativa pode identificar vulnerabilidades na cadeia de suprimentos empresariais, revelando caminhos de conexão ideais para a rede central. Embora medidas de segurança robustas possam estar em vigor, vulnerabilidades a montante frequentemente representam os maiores riscos. Os atacantes refinam continuamente suas táticas utilizando IA generativa, levando a ataques sofisticados e direcionados que são cada vez mais desafiadores de detectar.
Em última análise, os adversários visam incorporar a IA generativa em toda a cadeia de ataques de ransomware, automatizando a reconhecimento e exploração de código para gerar malware e ransomware polimórfico avançado. Ao simplificar componentes críticos do processo de ataque, os agentes de ameaça conseguem executar ataques mais rápidos, direcionados e sofisticados contra empresas.
Classificação
