Los CISOs y CIOs están evaluando los beneficios de aprovechar la inteligencia artificial generativa como un motor de aprendizaje continuo que captura datos de comportamiento, telemetría, intrusiones e información sobre brechas, frente a los riesgos asociados. El objetivo es establecer una nueva "memoria muscular" de inteligencia sobre amenazas para mejorar la predicción de brechas y optimizar los flujos de trabajo de SecOps.
Sin embargo, la confianza en la inteligencia artificial generativa está dividida. Conversaciones recientes con CISOs de diversos sectores de manufactura y servicios revelan que, a pesar de las posibles ganancias en productividad en marketing, operaciones y seguridad, las preocupaciones sobre la propiedad intelectual comprometida y la confidencialidad de los datos son los principales problemas señalados por los miembros de la junta.
La reciente encuesta de Deep Instinct, "Inteligencia Artificial Generativa y Ciberseguridad: ¿Un Futuro Brillante para el Campo de Batalla Empresarial?", cuantifica las observaciones recopiladas de entrevistas con CISOs. La investigación indica que, aunque el 69% de las organizaciones han adoptado herramientas de inteligencia artificial generativa, el 46% de los profesionales de la ciberseguridad cree que estas herramientas aumentan la probabilidad de ataques. Un asombroso 88% de CISOs y líderes de seguridad asegura que los ataques de IA armada son inevitables.
El 85% de los encuestados sospecha que los ataques recientes han sido impulsados por inteligencia artificial generativa, especialmente con la aparición de WormGPT, una herramienta de IA generativa promovida en foros clandestinos para ataques de phishing y compromisos de correo electrónico empresarial. Herramientas como FraudGPT han ganado rápidamente popularidad en la dark web, demostrando la rápida comercialización de la IA armada.
Sven Krasser, Científico Jefe y Vicepresidente Sénior en CrowdStrike, destacó que los atacantes están acelerando la armamentización de modelos de lenguaje grandes (LLMs) y la inteligencia artificial generativa. Aunque esto aumenta la velocidad y el volumen de los ataques, Krasser enfatiza que no mejora fundamentalmente la calidad de esos ataques. Sugiere que la seguridad en la nube basada en IA, que correlaciona señales globales, puede contrarrestar eficazmente estas amenazas en evolución.
Max Heinemeyer, Director de Caza de Amenazas en Darktrace, advierte que las empresas deben implementar IA cibernética para la defensa antes de que la IA ofensiva se generalice. Asegura que, cuando el conflicto se reduzca a algoritmos enfrentándose entre sí, solo las respuestas autónomas a velocidades de máquina podrán contrarrestar efectivamente los ataques mejorados por IA.
El mercado de aplicaciones de inteligencia artificial generativa está en rápida expansión. La capacidad de la inteligencia artificial generativa para aprender de manera continua es particularmente ventajosa para analizar el vasto volumen de datos generados por los puntos finales. Se anticipa que las actualizaciones constantes en los algoritmos de evaluación de amenazas y priorización de riesgos generarán nuevos casos de uso que los CISOs y CIOs esperan que mejoren la predicción de amenazas. Por ejemplo, la colaboración entre Ivanti y Securin busca ofrecer priorización de riesgos en tiempo real y mejorar las posturas de seguridad.
La colaboración entre Ivanti y Securin combina la Inteligencia de Vulnerabilidades (VI) de Securin con Ivanti Neurons para crear un ecosistema de inteligencia sobre amenazas casi en tiempo real. El Dr. Srinivas Mukkamala, Director de Producto en Ivanti, enfatiza los beneficios de la inteligencia humana aumentada por IA en la provisión de inteligencia sobre amenazas exhaustiva y priorización de riesgos.
Se proyecta que el mercado de ciberseguridad mediante inteligencia artificial generativa se disparará de 1.6 mil millones de dólares en 2022 a 11.2 mil millones de dólares para 2032, reflejando una tasa de crecimiento anual compuesta (CAGR) del 22%. Canalys anticipa que la inteligencia artificial generativa sustentará más del 70% de las operaciones de ciberseguridad en los próximos cinco años.
Forrester categoriza los casos de uso de la inteligencia artificial generativa en tres áreas principales: creación de contenido, predicción de comportamientos y articulación de conocimientos. Allie Mellen, Analista Principal de Forrester, destaca que, aunque la integración de IA y aprendizaje automático en herramientas de seguridad no es nueva, está evolucionando para utilizar más eficazmente datos históricos y metodologías de puntuación de riesgos.
Gartner predice que el 80% de las aplicaciones contarán con capacidades de inteligencia artificial generativa para 2026, lo que indica una rápida adopción en las organizaciones. Los CISOs enfatizan que la adaptabilidad de una plataforma es crucial para maximizar el valor de las aplicaciones de inteligencia artificial generativa, especialmente al reforzar marcos de seguridad de confianza cero.
Para integrar eficazmente la inteligencia artificial generativa dentro de un marco de confianza cero, los CISOs recomiendan asegurar todas las aplicaciones, plataformas, herramientas y puntos finales mediante monitoreo continuo, controles de acceso dinámicos y verificación constante. La incorporación de inteligencia artificial generativa podría introducir nuevos vectores de ataque, lo que lleva a los CISOs a priorizar defensas contra ataques de consultas, inyecciones de mensajes, manipulación de modelos y envenenamiento de datos.
La gestión del conocimiento mediante inteligencia artificial generativa está surgiendo como un caso de uso clave, reemplazando proyectos de integración de sistemas largos y costosos. En RSAC 2023, varios proveedores lanzaron soluciones basadas en ChatGPT, como Google Security AI Workbench, Microsoft Security Copilot, y otros, demostrando la tendencia hacia la seguridad mejorada por IA.
La introducción de Charlotte AI por parte de CrowdStrike busca aumentar la productividad de los analistas de seguridad mediante la automatización de tareas repetitivas y la mejora de los procesos de detección de amenazas utilizando IA conversacional. Prevista para lanzarse en el próximo año, Charlotte AI captura interacciones en tiempo real para rastrear amenazas de manera efectiva.
Los errores de configuración en la nube siguen siendo un objetivo significativo para los atacantes, con incidentes de explotación en aumento del 95% interanual. En respuesta a este creciente panorama de amenazas, se prevé un aumento en la actividad de fusiones y adquisiciones para mejorar la seguridad en la multi-nube y la nube híbrida. La adquisición de Bionic por parte de CrowdStrike ejemplifica esta tendencia, reforzando la importancia de la inteligencia artificial generativa para fortalecer los esfuerzos generales de ciberseguridad.
Clasificación
