Con el auge de las capacidades avanzadas de IA, surge una mayor complejidad, especialmente para los directores de seguridad de la información (CISO) que están adoptando la IA generativa (Gen AI). Este avance tecnológico es crucial para los proveedores de ciberseguridad que buscan minimizar riesgos en la creciente batalla por la IA. Sin embargo, los adversarios se han vuelto más hábiles en usar la IA combinada con tácticas de ingeniería social, impactando significativamente a las empresas líderes este año.
Para analizar las perspectivas para 2024, un medio de comunicación organizó una discusión virtual con 16 líderes en ciberseguridad de 13 empresas. El consenso fue claro: fomentar una fuerte colaboración entre profesionales de la IA y la ciberseguridad es esencial para el éxito futuro.
La IA requiere visión humana para combatir eficazmente las amenazas cibernéticas. Los ejercicios de Detección y Respuesta Administrada (MDR) de MITRE han proporcionado evidencia concreta de que la integración de inteligencia humana con IA puede identificar y neutralizar brechas antes de que escalen. Michael Sherwood, Director de Innovación y Tecnología de la Ciudad de Las Vegas, enfatizó esto en una entrevista reciente.
Predicciones sobre el papel de Gen AI en la ciberseguridad
Peter Silva de Ericom, que forma parte de la Unidad de Ciberseguridad de Cradlepoint, destacó que Gen AI podría mejorar el reconocimiento de patrones para identificar vectores de ataque y vulnerabilidades emergentes. Sin embargo, advirtió que la IA también complica la detección, ya que los sistemas pueden tener dificultades para distinguir entre ataques de phishing generados por humanos y aquellos generados por IA.
Elia Zaitsev, CTO de CrowdStrike, señaló que en 2024, los ciberdelincuentes podrían apuntar cada vez más a los sistemas de IA a través de vulnerabilidades en usos sancionados de IA y puntos ciegos por el uso no autorizado de herramientas de IA por parte de empleados. Advertenció que las empresas deben revisar sus implementaciones internas de IA y desarrollar directrices sólidas para mitigar riesgos.
Rob Gurzeev, CEO de CyCognito, expresó que aunque Gen AI tendrá un impacto positivo en la seguridad, también podría fomentar la complacencia entre los equipos de seguridad. Advirtió sobre la dependencia excesiva de la IA, lo que podría crear vacíos en las operaciones de seguridad.
Howard Ting, CEO de Cyberhaven, compartió que un estudio reveló que el 4.7% de los empleados ingresaron datos confidenciales en herramientas de IA como ChatGPT. Cree que los avances en IA empoderarán a los equipos de seguridad para fortalecer defensas con el tiempo.
John Morello, cofundador y CTO de Gutsy, mencionó que Gen AI tiene el potencial de mejorar significativamente cómo los equipos de seguridad gestionan grandes cantidades de datos de eventos, transformando métodos obsoletos en formatos más amigables.
Jason Urso, CTO de Honeywell Connected Enterprise, predijo que Gen AI permitirá incluso a hackers inexpertos ejecutar ataques sofisticados, cambiando el panorama de la ciberseguridad a una confrontación de IA contra IA.
Srinivas Mukkamala, Director de Producto de Ivanti, destacó la creciente ansiedad de los empleados sobre la seguridad laboral por la IA. Enfatizó la necesidad de transparencia por parte de los líderes en las estrategias de integración de IA para retener talento, ya que una IA eficaz aún requiere supervisión humana.
Mukkamala también pronosticó un aumento en los ataques de ingeniería social sofisticados debido a las mejores herramientas de IA que alimentan intentos de phishing más creíbles.
Merritt Baer, CISO de campo en Lacework, prevé un entorno laboral transformado donde Gen AI asista en la automatización de tareas, permitiendo que los humanos se centren en el pensamiento estratégico y la creatividad.
Ankur Shah, SVP de Prisma Cloud en Palo Alto Networks, subrayó que los equipos de seguridad deben gestionar el rápido ritmo del desarrollo de aplicaciones, que se espera que la IA acelere significativamente. Advirtió que, sin datos de seguridad sólidos, la efectividad de la IA en la prevención de riesgos podría verse reducida.
Matt Kraning, CTO de Cortex en Palo Alto Networks, declaró que Gen AI simplificará la interacción de datos para los analistas de seguridad, facilitando el análisis y la respuesta a amenazas.
Christophe Van de Weyer, CEO de Telesign, destacó que 2023 registró incidentes de phishing récord, exacerbados por criminales que utilizan Gen AI para crear mensajes convincentes. Cree que las organizaciones deberán mejorar sus defensas y emplear IA para detectar fraudes de manera más eficaz.
Rob Robinson, jefe de Telstra Purple EMEA, comentó que la creciente cantidad de puntos de datos para la monitorización de seguridad exigirá un cambio en las habilidades de los CISO, con la IA emergiendo como una solución clave para enfrentar los desafíos de seguridad.
Vineet Arora, CTO de WinWire, reiteró que Gen AI mejorará significativamente la automatización de la ciberseguridad, permitiendo que los profesionales de seguridad se concentren en problemas complejos, aunque también dejará espacio para que actores maliciosos exploten su potencial.
Claudionor Coelho, Director de IA, y Sanjay Kalra, VP de Gestión de Productos en Zscaler, predijeron que Gen AI revolucionará los esfuerzos de cumplimiento, automatizando procesos que antes consumían mucho tiempo.
Clint Dixon, CIO de una organización global de logística, resumió el futuro de la ciberseguridad como estar fuertemente dependiente de la IA, debido al rápido crecimiento y complejidad de los datos.
En resumen, la integración de Gen AI en la ciberseguridad ofrece un inmenso potencial para mejorar las defensas y optimizar operaciones, pero también presenta nuevos desafíos y riesgos que las organizaciones deben navegar cuidadosamente en 2024.
Clasificación
