En el ámbito de la ciberseguridad, el "dilema del defensor" resalta una dura realidad: los defensores siempre están en alerta máxima, trabajando incansablemente para prevenir brechas, mientras que los atacantes solo necesitan una oportunidad para ocasionar daños significativos.
Para combatir este ciclo implacable, Google aboga por la integración de herramientas avanzadas de IA en las estrategias de ciberseguridad.
Anuncio de la Iniciativa de Defensa Cibernética con IA
Antes de la Conferencia de Seguridad de Múnich (MSC) el 16 de febrero, Google presentó su "Iniciativa de Defensa Cibernética con IA," junto a varios compromisos en relación con la IA y la ciberseguridad. Este anuncio sigue a declaraciones similares de Microsoft y OpenAI, que enfatizaron la importancia de utilizar la IA de manera "segura y responsable" para mitigar amenazas adversarias.
Con líderes globales reuniéndose en la MSC para discutir políticas de seguridad internacional, las grandes compañías tecnológicas están ansiosas por mostrar su postura proactiva en ciberseguridad. “La revolución de la IA ya está en marcha”, afirmó Google en un post de blog. “Estamos entusiasmados con el potencial de la IA para abordar desafíos de seguridad generacionales y crear un mundo digital de confianza.”
Compromisos con la Seguridad Impulsada por la IA
Durante la conferencia en Múnich, más de 450 tomadores de decisiones de varios sectores explorarán temas como tecnología, seguridad transatlántica y gobernanza global. La MSC tiene como objetivo avanzar en los diálogos sobre la regulación tecnológica y sus implicaciones para la seguridad inclusiva y la cooperación.
Con la IA como una preocupación central para líderes y reguladores, Google se compromete a invertir en "infraestructura lista para la IA," ofrecer nuevas herramientas defensivas y lanzar iniciativas de capacitación en seguridad con IA.
Un anuncio clave es la formación de una nueva cohorte de “IA para ciberseguridad,” que incluye a 17 startups de EE. UU., Reino Unido y la UE. Esta iniciativa busca fortalecer el ecosistema de ciberseguridad transatlántico mediante estrategias de internacionalización, herramientas de IA y las habilidades necesarias para su implementación efectiva.
Las iniciativas adicionales de Google incluyen:
- Ampliar el Programa de Seminarios de Ciberseguridad de $15 millones de Google.org para mejorar la capacitación de profesionales en comunidades desatendidas de Europa.
- Lanzar Magika, una herramienta de IA de código abierto para la identificación de tipos de archivos, que mejora la detección de malware con un aumento del 30% en precisión y hasta un 95% más en tipos de contenido desafiantes como VBA y JavaScript.
- Proporcionar $2 millones en subvenciones de investigación a instituciones como la Universidad de Chicago, la Universidad Carnegie Mellon y la Universidad de Stanford para mejorar la verificación de código y desarrollar algoritmos de detección de amenazas más resilientes.
Además, Google subraya la importancia de su Marco de IA Segura, introducido en junio, para guiar a las organizaciones en la implementación de las mejores prácticas de seguridad en IA. “Las tecnologías de seguridad de IA deben ser seguras por diseño y de forma predeterminada”, asegura Google, enfatizando la necesidad de inversiones específicas y marcos regulatorios eficaces para maximizar los beneficios de la IA y frenar su uso malicioso.
Esfuerzos Colaborativos Contra el Uso Malicioso de la IA
En un anuncio conjunto, Microsoft y OpenAI advirtieron sobre el creciente uso de la IA por actores maliciosos como herramienta de productividad. OpenAI ha revocado el acceso a cuentas vinculadas a grupos amenazantes patrocinados por estados de países como China, Irán, Corea del Norte y Rusia, señalando que sus tácticas incluyen depuración de código, creación de contenido de phishing y recopilación de inteligencia.
Las dos compañías están comprometidas a garantizar el uso responsable de las tecnologías de IA, con Microsoft delineando principios centrados en identificar el uso malicioso, colaborar con interesados y informar al público sobre el mal uso de la IA.
Aumento de las Amenazas Cibernéticas y el Papel de la IA
El equipo de inteligencia de amenazas de Google informa un aumento en las amenazas cibernéticas, impulsado por la profesionalización entre los atacantes y la priorización de capacidades ofensivas en contextos geopolíticos. Países como China, Rusia, Corea del Norte e Irán están invirtiendo fuertemente en IA para propósitos ofensivos y defensivos, presentando riesgos significativos en diversos sectores.
Los atacantes están utilizando IA para potenciar esfuerzos de ingeniería social, crear esquemas de phishing sofisticados y manipular información. Como advierte Google, la evolución de la tecnología de IA puede empoderar significativamente las operaciones maliciosas.
Por otro lado, la IA ofrece a los defensores ventajas sustanciales en la detección de vulnerabilidades, respuesta a incidentes y análisis de malware. La IA puede optimizar los procesos de inteligencia sobre amenazas, clasificar malware y priorizar amenazas, alterando fundamentalmente el panorama de la ciberseguridad.
Los propios equipos de detección de Google han utilizado IA generativa para mejorar los resúmenes de incidentes, aumentando la eficiencia y la calidad del output. La compañía también ha observado un aumento del 40% en las tasas de detección de spam gracias a modelos de procesamiento avanzados y una reducción del 15% en errores en los procesos de verificación de código debido a robustas aplicaciones de IA.
En última instancia, los investigadores de Google creen que “la IA presenta una oportunidad crítica para revertir el dilema del defensor, desplazando el equilibrio en el ciberespacio a favor de los defensores sobre los atacantes.”
Clasificación
