La tecnología deepfake se espera que alcance los 40 mil millones de dólares para 2027, en medio de la creciente amenaza de la inteligencia artificial adversarial.

Riesgos de Deepfake en Aumento: Una Amenaza Urgente para las Empresas

La tecnología deepfake está surgiendo rápidamente como una de las formas más formidables de inteligencia artificial adversarial, con pérdidas proyectadas que se dispararán de 12.3 mil millones de dólares en 2023 a 40 mil millones para 2027, lo que representa una impresionante tasa de crecimiento anual compuesta del 32%. Según Deloitte, la proliferación de deepfakes es especialmente preocupante en los sectores bancarios y de servicios financieros.

Solo en el último año, los deepfakes han aumentado un asombroso 3,000%, y se espera que los incidentes crezcan entre un 50% y un 60% en 2024, sumando entre 140,000 y 150,000 casos a nivel mundial este año. La última generación de aplicaciones de inteligencia artificial generativa permite a los atacantes crear rápidamente y de forma económica videos deepfake convincentes, voces impersonadas y documentos fraudulentos. El Informe de Inteligencia y Seguridad de Voz Pindrop 2024 estima que el fraude deepfake dirigido a centros de contacto está costando a las empresas aproximadamente 5 mil millones de dólares anuales, lo que refuerza la amenaza que representa esta tecnología para el sector bancario y financiero.

Bloomberg informó sobre un mercado negro en auge en la dark web, donde se venden softwares de estafa a precios que varían de 20 dólares a varios miles. Una infografía basada en el Informe de Fraude de Identidad Sumsub 2023 ilustra el alarmante aumento del fraude impulsado por IA a nivel global.

Preparación Empresarial: Una Creciente Preocupación

A medida que la IA adversarial evoluciona, introduce vectores de ataque imprevistos que complican los paisajes de seguridad. Alarmantemente, uno de cada tres empresas carece de una estrategia para enfrentar los riesgos asociados con los deepfakes, particularmente aquellos que apuntan a sus ejecutivos clave. El Informe sobre el Estado de la Ciberseguridad Ivanti 2024 destaca que el 30% de las organizaciones no tiene planes para identificar o defenderse contra ataques de IA adversarial.

El informe revela que el 74% de las empresas encuestadas ya están presenciando amenazas impulsadas por IA, y el 89% cree que estas amenazas están recién comenzando. Además, el 60% de los CISO, CIO y líderes de TI se siente despreparado para defenderse contra tales ataques. El uso de deepfakes en estrategias más amplias, que incluyen phishing y ransomware, es cada vez más común, indicando un cambio hacia escenarios de amenaza más sofisticados alimentados por IA generativa.

Apuntando a los Altos Ejecutivos: Una Nueva Estrategia para los Atacantes

Los expertos en ciberseguridad informan sobre una tendencia preocupante: los deepfakes están evolucionando de ser fácilmente detectables a ser impersonaciones realistas, apuntando especialmente a los CEO. Los ejecutivos de la industria observan que actores estatales agresivos y grandes organizaciones cibercriminales están invirtiendo recursos en tecnologías de redes adversarias generativas (GAN). La sofisticación de estos ataques fue resaltada por un incidente notable dirigido al CEO de la firma de publicidad más grande del mundo.

En una reciente conversación con el Wall Street Journal, el CEO de CrowdStrike, George Kurtz, discutió cómo los avances en IA tanto fortalecen las defensas cibernéticas como mejoran las capacidades de los atacantes. Observó que la tecnología deepfake actual es tan avanzada que es difícil discernir su autenticidad. Al afirmar: “La tecnología deepfake hoy es tan buena”, Kurtz destacó los riesgos que representan las campañas de desinformación impulsadas por estados-nación.

El equipo de Inteligencia de CrowdStrike estudia activamente qué hace que los deepfakes sean convincentes, esforzándose por entender la trayectoria de la tecnología para lograr el máximo impacto en la audiencia. Kurtz comparó la difusión de información con una piedra que crea ondas en un estanque, donde los temas importantes se amplifican y afectan la percepción pública.

Un Llamado a la Acción para las Empresas

Las empresas corren el riesgo de perder la batalla contra la IA adversarial si no logran mantenerse al día con la rápida evolución de los atacantes en la implementación de IA para los ataques deepfake. Con los deepfakes volviéndose cada vez más prevalentes, el Departamento de Seguridad Nacional ha emitido una guía titulada “Aumentando las Amenazas de Identidades Deepfake”, subrayando la urgencia de que las empresas fortalezcan sus defensas.

Es crucial que las organizaciones desarrollen estrategias proactivas para mitigar los riesgos que plantea la tecnología deepfake y se mantengan a la vanguardia en la actual carrera armamentista de IA.