La Carrera de Innovación en IA Genéricamente Revela Brechas de Seguridad, Informan IBM y AWS

¿Qué Se Necesita para Asegurar la IA Generativa?

Un reciente estudio de IBM y Amazon Web Services (AWS) revela que no existe una solución sencilla para asegurar la IA generativa (gen AI). Según una encuesta del Instituto de Valor Empresarial de IBM entre destacados ejecutivos de EE. UU., el informe subraya la vital importancia de la seguridad en las iniciativas de IA. Un notable 82% de los líderes ejecutivos coinciden en que la IA segura y confiable es esencial para el éxito empresarial.

Sin embargo, existe un marcado contraste entre las intenciones y las acciones: actualmente, las organizaciones solo aseguran el 24% de sus proyectos de IA generativa. Esta preocupación por la seguridad también se refleja en un informe de PwC, que indica que el 77% de los CEOs están preocupados por los riesgos cibernéticos relacionados con la IA.

Para abordar estos desafíos, IBM está colaborando con AWS para mejorar la seguridad de la gen AI. Hoy anunciaron el Servicio de Pruebas IBM X-Force Red para IA, que tiene como objetivo avanzar en las medidas de seguridad en la IA generativa.

Navegando el Dilema Innovación-Seguridad

Aunque asegurar la tecnología puede parecer fundamental, muchas organizaciones priorizan la innovación sobre la seguridad. El informe destaca que el 69% de las organizaciones ponen la innovación en primer lugar, a menudo pasando por alto medidas de seguridad integrales. Dimple Ahluwalia, Socio Senior Global de Servicios de Ciberseguridad en IBM Consulting, observa que los líderes están bajo presión para innovar con la gen AI, lo que lleva a que la seguridad se convierta en una idea secundaria.

"Tal como ocurrió en los primeros días de la computación en la nube," señala Ahluwalia, "muchos están apresurándose hacia la IA generativa sin una planificación de seguridad adecuada, lo que compromete la seguridad."

Estableciendo Límites para una Seguridad Efectiva de la IA

Para fomentar la confianza en la IA generativa, las organizaciones deben implementar una gobernanza sólida. Esto implica crear políticas, procesos y controles alineados con los objetivos empresariales; el 81% de los ejecutivos cree que nuevos modelos de gobernanza son esenciales para asegurar la IA generativa.

Una vez establecidos los marcos de gobernanza, las organizaciones pueden desarrollar estrategias para asegurar toda la cadena de producción de IA. Esto requiere colaboración entre los equipos de seguridad, tecnología y negocio, así como aprovechar la experiencia de socios tecnológicos para el desarrollo de estrategias, capacitación, justificación de costos y navegación de cumplimiento.

Servicio de Pruebas IBM X-Force Red para IA

Junto con la gobernanza, la validación y las pruebas son críticas para garantizar la seguridad. El Servicio de Pruebas IBM X-Force Red para IA marca el primer servicio de pruebas diseñado específicamente para IA. Este servicio reúne a un equipo diverso de expertos en pruebas de penetración, sistemas de IA y ciencia de datos, utilizando conocimientos de IBM Research y la Caja de Herramientas de Robustez Adversarial (ART).

El término "red teaming" se refiere a un enfoque proactivo de seguridad donde se emplean tácticas adversariales para identificar vulnerabilidades. Chris Thompson, Jefe Global de X-Force Red en IBM, explica que el enfoque se ha desplazado hacia la prueba de la seguridad y protección de los modelos de IA, aunque las tácticas tradicionales de red teaming en sigilo y evasión habían sido poco exploradas.

"La naturaleza de los ataques a aplicaciones de gen AI se asemeja a las amenazas de seguridad de aplicaciones tradicionales, pero con giros únicos y superficies de ataque ampliadas," señala Thompson.

A medida que avanzamos en 2024, IBM está presenciando una convergencia de estrategias que se asemejan al verdadero red teaming. Su enfoque abarca cuatro áreas clave: plataformas de IA, la cadena de producción de ML para ajustar y entrenar modelos, el entorno de producción para aplicaciones de gen AI y las aplicaciones mismas.

"En línea con nuestros esfuerzos tradicionales de red teaming, buscamos descubrir oportunidades de detección perdidas y mejorar la velocidad de detección de amenazas potenciales que apuntan a estas innovadoras soluciones de IA," concluye Thompson.