Una reciente encuesta de PwC, que incluyó a 1,001 ejecutivos de EE. UU. en roles de negocios y tecnología, revela que el 73% de los encuestados ya utiliza o planea implementar inteligencia artificial generativa en sus organizaciones. A pesar de este creciente interés, solo el 58% ha comenzado a evaluar los riesgos asociados con la IA. PwC enfatiza que la IA responsable debe centrarse en el valor, la seguridad y la confianza, integrando estos elementos en los procesos de gestión de riesgos de una empresa.
Jenn Kosar, líder de AI Assurance de PwC en EE. UU., destacó que, aunque anteriormente era aceptable que las empresas lanzaran proyectos de IA sin estrategias sólidas de responsabilidad, ese tiempo ha pasado. “Estamos más avanzados en el ciclo, así que el momento de construir sobre la IA responsable es ahora,” afirmó Kosar. Observó que los proyectos de IA anteriores estaban típicamente limitados a pequeños equipos, pero ahora estamos presenciando una adopción generalizada de la IA generativa. Los proyectos piloto de Gen AI juegan un papel crucial en la configuración de estrategias de IA responsable, al proporcionar información sobre la integración efectiva de equipos y la utilización de sistemas de IA.
Preocupaciones Emergentes
La importancia de la IA responsable y la evaluación de riesgos ha cobrado atención significativa tras el lanzamiento del modelo xAI Grok-2 de Elon Musk en la plataforma social X (anteriormente Twitter). Los primeros comentarios indican que este servicio de generación de imágenes carece de restricciones adecuadas, lo que permite la creación de contenido controvertido y engañoso, incluyendo deepfakes de figuras públicas en situaciones delicadas.
Prioridades Clave para la IA Responsable
En la encuesta, se pidió a los encuestados que priorizaran 11 capacidades identificadas por PwC, que incluyen:
- Capacitación
- Especialistas en riesgos de IA integrados
- Capacitación periódica
- Privacidad de datos
- Gobernanza de datos
- Ciberseguridad
- Pruebas de modelo
- Gestión de modelo
- Gestión de riesgos de terceros
- Software especializado para la gestión de riesgos de IA
- Monitoreo y auditoría
Más del 80% de los participantes informaron avances en estas áreas, aunque solo el 11% afirmó haber implementado completamente las 11 capacidades. PwC advirtió que muchas organizaciones pueden estar exagerando sus avances, señalando que las complejidades de gestionar la IA responsable pueden dificultar su implementación total. Por ejemplo, una gobernanza de datos efectiva es crucial para definir el acceso que los modelos de IA tienen a datos internos mientras se implementan medidas de protección. Además, los enfoques tradicionales de ciberseguridad pueden no ser suficientes para protegerse contra ataques sofisticados como el envenenamiento de modelos.
Responsabilidad en la IA Responsable
Para ayudar a las empresas en su transformación hacia la IA, PwC aconseja priorizar una estrategia integral de IA responsable. Una recomendación clave es establecer una clara asignación de responsabilidades y rendición de cuentas para las prácticas de IA responsable, idealmente bajo un único ejecutivo. Kosar subrayó la importancia de considerar la seguridad de la IA como una prioridad organizacional, sugiriendo la designación de un director de IA o un líder dedicado a la IA responsable para colaborar con varias partes interesadas. “Quizás la IA sea el catalizador para unificar la tecnología y el riesgo operacional,” comentó Kosar.
PwC también sugiere que las organizaciones consideren todo el ciclo de vida de los sistemas de IA. Esto implica ir más allá de consideraciones teóricas para implementar activamente políticas de seguridad y confianza en toda la organización. Prepararse para futuras regulaciones requiere un compromiso con prácticas de IA responsable y planes para la transparencia con los interesados. Kosar expresó su sorpresa por las respuestas de la encuesta que indican que muchos ejecutivos ven la IA responsable como una ventaja comercial. “La IA responsable no solo se trata de gestionar riesgos; también debería crear valor. Las organizaciones la ven como una ventaja competitiva basada en la confianza,” concluyó.
Clasificación
