Navegando por Auditorías de IA: Abordando el Sesgo, el Rendimiento y la Ética
El desafío de auditar modelos de IA en cuanto a sesgo, rendimiento y cumplimiento ético es un tema urgente para las organizaciones. Durante la reciente VB AI Impact Tour en Nueva York, presentado por UiPath, líderes de la industria discutieron metodologías efectivas, mejores prácticas y estudios de caso reales. Entre los ponentes destacados se encontraban Michael Raj, VP de Habilitación de Redes de IA y Datos en Verizon Communications; Rebecca Qian, cofundadora y CTO de Patronus AI; y Matt Turck, director general en FirstMark. Para concluir el evento, el CEO de VB, Matt Marshall, dialogó con Justin Greenberger, SVP de Éxito del Cliente en UiPath, centrándose en lo que hace exitosa una auditoría de IA y cómo iniciar el proceso.
Greenberger enfatizó la necesidad de un enfoque proactivo para la evaluación de riesgos: “El panorama de riesgos solía ser evaluado anualmente. Ahora, debe reevaluarse casi mensualmente. ¿Comprendes tus riesgos y los controles establecidos para mitigarlos? El Instituto de Auditores Internos (IIA) ha actualizado su marco de IA, pero abarca principalmente aspectos fundamentales. Preguntas importantes incluyen: ¿Cuáles son tus KPI de monitoreo? ¿Hay transparencia en tus fuentes de datos? ¿Existen protocolos de responsabilidad? El ciclo de evaluación debe ser más frecuente.”
Cito el Reglamento General de Protección de Datos (GDPR) como un ejemplo de exceso regulatorio que, en última instancia, estableció una base sólida para la seguridad de los datos en las empresas. Curiosamente, el auge de la IA generativa está haciendo que los mercados globales se adapten a ritmos similares, creando un paisaje competitivo uniforme mientras las organizaciones evalúan su tolerancia al riesgo respecto a esta tecnología.
Superando Desafíos Piloto y Comprometiendo a los Empleados
Aunque la adopción de IA a nivel empresarial sigue en desarrollo, muchas empresas están llevando a cabo proyectos piloto iniciales para explorar sus capacidades. Algunos desafíos persistentes incluyen la identificación de expertos en la materia con el conocimiento contextual y las habilidades de pensamiento crítico necesarias para definir casos de uso de manera efectiva. Además, facilitar la comprensión y el compromiso de los empleados es crucial. Greenberger destacó que aún está evolucionando la comprensión clara de lo que los empleados deben aprender sobre las tecnologías de IA, especialmente en lo que respecta al uso ético y los riesgos de los deep fakes.
Las organizaciones están incorporando principalmente la IA generativa en flujos de trabajo existentes en lugar de reestructurar completamente los procesos. En consecuencia, las auditorías deben evolucionar para monitorear cómo se utiliza la información privada en diversas aplicaciones, incluidos casos médicos sensibles.
Evolución de Roles en la Era de la IA
A medida que la tecnología de IA avanza, el papel de los humanos en el proceso de auditoría sigue siendo fundamental. Greenberger explicó que, aunque los usuarios inician consultas, los sistemas de IA procesan la información y entregan los datos necesarios para la toma de decisiones. Por ejemplo, un empleado en una empresa de logística puede utilizar cotizaciones generadas por IA en interacciones con clientes. Sin embargo, los roles humanos tradicionales pueden enfrentar desafíos de automatización.
“Actualmente, los humanos retienen las responsabilidades de toma de decisiones,” afirmó Greenberger. “Con el tiempo, a medida que nos sintamos más cómodos con los controles de auditoría y las revisiones rutinarias, esto probablemente cambiará. En última instancia, los humanos pueden necesitar enfocarse en los aspectos creativos y emocionales de sus roles, ya que la autoridad para la toma de decisiones podría alejarse de ellos. Esta evolución es inevitable a medida que la tecnología avanza.”
En resumen, las organizaciones deben priorizar la evaluación continua de los sistemas de IA para mitigar riesgos y asegurar prácticas éticas mientras navegan por un paisaje tecnológico en constante cambio.
Clasificación
