Desafíos de la Seguridad de la IA Generativa Impulsan a las Empresas a Mejorar los Protocolos de Auditoría de IA

La creciente frecuencia de errores significativos cometidos por agentes de soporte al cliente basados en IA, incluso en marcas reconocidas como Chevy, Air Canada y la ciudad de Nueva York, ha intensificado la demanda de una mayor fiabilidad en los sistemas de inteligencia artificial.

Si eres un tomador de decisiones en una empresa dedicado al desarrollo de aplicaciones y estrategias de IA generativa, y te resulta complicado mantener el ritmo con las últimas tecnologías de chatbots y medidas de responsabilidad, te invitamos a asistir a nuestro exclusivo evento de IA en Nueva York el 5 de junio. Este evento se centrará en la “Auditoría de IA” y está diseñado para líderes técnicos en el sector empresarial.

Únete a nosotros en este evento de networking organizado por un destacado medio de comunicación, donde contaremos con las perspectivas de tres figuras prominentes del ecosistema de IA, que discutirán las mejores prácticas para la auditoría de IA.

Escucharemos a Michael Raj, VP de IA y Datos en Verizon, quien compartirá cómo la implementación de auditorías exhaustivas de IA y la formación de empleados han establecido un marco para el uso responsable de la IA generativa en las interacciones con los clientes. La discusión será moderada por Matt Turck, destacado inversor en FirstMark y editor de la anual panorámica de datos e IA.

Además, Rebecca Qian, cofundadora y CTO de Patronus AI, discutirá las últimas estrategias y tecnologías en auditoría de IA que ayudan a identificar y abordar vulnerabilidades de seguridad. Qian aporta su experiencia de Meta, donde lideró iniciativas de evaluación de IA en Meta AI Research (FAIR).

Yo estaré moderando las discusiones junto a mi colega Carl Franzen, editor ejecutivo en un medio de comunicación líder. Nos complace contar con UiPath como patrocinador, con Justin Greenberger, SVP en UiPath, brindando perspectivas sobre cómo las pautas de auditoría y cumplimiento en evolución están moldeando los protocolos de IA en las organizaciones. Este evento forma parte de nuestra serie AI Impact Tour, destinada a fomentar el diálogo y el networking entre líderes empresariales que buscan implementar IA generativa de manera efectiva.

Entonces, ¿qué es exactamente una auditoría de IA y cómo se diferencia de la gobernanza de IA? Tras establecer las reglas de gobernanza para la IA, es crucial realizar auditorías de aplicaciones de IA generativa para garantizar el cumplimiento de dichas reglas. Esta necesidad es especialmente urgente en medio de rápidos avances tecnológicos. Proveedores importantes de LLM, como OpenAI y Google, han presentado recientemente modelos como ChatGPT y Gemini que pueden ver, oír, hablar y expresar emociones. Junto con las innovaciones de otras empresas, incluyendo Meta (Llama 3), Anthropic (Claude) e Inflection (con su IA sensible), mantener el cumplimiento de los requisitos de auditoría de precisión y privacidad se ha vuelto cada vez más complejo.

Varias nuevas empresas, como Patronus AI, están surgiendo para llenar este vacío creando benchmarks, conjuntos de datos y diagnósticos para ayudar a identificar información personal sensible (PII) en las interacciones con IA. Además, técnicas tradicionales como la generación aumentada por recuperación (RAG) y los avisos del sistema a menudo no logran prevenir errores, ya que los problemas pueden surgir de los conjuntos de datos subyacentes de entrenamiento del LLM, que a menudo carecen de transparencia. Esta realidad subraya la necesidad de prácticas de auditoría sólidas.

No pierdas esta oportunidad vital para los tomadores de decisiones en IA empresarial comprometidos con un liderazgo ético en el ámbito digital. Aplica ahora para asegurar tu lugar en el AI Impact Tour y posicionarte a la vanguardia de la innovación y gobernanza en IA.