Verizon está aprovechando aplicaciones de inteligencia artificial generativa para mejorar el soporte y la experiencia del cliente para sus más de 100 millones de usuarios de telefonía, mientras amplía su equipo de IA responsable para mitigar riesgos. Michael Raj, Vicepresidente de IA para la habilitación de redes de Verizon, habló sobre varias medidas que la empresa está implementando como parte de esta iniciativa. Estas incluyen la exigencia de que los científicos de datos registren los modelos de IA con un equipo central para revisiones de seguridad y un mayor escrutinio de los modelos de lenguaje extendido (LLMs) utilizados en las aplicaciones de Verizon para reducir sesgos y prevenir lenguaje tóxico.
Auditoría de IA: El Salvaje Oeste
Raj se dirigió a un evento de impacto de IA en Nueva York, centrándose en los desafíos de auditar aplicaciones de IA generativa, ya que los LLMs pueden ser impredecibles. Señaló que el campo de la auditoría de IA todavía está en sus inicios y las empresas deben acelerar sus esfuerzos, especialmente porque los reguladores aún no han proporcionado pautas específicas. Errores recientes en la IA de soporte al cliente en diversas industrias, incluidos incidentes con Chevy, Air Canada y proveedores principales de LLM como Google, subrayan la necesidad urgente de aumentar la confiabilidad en los sistemas de IA. Los reguladores gubernamentales solo están emitiendo pautas generales, dejando a las empresas privadas definir los detalles, según Justin Greenberger, Vicepresidente Senior de UiPath, que ayuda a grandes compañías con automatización. “Se siente como el Salvaje Oeste”, agregó Rebecca Qian, cofundadora de Patronus AI, una firma enfocada en auditar proyectos de LLM.
Actualmente, la mayoría de las empresas están trabajando en el primer paso de la gobernanza de IA: desarrollar reglas para el uso de IA generativa. El siguiente paso implica auditorías para asegurar el cumplimiento de estas políticas, pero pocos cuentan con los recursos necesarios, coinciden los expertos. Un informe reciente de Accenture encontró que, aunque el 96% de las organizaciones apoya alguna forma de regulación gubernamental alrededor de la IA, solo el 2% ha implementado completamente prácticas de IA responsable.
Empoderando a los Agentes con IA
Verizon aspira a liderar en IA aplicada equipando a los empleados de primera línea con asistentes conversacionales inteligentes para gestionar de mejor manera las interacciones con los clientes. Estos agentes a menudo enfrentan grandes cantidades de información, pero la IA generativa puede aliviar esta carga al proporcionar instantáneamente información personalizada y manejar el 80% de las tareas repetitivas. Esto permite a los agentes concentrarse en el 20% de los problemas que requieren intervención humana, facilitando recomendaciones personalizadas. Además, Verizon está utilizando IA generativa y tecnologías de aprendizaje profundo para mejorar las experiencias de los clientes en su red y sitio web, además de optimizar sus productos y servicios. Raj mencionó que la compañía ha desarrollado modelos para predecir la deserción de clientes en su amplia base de usuarios.
Gobernanza Centralizada de IA para la Seguridad
Verizon está invirtiendo fuertemente en la gobernanza de IA, enfocándose en rastrear el cambio de modelo y el sesgo. Esta iniciativa ha llevado a la consolidación de todas las funciones de gobernanza en una sola organización de "IA y Datos", que incluye la unidad de "IA Responsable". Raj enfatizó que esta unidad es fundamental para la seguridad de la IA, trabajando estrechamente con la oficina del CISO y ejecutivos de adquisiciones. A principios de este año, Verizon publicó su hoja de ruta de IA responsable en colaboración con la Universidad de Northeastern. Para gestionar modelos de IA de manera efectiva, Verizon ha hecho que los conjuntos de datos estén accesibles para desarrolladores e ingenieros, asegurando el uso de herramientas aprobadas.
Se espera que la tendencia de registrar modelos de IA gane impulso en otras empresas B2C, según Greenberger de UiPath, quien sugirió que los modelos deben ser "controlados por versiones y auditados", similar a las regulaciones farmacéuticas. También destacó que las empresas deben evaluar frecuentemente sus perfiles de riesgo debido a los rápidos avances tecnológicos, y se están considerando medidas legislativas para el registro de modelos en EE.UU. y otros países.
Unidades Emergentes de Gobernanza de IA
Según Greenberger, muchas empresas sofisticadas están estableciendo equipos de IA centralizados, como el de Verizon, y la aparición de unidades de "Gobernanza de IA" se está expandiendo. La colaboración con proveedores externos de LLM está llevando a las empresas a repensar sus estrategias, ya que cada proveedor ofrece múltiples modelos con diversas capacidades. Dada la naturaleza impredecible de las aplicaciones de IA generativa, legislar el proceso de auditoría presenta desafíos únicos. Como señaló Qian de Patronus AI, el potencial de fallos relacionados con la seguridad, el sesgo y la desinformación requiere regulaciones específicas para la industria, particularmente en sectores de alto riesgo como el transporte o la salud.
La transparencia en la auditoría de IA sigue siendo un obstáculo significativo, ya que la IA tradicional es más fácil de entender en comparación con las complejidades de la IA generativa. Actualmente, solo alrededor del 5% de las empresas han completado proyectos piloto centrados en el sesgo y la IA responsable, según Greenberger. A medida que el panorama de la IA evoluciona rápidamente, el compromiso de Verizon hacia una IA responsable ejemplifica un estándar para la industria, subrayando la urgente necesidad de una mejor gobernanza, transparencia y estándares éticos en el despliegue de estas tecnologías.
Clasificación
