A Verizon está utilizando aplicações de IA generativa para aprimorar o suporte e as experiências dos mais de 100 milhões de clientes de telefonia, ao mesmo tempo que expande sua equipe de IA responsável para mitigar riscos.
Michael Raj, vice-presidente de IA na Verizon, discutiu várias medidas que a empresa está implementando nessa iniciativa. Entre elas, destaca-se a exigência de que os cientistas de dados registrem modelos de IA com uma equipe central para revisões de segurança, além de um aumento na aferição de grandes modelos de linguagem (LLMs) utilizados nas aplicações da Verizon para reduzir viés e prevenir linguagem tóxica.
Auditoria de IA: O Velho Oeste
Raj falou em um evento de impacto de mídia AI em Nova York, concentrando-se nos desafios da auditoria de aplicações de IA generativa, dado que os LLMs podem ser imprevisíveis. Ele observou que o campo de auditoria de IA ainda está em seus primórdios e que as empresas precisam acelerar esses esforços, especialmente porque os reguladores ainda não forneceram diretrizes específicas. Erros recentes de IA em suporte ao cliente em várias indústrias—incluindo problemas com a Chevy, Air Canada e grandes fornecedores de LLMs como o Google—destacaram a necessidade urgente de maior confiabilidade nos sistemas de IA.
Os reguladores do governo estão liberando apenas diretrizes amplas, deixando as empresas privadas definirem os detalhes, segundo Justin Greenberger, vice-presidente sênior da UiPath, que ajuda grandes empresas com automação. “Parece o Velho Oeste”, acrescentou Rebecca Qian, cofundadora da Patronus AI, uma empresa focada na auditoria de projetos de LLM.
A maioria das empresas está atualmente concentrada no primeiro passo da governança de IA—desenvolver regras para o uso de IA generativa. O próximo passo envolve auditorias para garantir conformidade com essas políticas, mas poucos possuem os recursos necessários, concordam os especialistas. Um recente relatório da Accenture revelou que, embora 96% das organizações apoiem alguma forma de regulação governamental relacionada à IA, apenas 2% implementaram práticas responsáveis de IA.
Capacitando Agentes com IA
A Verizon busca liderar em IA aplicada, equipando colaboradores de atendimento ao cliente com assistentes conversacionais inteligentes para gerenciar melhor as interações. Esses agentes costumam enfrentar uma quantidade avassaladora de informações, mas a IA generativa pode aliviar essa carga ao fornecer instantaneamente informações personalizadas e lidar com 80% das tarefas repetitivas. Isso permite que os agentes se concentrem nos 20% das questões que requerem intervenção humana, possibilitando recomendações personalizadas.
Além disso, a Verizon está utilizando IA generativa e tecnologias de aprendizado profundo para melhorar as experiências dos clientes em sua rede e website, além de otimizar produtos e serviços. Raj mencionou que a empresa desenvolveu modelos para prever a rotatividade de clientes em sua vasta base de usuários.
Governança Centralizada de IA para Segurança
A Verizon está investindo pesadamente em governança de IA, focando no monitoramento de desvios de modelo e viés. Essa iniciativa resultou na consolidação de todas as funções de governança em uma organização chamada "IA e Dados", que inclui a unidade de "IA Responsável". Raj enfatizou que essa unidade é essencial para a segurança da IA, trabalhando em estreita colaboração com o escritório do CISO e executivos de compras. No início deste ano, a Verizon publicou seu roadmap de IA responsável em parceria com a Northeastern University.
Para gerenciar modelos de IA de forma eficaz, a Verizon tornou conjuntos de dados acessíveis a desenvolvedores e engenheiros para interação direta com os modelos, garantindo o uso de ferramentas aprovadas. O registro de modelos de IA deve ganhar força em outras empresas B2C, segundo Greenberger, que sugeriu que os modelos precisam estar "versionados e auditados", semelhante às regulações farmacêuticas. Ele também destacou que as empresas devem avaliar frequentemente seus perfis de risco devido aos rápidos avanços tecnológicos, e medidas legislativas para registro de modelos estão sendo consideradas nos EUA e em outros países.
Unidades de Governança de IA Emergentes
De acordo com Greenberger, muitas empresas sofisticadas estão estabelecendo equipes centralizadas de IA, como a da Verizon, e a emergência de unidades de "Governança de IA" está se espalhando. A colaboração com fornecedores terceiros de LLMs está levando as empresas a repensar suas estratégias, uma vez que cada fornecedor oferece múltiplos modelos com capacidades variadas.
Dada a natureza imprevisível das aplicações de IA generativa, legislar o processo de auditoria apresenta desafios únicos. Como Qian, da Patronus AI, destacou, o potencial para falhas relacionadas a segurança, viés e desinformação requer regulamentações específicas para cada setor, especialmente em áreas de alto risco como transporte ou saúde.
A transparência na auditoria de IA continua sendo um desafio significativo, com a IA tradicional sendo mais simples de entender em comparação com as complexidades da IA generativa. Atualmente, apenas cerca de 5% das empresas completaram projetos piloto centrados em viés e IA responsável, segundo Greenberger.
À medida que o cenário da IA evolui rapidamente, o compromisso da Verizon com a IA responsável exemplifica um marco para a indústria, sinalizando a necessidade urgente de melhor governança, transparência e padrões éticos na implementação dessas tecnologias.
Classificação
