O uso de modelos de IA generativa apresenta desafios significativos para as empresas que buscam passar de provas de conceito simples para uma operacionalização eficaz em larga escala. Segundo especialistas do setor que compartilharam suas percepções na AI Summit New York 2023, superar esses obstáculos começa pela identificação das barreiras existentes.
Um dos principais desafios é adquirir e curar os dados adequados. Sesh Iyer, diretor-geral e sócio sênior da BCG, enfatizou a necessidade crítica de um pipeline de dados sustentável, que inclua metadados bem organizados. A IA generativa prospera com entradas extensas de dados, portanto, as empresas devem refinar suas bases de conhecimento para maximizar o potencial dos grandes modelos de linguagem. Gaurav Dhama, diretor de desenvolvimento de produtos de IA na Mastercard, também destacou a importância de uma gestão de dados otimizada.
Estabelecer uma estrutura de governança eficaz para gerenciar os riscos inerentes à IA generativa é outro desafio significativo. Existe um "problema de confiança" generalizado entre os líderes seniores sobre os riscos de segurança, questões de direitos autorais e a potencial imprecisão gerada pela IA. Lucinda Linde, cientista de dados sênior na Ironside, ressaltou essas preocupações, indicando que os líderes devem navegar cuidadosamente por esses riscos para adotar totalmente a tecnologia.
A escassez de profissionais qualificados que possam utilizar efetivamente a IA generativa é outro obstáculo. Muitas organizações ainda lutam para identificar o valor comercial e o retorno sobre o investimento (ROI) de suas iniciativas de IA, enquanto os custos flutuantes associados à IA generativa contribuem para a incerteza contínua.
Dada a natureza emergente da tecnologia de IA generativa, Vik Scoggins, que lidera a estratégia e o desenvolvimento de produtos de IA/ML na Coinbase, observou: “Ainda não é um caminho pavimentado.” Esse cenário exige que as empresas abordem a IA generativa com cautela. Dhama prevê que a IA generativa permanecerá em uma "fase de copiloto" por um longo período, especialmente em setores altamente regulados, como serviços financeiros, onde a supervisão humana continuará sendo crucial.
Além disso, vulnerabilidades de segurança podem surgir do uso de IA generativa, especialmente em tarefas de codificação. Como Dhama apontou, a expertise de quem implementa essas ferramentas é fundamental. Linde aconselhou as empresas a começar a implantar IA generativa internamente para aumentar a produtividade e eficiência dos funcionários, sugerindo que o uso inicial em funções de back-office pode abrir caminho para uma implementação mais ampla à medida que a confiança dentro da organização cresce.
Apesar dos desafios associados à adoção de novas tecnologias, os potenciais ganhos de produtividade da IA generativa são atraentes. Iyer estima que as organizações podem experimentar melhorias de eficiência que variam de 10% a 90%.
Outro aspecto crítico para o uso eficaz da IA generativa é a diversificação na utilização de tecnologias. Linde destacou a importância de empregar múltiplos modelos de IA generativa, apesar da prevalência da tecnologia da OpenAI nas aplicações atuais. A recente turbulência envolvendo o CEO da OpenAI, Sam Altman, ressalta os riscos da dependência de um único fornecedor.
Explorar diversos modelos é essencial, já que diferentes sistemas possuem desempenhos distintos em várias áreas. Linde observou que modelos emergentes, como o Mistral, demonstraram desempenho excepcional e devem ser considerados como parte de uma estratégia mais ampla. Dhama ecoou esse sentimento, defendendo uma variedade diversificada de sistemas para aumentar a resiliência.
Ao projetar uma estrutura de IA generativa, considerações fundamentais incluem precisão, latência e custo. Para se destacar em um mercado onde muitas organizações utilizam modelos fundamentais semelhantes, os painelistas sublinharam que o fator diferenciador reside na qualidade dos dados subjacentes. Como Dhama colocou de forma sucinta: “Está nos dados, não no modelo.”
Maximizar o valor derivado da IA generativa exige uma intersecção estratégica de insights de negócios e execução operacional, com forte ênfase na curadoria dos dados corretos. Iyer concluiu com um lembrete impactante: “Se você tem os dados, você vence.”