Quando um sistema de IA gera conteúdo impreciso—comumente chamado de "alucinação"—os resultados podem não ser tão graves. No entanto, se um sistema de IA utilizado em tecnologia militar alucina, as implicações podem ser muito mais severas.
A Jaxon AI começou desenvolvendo sistemas de IA para a Força Aérea dos EUA, com foco na confiabilidade e precisão. Agora, a empresa está se expandindo para o mercado empresarial com sua Linguagem de IA Específica de Domínio (DSAIL), voltada para enfrentar os problemas críticos de alucinações e imprecisões em grandes modelos de linguagem (LLMs). Esta tecnologia integra os modelos de fundação watsonx da IBM, representando uma nova abordagem para criar soluções de IA mais confiáveis.
Como a DSAIL Minimiza os Riscos de Alucinação em IA
A alucinação ocorre quando uma IA produz respostas imprecisas, frequentemente devido a dados de treinamento incompletos ou à falta de verificação. A estrutura DSAIL mitiga esse risco transformando entradas de linguagem natural em um formato binário. Esse formato passa por uma série de verificações—como um satisfator booleano—para assegurar que a resposta da IA atenda a todas as restrições antes da entrega, aumentando assim sua confiabilidade para aplicações práticas.
Uma estratégia comum para reduzir alucinações é a Geração Aumentada por Recuperação (RAG). Neste modelo, o LLM acessa uma base de conhecimento para fornecer respostas precisas. Cohen observou que, embora o RAG faça parte da metodologia da DSAIL, as saídas ainda precisam passar por verificações adicionais antes de serem finalizadas, reduzindo ainda mais a probabilidade de alucinação.
O Papel do IBM watsonx nos Sistemas de IA da Jaxon
A Jaxon utiliza modelos da biblioteca watsonx da IBM como componentes essenciais de seus sistemas de IA. Especificamente, o modelo IBM StarCoder facilita a geração de código, produzindo automaticamente um código inicial para projetos de IA com base em especificações de design coletadas durante o processo.
StarCoder, uma iniciativa de código aberto lançada em maio com o apoio da ServiceNow e Hugging Face, é uma das várias ferramentas de geração de código na biblioteca watsonx da IBM. Savio Rodrigues, VP de engenharia de ecossistemas e defesa de desenvolvedores na IBM, confirmou que a IBM foi um dos fundadores do projeto StarCoder e destacou a colaboração com a Hugging Face para melhorar o acesso empresarial a modelos abertos.
Embora o StarCoder demonstre amplas capacidades, a IBM também oferece modelos de geração de código especializados para aplicações específicas, como migração de COBOL e desenvolvimento em computação quântica.
A Posição Estratégica da IBM no Mercado de IA Generativa
O cenário de IA generativa e LLM é competitivo, com grandes players like OpenAI, Microsoft, Google e AWS. A IBM busca sua fatia desse mercado apoiando desenvolvedores e fornecedores independentes de software (ISVs) como a Jaxon AI por meio de seu programa IBM Build.
O IBM Build oferece aos parceiros acesso ao watsonx, suporte técnico e assistência na entrada no mercado. O objetivo é fornecer modelos de fundação de IA confiáveis, caracterizados por preços, desempenho e confiabilidade consistentes. “Nossos clientes confiam na abordagem da IBM em IA, particularmente no treinamento de modelos e nas verificações legais que implementamos,” enfatizou Rodrigues.
Classificação
