A Microsoft lança o 'LeMa': um método inovador de aprendizado em IA que emula a resolução de problemas humanos.

Pesquisadores da Microsoft Research Asia, da Universidade de Pequim e da Universidade Jiaotong de Xi’an apresentaram uma técnica inovadora para aprimorar as habilidades de resolução de problemas matemáticos em grandes modelos de linguagem (LLMs). Essa abordagem simula o aprendizado humano, incentivando os LLMs a aprender com seus erros.

A nova estratégia, chamada Learning from Mistakes (LeMa), enfoca o treinamento de IA para reconhecer e corrigir seus próprios erros, levando a uma melhoria nas habilidades de raciocínio, como descrito em um recente artigo de pesquisa.

A Inspiracão por trás do LeMa

Os pesquisadores se baseiam no processo de aprendizado humano, destacando como os estudantes aprendem com seus erros para melhorar seu desempenho futuro. Como os autores observam, “Um estudante que enfrenta um problema de matemática desafiador aprende com seus erros e entende como corrigi-los.” Este princípio foi aplicado aos LLMs com o auxílio de pares de dados de correção de erros gerados pelo GPT-4 para ajuste fino.

Como o LeMa Melhora o Raciocínio Matemático

Inicialmente, modelos como o LLaMA-2 geraram caminhos de raciocínio errôneos para problemas matemáticos. O GPT-4 identificou esses erros, esclarecendo-os e fornecendo caminhos de raciocínio corrigidos. Os pesquisadores então utilizaram esses dados refinados para re-treinar os modelos originais.

Resultados Excepcionais do LeMa

Os resultados dessa nova metodologia são notáveis. “Em cinco LLMs de base e duas tarefas de raciocínio matemático, o LeMa supera consistentemente o ajuste fino baseado apenas em dados de Chain of Thought (CoT),” relatam os pesquisadores. Modelos especializados, como WizardMath e MetaMath, também obtiveram ganhos com o LeMa, alcançando uma precisão de pass@1 de 85,4% no GSM8K e 27,1% no MATH, superando as performances anteriores de modelos de código aberto em áreas desafiadoras.

Implicações Mais Amplas e Perspectivas Futuras

O trabalho dos pesquisadores, incluindo seu código, dados e modelos, está disponível no GitHub, promovendo colaboração dentro da comunidade de IA e abrindo caminho para novas inovações em aprendizado de máquina.

A introdução do LeMa marca um avanço crucial em IA, indicando que o aprendizado de máquina pode replicar melhor os processos de aprendizado humano. Essa evolução pode revolucionar campos que dependem da IA, como saúde, finanças e veículos autônomos, onde a correção de erros e o aprendizado contínuo são essenciais.

À medida que o panorama da IA avança, a integração de métodos de aprendizado humano, como aprender com os erros, será vital para desenvolver sistemas de IA mais proficientes e impactantes. Essa inovação destaca o imenso potencial da inteligência artificial, aproximando-nos de um futuro em que a IA se destaca em tarefas complexas de resolução de problemas além das capacidades humanas.