Em um período mais calmo para a OpenAI, a rival Anthropic tem se destacado com o lançamento da família de modelos de linguagem Claude 3. Outra startup a ser observada no espaço de IA generativa é a israelense Deci, que recentemente anunciou atualizações significativas em suas ofertas.
Reportada anteriormente no outono de 2023 pelo lançamento dos modelos de código aberto DeciDiffusion e DeciLM 6B—versões aprimoradas do Stable Diffusion 1.5 da Stability e do LLaMA 2 7B da Meta—, a Deci introduziu o DeciCoder, um modelo LLM para conclusão de código, e a versão melhorada DeciDiffusion 2.0. Agora, a empresa revelou o Deci-Nano, um modelo LLM compacto e eficiente, disponível atualmente apenas pela Deci Generative AI Development Platform, voltada para empresas e desenvolvedores.
Mudança do Open Source?
A Deci parece estar se afastando do código aberto, adotando uma estratégia comercial mais semelhante à parceria da Mistral com a Microsoft. Isso levanta questionamentos sobre o futuro da IA de código aberto. A VP de Marketing da Deci, Rachel Salkin, afirmou via e-mail:
“Continuamos comprometidos em apoiar a comunidade de código aberto, mas também reconhecemos o valor dos modelos de código fechado que aprimoram a precisão e a velocidade, oferecendo maior valor aos nossos clientes.”
Salkin destacou vários modelos de código aberto lançados recentemente—incluindo DeciLM-6B, DeciLM-7B e DeciCoder—que continuam a ter downloads significativos, mesmo com suas plataformas de demonstração temporariamente pausadas.
Desempenho a um Preço Competitivo
Se a Deci realmente está optando por um caminho comercial, o Deci-Nano é um primeiro passo indicativo. Este modelo se destaca na compreensão da linguagem e raciocínio, alcançando impressionantes 256 tokens em apenas 4,56 segundos em GPUs NVIDIA A100.
O blog da Deci enfatiza que o Deci-Nano supera modelos como o Mistral 7B-Instruct e o Gemma 7B do Google, enquanto é excepcionalmente acessível a $0,10 por milhão de tokens de entrada, em comparação com $0,50 do GPT-3.5 Turbo da OpenAI e $0,25 do Claude 3 Haiku.
“O Deci-Nano encarna nossa abordagem orientada para produção, focando tanto na qualidade quanto na eficiência de custos”, disse Yonatan Geifman, cofundador e CEO da Deci. O modelo com janela de contexto de 8K foi desenvolvido com a tecnologia AutoNAC da Deci, projetada para otimizar a eficiência do modelo gerando modelos menores que replicam de perto a funcionalidade de modelos maiores.
Desde análises financeiras até criação de conteúdo, o Deci-Nano visa capacitar empresas a inovar enquanto gerenciam os custos de forma eficiente.
A Deci também oferece opções de implantação flexíveis, proporcionando instâncias serverless para escalabilidade ou instâncias dedicadas para maior privacidade e personalização. Essa versatilidade permite que as empresas adaptem suas soluções de IA conforme suas necessidades em evolução, sem sacrificar o desempenho.
Lançamento de uma Plataforma Abrangente
Enquanto grande parte das notícias recentes se concentra no Deci-Nano, a introdução de uma plataforma completa de IA Generativa representa um avanço significativo. Esta plataforma é descrita como uma "solução abrangente" adaptada às necessidades de eficiência e privacidade das empresas.
O que ela inclui? Segundo a Deci, os usuários têm acesso a LLMs ajustáveis, um mecanismo de inferência e uma solução de gerenciamento de clusters de inferência de IA. O Deci-Nano é o primeiro modelo proprietário disponível através desta plataforma, com planos para mais modelos—alguns abertos, outros fechados—no horizonte.
O mecanismo de inferência permite que os usuários implantem o Deci-Nano de acordo com suas necessidades, seja através da API da Deci, em sua nuvem privada virtual ou on-premises. Para clientes que gerenciam suas próprias nuvens privadas virtuais, a Deci fornecerá um modelo containerizado, juntamente com serviços de inferência gerenciados em seu cluster Kubernetes.
Além disso, a Plataforma de IA Generativa oferece opções de implantação on-premises para empresas que desejam manter os dados internamente. Os clientes receberão um contêiner virtual contendo o Deci-Nano e o kit de desenvolvimento de software Infery da Deci, permitindo a integração em suas aplicações.
Ainda não foram divulgados detalhes de preços para a Deci Generative AI Platform e suas várias ofertas, mas atualizações serão fornecidas à medida que novas informações se tornem disponíveis.
Classificação
