Lançamento do Novo Comando R+ da Cohere no SageMaker e Azure, Mas Ainda Não no Bedrock

No início desta semana, a Cohere, uma startup com sede em Toronto, cofundada por ex-pesquisadores de IA do Google, lançou seu modelo de linguagem (LLM) voltado para empresas: Command R+. O anúncio destacou métricas impressionantes, mostrando que o Command R+ superou o GPT-4 da OpenAI, utilizado no ChatGPT, em vários testes de benchmark comuns de IA.

O Command R+ já está disponível no serviço de nuvem Azure da Microsoft e, a partir de hoje, também no Amazon SageMaker, outra plataforma de nuvem importante.

Estrutura de Preços

No Azure, o custo para acessar o Command R+ é de $0,015 por 1.000 tokens para saídas do modelo e $0,003 por 1.000 tokens para prompts de entrada. Tokens representam palavras ou partes de palavras, e um ótimo exemplo interativo pode ser encontrado pelo desenvolvedor open-source Simon Willison. Em contrapartida, no SageMaker, a estrutura de preços é diferente, variando de $82,89 a $146,93 por hora para inferência em tempo real, que suporta implantações em produção.

Compromisso da Microsoft com Modelos de IA

A Microsoft anunciou com orgulho no X (anteriormente Twitter) que o Command R+ estava "disponível primeiro no Microsoft Azure." A empresa publicou um post em seu blog destacando sua extensa biblioteca com mais de 1.600 modelos fundamentais de diversos fornecedores, incluindo Databricks, Hugging Face e OpenAI. "O Command R+ é projetado para empresas que buscam aproveitar seus dados internos para modelos de linguagem personalizados e precisos", afirmou John Montgomery, Vice-Presidente Corporativo da Plataforma de IA da Microsoft. Ele enfatizou que o Command R+, em combinação com Cohere Embed e Rerank, oferecerá alta precisão para aplicações de IA sofisticadas que dependem de dados empresariais.

Concorrência Intensa nas Ofertas de IA em Nuvem

A mais recente movimentação da Microsoft ao incluir o Command R+ segue seu investimento no modelo proprietários Mistral Large da startup francesa de IA de mesmo nome. Com suporte contínuo à OpenAI, a Microsoft pretende estabelecer o Azure como o principal destino para desenvolvedores empresariais que buscam diversas opções de modelos de IA. Ao mesmo tempo, a Amazon está expandindo ativamente sua biblioteca de modelos no Bedrock, sua plataforma de desenvolvimento focada em LLM, tendo recentemente adicionado a família de modelos Claude 3 da Anthropic. A disponibilidade do Command R+ no AWS SageMaker, apesar de sua ausência no Bedrock, representa um avanço significativo no competitivo mercado de nuvem.

A busca por uma seleção mais ampla de modelos de IA pelos principais provedores de nuvem reflete sua feroz rivalidade. Quanto mais modelos um provedor disponibiliza, melhor atende às diversas necessidades dos clientes—semelhante a um supermercado que oferece uma ampla variedade de marcas.

Para a Cohere, estabelecer presença em plataformas de nuvem e desenvolvimento de IA proeminentes é crucial para o crescimento dos negócios. Essa expansão pode potencialmente ajudar a ampliar sua base de clientes, especialmente diante dos desafios de geração de receita, conforme relatórios. Em contraste, a OpenAI supostamente registrou um crescimento significativo entre clientes empresariais, alcançando cerca de 600.000 assinantes.

Omissão do Bedrock

Aidan Gomez, CEO e cofundador da Cohere, reconheceu a ausência do Command R+ no Amazon Bedrock no X, incentivando os usuários a solicitarem sua inclusão. Ao questionar sobre a falta do Command R+ no Amazon Bedrock, um porta-voz da AWS declarou: “A AWS não divulga roteiros de produtos; no entanto, estamos comprometidos em oferecer os modelos fundamentais mais populares e avançados aos nossos clientes. Nossas parcerias com fornecedores de modelos, como a Cohere, são vitais para essa missão, e estamos ansiosos por mais colaborações.”