Lanzamiento de la nueva IA Command R+ de Cohere en SageMaker y Azure, pero aún no disponible en Bedrock.

A principios de esta semana, Cohere, una startup con sede en Toronto cofundada por ex investigadores de IA de Google, lanzó su modelo de lenguaje grande listo para empresas: Command R+. El anuncio resaltó métricas impresionantes, mostrando que Command R+ superó a GPT-4 de OpenAI, el modelo que impulsa a ChatGPT, en diversas pruebas de referencia comunes en IA.

Command R+ ahora está disponible en el servicio de nube Azure de Microsoft y, a partir de hoy, en Amazon SageMaker, otra importante plataforma en la nube.

Estructura de Precios

En Azure, el costo para acceder a Command R+ es de $0.015 por cada 1,000 tokens para las salidas del modelo y $0.003 por cada 1,000 tokens para las solicitudes de entrada. Los tokens representan palabras o partes de palabras, y un gran ejemplo interactivo puede encontrarse con el desarrollador de código abierto Simon Willison.

Por otro lado, en SageMaker, la estructura de precios es diferente, con costos que varían entre $82.89 y $146.93 por hora para inferencias en tiempo real, lo que apoya implementaciones en producción.

Compromiso de Microsoft con los Modelos de IA

Microsoft anunció con orgullo en X (anteriormente Twitter) que Command R+ estaba "disponible primero en Microsoft Azure". La compañía lanzó una publicación en su blog destacando su extensa biblioteca de más de 1,600 modelos base de varios proveedores, incluidos Databricks, Hugging Face y OpenAI.

"Command R+ está diseñado para empresas que buscan aprovechar sus datos internos para modelos de lenguaje personalizados y precisos", afirmó John Montgomery, Vicepresidente Corporativo de la Plataforma de IA en Microsoft. Enfatizó que Command R+, junto con Cohere Embed y Rerank, ofrecerá una precisión de primer nivel para aplicaciones de IA sofisticadas que dependen de datos empresariales.

Competencia Intensa en Ofertas de IA en la Nube

El último movimiento de Microsoft para incluir Command R+ sigue a su inversión en ofrecer el modelo Mistral Large de la startup francesa de IA del mismo nombre. Con su continuo apoyo a OpenAI, Microsoft busca establecer Azure como el principal destino para desarrolladores empresariales que buscan diversas opciones de modelos de IA.

Mientras tanto, Amazon está ampliando activamente su biblioteca de modelos en Bedrock, su plataforma de desarrollo centrada en modelos de lenguaje grande, habiendo añadido recientemente la familia de modelos Claude 3 de Anthropic. La disponibilidad de Command R+ en AWS SageMaker, a pesar de su ausencia en Bedrock, representa un desarrollo significativo en el competitivo mercado de la nube.

El impulso de ofrecer una selección más amplia de modelos de IA por parte de los principales proveedores de nube es indicativo de su feroz rivalidad. Cuantos más modelos pueda ofrecer un proveedor, mejor podrá atender las diversas necesidades de sus clientes, similar a un supermercado con una amplia variedad de marcas.

Para Cohere, establecerse en prominentes plataformas de nube y desarrollo de IA es crucial para el crecimiento empresarial. Esta expansión podría ayudar a ampliar su base de clientes, especialmente al enfrentar desafíos en la generación de ingresos, según informes. En contraste, OpenAI ha atraído un crecimiento significativo de clientes empresariales, alcanzando alrededor de 600,000 suscriptores.

Omisión de Bedrock

Aidan Gomez, CEO y cofundador de Cohere, reconoció la ausencia de Command R+ en Amazon Bedrock en X, alentando a los usuarios a solicitar su inclusión.

Al indagar sobre la falta de Command R+ en Amazon Bedrock, un portavoz de AWS declaró: “AWS no divulga hojas de ruta de productos; sin embargo, estamos comprometidos a ofrecer los modelos base más populares y avanzados a nuestros clientes. Nuestras asociaciones con proveedores de modelos como Cohere son vitales para esta misión, y esperamos una colaboración más profunda.”