Запуск нового AI Command R+ от Cohere на SageMaker и Azure, но еще не на Bedrock.

На этой неделе стартап Cohere из Торонто, основанный бывшими исследователями AI в Google, запустил модель большого языка (LLM) для бизнеса: Command R+. В объявлении были представлены впечатляющие метрики, показывающие, что Command R+ превзошел GPT-4 от OpenAI, модели, на которой основан ChatGPT, в различных общих тестах по оценке AI.

Command R+ теперь доступен на облачном сервисе Microsoft Azure и, начиная с сегодняшнего дня, на Amazon SageMaker, еще одной крупной облачной платформе.

Структура Цен

На Azure доступ к Command R+ стоит $0.015 за 1,000 токенов для выводов модели и $0.003 за 1,000 токенов для входных запросов. Токены представляют собой слова или части слов, и отличный интерактивный пример можно найти у разработчика с открытым исходным кодом Симона Уиллисона.

На SageMaker цена структурирована иначе: стоимость колеблется от $82.89 до $146.93 в час за реальное время вывода, что поддерживает производственные развертывания.

Обязательства Microsoft по отношению к AI Моделям

Microsoft с гордостью объявила в X (ранее Twitter), что Command R+ был "доступен в первую очередь на Microsoft Azure". Компания представила подробный блог, подчеркивающий свою обширную библиотеку из более чем 1,600 базовых моделей от различных поставщиков, включая Databricks, Hugging Face и OpenAI.

"Command R+ разработан для предприятий, стремящихся использовать свои внутренние данные для настройки и точности языковых моделей," заявил Джон Монтгомери, корпоративный вице-президент платформы AI в Microsoft. Он подчеркнул, что Command R+, в сочетании с Cohere Embed и Rerank, обеспечит высочайшую точность для сложных AI приложений, полагающихся на данные предприятий.

Интенсивная Конкуренция в Облаке AI

Последний шаг Microsoft по включению Command R+ следует за ее инвестициями в предоставление проприетарной большой модели Mistral от французского стартапа с таким же названием. Поставляя поддержку OpenAI, Microsoft ставит цель установить Azure как ведущую платформу для разработчиков в поисках разнообразных AI моделей.

Тем временем Amazon активно расширяет свою библиотеку моделей на Bedrock, своей платформе разработки, ориентированной на LLM, недавно добавив семейство моделей Claude 3 от Anthropic. Доступность Command R+ на AWS SageMaker, несмотря на его отсутствие на Bedrock, представляет собой значительное достижение в конкурентном облачном рынке.

Стремление предоставить более широкий выбор AI моделей от крупных облачных провайдеров свидетельствует о их жесткой конкуренции. Чем больше моделей доступно у поставщика, тем лучше он может удовлетворить разнообразные потребности клиентов — подобно супермаркету с широким выбором брендов.

Для Cohere важным является присутствие на крупных облачных и AI платформах для роста бизнеса. Это расширение может помочь увеличить клиентскую базу, особенно в условиях вызовов с генерацией доходов, согласно отчетам. В отличие от этого, OpenAI, как сообщается, привлекла значительный рост числа корпоративных клиентов, достигнув примерно 600,000 подписчиков.

Отсутствие на Bedrock

Эйдан Гомес, генеральный директор и сооснователь Cohere, признал отсутствие Command R+ на Amazon Bedrock в X, призвав пользователей запросить его добавление.

На вопрос об отсутствии Command R+ на Amazon Bedrock, представитель AWS заявил: "AWS не раскрывает дорожные карты продуктов; однако мы стремимся предоставить нашим клиентам самые популярные и передовые базовые модели. Наши партнерства с поставщиками моделей, такими как Cohere, играют важную роль в этой миссии, и мы с нетерпением ожидаем дальнейшего сотрудничества."