코헤어의 새로운 AI 커맨드 R+가 세이지메이커와 아줄에서 출시되었지만, 베드락에서는 아직 제공되지 않습니다.

이번 주 초, 토론토에 본사를 둔 스타트업 코히어는 전 구글 AI 연구원들이 공동 창립한 기업을 위해 준비된 AI 대형 언어 모델(Command R+)을 출시했습니다. 이 발표에서는 Command R+가 챗GPT의 기반 모델인 OpenAI의 GPT-4를 여러 일반 AI 벤치마킹 테스트에서 초과 달성한 인상적인 지표들이 강조되었습니다.

Command R+는 현재 마이크로소프트의 Azure 클라우드 서비스와 오늘부터 아마존 SageMaker에서도 이용 가능합니다.

가격 구조

Azure에서 Command R+에 접근하는 비용은 모델 출력에 대해 1,000 토큰당 $0.015, 입력 프롬프트에 대해서는 1,000 토큰당 $0.003입니다. 토큰은 단어 또는 단어의 일부를 나타내며, 오픈 소스 개발자인 사이먼 윌리슨의 훌륭한 상호작용 예시를 확인할 수 있습니다. 반면 SageMaker에서는 실시간 추론에 대해 시간당 $82.89에서 $146.93까지 다양하게 요금이 책정됩니다.

마이크로소프트의 AI 모델에 대한 약속

마이크로소프트는 X(구 트위터)에서 Command R+가 "마이크로소프트 Azure에서 처음으로 제공된다"고 자랑스럽게 발표했습니다. 회사는 Databricks, Hugging Face, OpenAI를 포함한 다양한 공급자로부터 1,600개 이상의 기초 모델 라이브러리를 강조하는 상세 블로그를 공개했습니다.

"Command R+는 기업들이 내부 데이터를 활용하여 맞춤형 정밀 언어 모델을 개발할 수 있도록 설계되었습니다."라고 마이크로소프트 AI 플랫폼 부사장인 존 몽고메리는 밝혔습니다. 그는 Command R+가 Cohere Embed 및 Rerank와 결합되어 기업 데이터를 기반으로 하는 고급 AI 애플리케이션에 최상급 정밀도를 제공할 것이라고 강조했습니다.

클라우드 AI 제품 간 치열한 경쟁

마이크로소프트의 Command R+ 포함 결정은 동일한 이름의 프랑스 AI 스타트업 Mistral의 독점 모델에 대한 투자 이후 이루어진 것입니다. OpenAI에 대한 지속적인 지원과 함께, 마이크로소프트는 다양한 AI 모델 옵션을 모색하는 기업 개발자들에게 Azure를 최고의 목적지로 만들기 위해 노력하고 있습니다.

한편, 아마존은 최근 Anthropic의 Claude 3 모델 군을 추가하며 LLM 중심 개발 플랫폼인 Bedrock의 모델 라이브러리를 확장하고 있습니다. Bedrock에 Command R+가 없지만 AWS SageMaker에서 제공되는 것은 경쟁적인 클라우드 시장에서 중요한 발전을 의미합니다.

주요 클라우드 제공업체들이 더 넓은 AI 모델 선택을 제공하려는 노력은 치열한 경쟁을 반영합니다. 제공업체가 제공할 수 있는 모델 수가 많을수록 다양한 고객의 요구를 더 잘 충족할 수 있습니다. 이는 다양한 브랜드를 갖춘 슈퍼마켓에 비유할 수 있습니다.

코히어에게 주요 클라우드 및 AI 개발 플랫폼에 존재감을 키우는 것은 비즈니스 성장에 필수적입니다. 이러한 확장은 보고서에 따르면 수익 창출에 어려움을 겪고 있는 가운데 고객 기반 확대에 기여할 수 있습니다. 반면, OpenAI는 약 600,000명의 기업 고객 성장을 달성한 것으로 전해졌습니다.

Bedrock에서의 제외

코히어의 CEO이자 공동 설립자인 에이단 고메즈는 X에서 Command R+가 아마존 Bedrock에서 포함되지 않은 점을 인정하며 사용자가 추가 요청을 하도록 권장했습니다.

Command R+의 Bedrock 미포함에 대한 질문에 AWS 대변인은 "AWS는 제품 로드맵을 공개하지 않지만, 고객에게 가장 인기 있고 혁신적인 기초 모델을 제공하기 위해 최선을 다하고 있습니다. Cohere와 같은 모델 제공자와의 파트너십은 이 사명의 핵심이며, 앞으로도 더 많은 협력을 기대합니다."라고 밝혔습니다.