AWS, 아마존 베드락 향상을 위한 미스트랄 오픈 소스 AI 모델 도입

Home AI 뉴스 AWS, 아마존 베드락 향상을 위한 미스트랄 오픈 소스 AI 모델 도입

클라우드 서버 제공업체 경쟁 환경에서 중대한 발전이 있었습니다. Amazon Web Services (AWS) 수석 개발자 옹호자 Donnie Prakoso는 최근 블로그 포스트를 통해 프랑스 스타트업 Mistral과의 새로운 협업을 발표했습니다. 이 파트너십을 통해 오픈 소스 대형 언어 모델(LLM)을 AWS의 생성 AI 애플리케이션을 위한 관리형 서비스인 Amazon Bedrock에 통합하게 됩니다. 곧 Mistral의 두 모델인 Mistral 7B와 Mixtral 8x7B가 서비스에 통합될 예정이며, 구체적인 출시일은 아직 발표되지 않았습니다.

AWS 고객을 위한 Mistral 모델의 장점

Prakoso는 Mistral 모델의 여러 가지 장점을 강조했습니다:

- Mistral 7B: 효율성을 위해 설계된 이 모델은 최소 메모리로도 강력한 성능을 발휘하며, 텍스트 요약, 분류, 완성 및 코드 생성 등 다양한 용도에 적합합니다.

- Mixtral 8x7B: 더 발전된 옵션인 Mixtral은 전문가 혼합(MoE) 아키텍처를 적용하여 텍스트 요약, 질문 응답, 텍스트 분류, 텍스트 완성 및 코드 생성에서 뛰어난 성능을 보여줍니다. 영어, 프랑스어, 독일어, 스페인어 및 이탈리아어 등 여러 언어를 포함한 다양한 언어 지원이 특징입니다. Mixtral 8x7B는 이전에 세계 최고 오픈 소스 LLM로 인정받았으나, 최근 Smaug-72B에 의해 성능이 뛰어넘어졌습니다.

Amazon Bedrock에 Mistral 통합의 이유

AWS가 Mistral 모델을 Amazon Bedrock에 통합하기로 한 이유는 다음과 같습니다:

1. 비용-성능 균형: Mistral 모델은 경제성과 높은 성능을 조화롭게 제공하여, 비용 효율적인 생성 AI 솔루션을 원하는 개발자 및 조직에 이상적입니다.

2. 신속한 추론 속도: 낮은 지연 시간과 높은 처리량을 위해 최적화된 Mistral 모델은 생산 환경에서 효율적으로 확장할 수 있어 사용자 경험을 향상시킵니다.

3. 투명성과 커스터마이징: Mistral의 투명성과 맞춤화에 대한 헌신은 조직이 규제 요건을 충족하고 특정 요구에 맞게 모델을 조정하는 데 도움을 줍니다.

4. 접근성: 넓은 대상을 위해 설계된 Mistral 모델은 다양한 조직의 애플리케이션에 생성 AI 기능을 통합하는 데 용이합니다.

이번 전략적 통합을 통해 AWS는 종합적인 AI 모델 포트폴리오를 제공하게 되며, 이는 Microsoft가 Meta의 Llama AI 모델을 Azure AI Studio에 추가한 동향과도 맥을 같이합니다. 또한 AWS는 자체 개발 중인 고유 생성 AI 기반 모델과 함께 다른 AI 모델 제공업체인 Anthropic에도 투자하고 있습니다.

가트너는 2024년, 생성적 AI, IAM, 그리고 문화 프로그램이 사이버 보안을 혁신할 것이라고 예측했습니다.

AI 칩 경쟁: Groq CEO, Nvidia에 도전하며 2024년 말까지 대부분의 스타트업이 빠른 LPU를 채택할 것이라 예측