미스트랄, Mixtral 8x22B 출시: 프랑스 오픈 소스 AI 시장을 제패하다

인공지능 분야에서 새로운 경쟁이 떠오르고 있습니다. 최근 프랑스의 Mistral AI가 1760억 개의 파라미터를 자랑하는 혁신적인 전문가 혼합 대형 모델, Mixtral 8x22B를 출시했습니다. 이는 시장에서 두 번째로 큰 오픈 소스 모델로, Grok-1 뒤를 잇고 있습니다.

Mixtral 8x22B는 22억 개의 파라미터를 가진 여덟 개의 전문가 모델로 구성된 혁신적인 구조 덕분에 큰 주목을 받고 있습니다. 모델 파일 크기는 약 262GB입니다. 성능 면에서 Mixtral 8x22B는 다양한 평가에서 뛰어난 성과를 보여주며, 특히 MMLU(대규모 다중 작업 언어 이해) 테스트에서 오픈 소스 모델 중 1위를 기록했습니다. 또한 Hellaswag, TruthfulQA, GSM8K와 같은 테스트에서 Llama 2 70B, GPT-3.5, Claude 3 Sonnet을 초월했습니다.

Mixtral 8x22B의 출시는 비교적 조용했지만, 오픈 소스 커뮤니티 내에서 큰 흥미를 불러일으켰습니다. 출시 직후 모델은 Hugging Face에 신속하게 제공되어 사용자들이 추가 훈련 및 배포를 할 수 있게 되었습니다. AI 검색 플랫폼 Perplexity Labs와 오픈 소스 플랫폼 Together AI 역시 필수 지원을 빠르게 제공했습니다.

성능 최적화 측면에서 AI 과학자인 Jia Yangqing는 효과적인 양자화를 통해 Mixtral 8x22B가 첫 번째로 A100/H100 GPU에서 작동할 수 있으며, 종종 단 3개의 A100 GPU만으로도 충분하다고 언급했습니다. 또한 Apple의 기계 학습 연구자인 Awni Hannun은 M2 Ultra 칩과 Apple's MLX 프레임워크와의 호환성을 강조하며, MLX 커뮤니티와 함께 양자화된 모델을 공유했습니다.

Mistral AI의 발전은 프랑스의 인공지능 분야에서의 강력한 위상을 잘 보여주며, 글로벌 AI 기술의 발전을 더욱 가속화하고 있습니다. 신속하게 성장하는 오픈 소스 커뮤니티는 Mixtral 8x22B의 출사가 개발자와 연구자에게 새로운 기회와 도전을 제공합니다.

최근 프랑스는 교육 기관에서 딥러닝 연구 센터, 기술 인큐베이터로 발전하며 AI 분야에서 중요한 위치를 확립하게 되었습니다. 파리에서 Google DeepMind의 연구소 개소는 AI 분야에서 프랑스의 매력을 강조합니다. Mistral AI의 성공은 프랑스 AI 생태계에 새로운 동력을 주입하고 있습니다.

앞으로 Mistral AI와 같은 더 많은 기업들이 등장하여 글로벌 AI 기술 발전을 이끌고 혁신과 협력을 통해 사회 발전에 기여할 것으로 기대합니다.

Most people like

Find AI tools in YBX