MistralMixtral 8x22Bを発表:フランスのオープンソースAI市場を制覇

人工知能の分野で新たな競争が始まっています。最近、フランスの企業Mistral AIが、画期的なエキスパートミックス大規模モデル「Mixtral 8x22B」を発表しました。このモデルは、驚異的な1760億のパラメータを持ち、市場で2番目に大きいオープンソースモデルとして注目を集めています。1位はGrok-1です。

Mixtral 8x22Bは、22億のパラメータを有する8つのエキスパートモデルで構成されており、その総モデルファイルサイズは約262GBにも達します。パフォーマンス面では、特にMMLU(Massive Multitask Language Understanding)テストにおいて、オープンソースモデルの中で最も優れた成績を収めています。また、Hellaswag、TruthfulQA、GSM8Kなどのテストでも、Llama 2 70B、GPT-3.5、Claude 3 Sonnetを上回る結果を示しました。

Mixtral 8x22Bのリリースは控えめでしたが、オープンソースコミュニティ内で大きな興奮を引き起こしました。モデルの発表から間もなく、Hugging Face上で迅速に利用可能となり、ユーザーがさらにトレーニングおよび展開できるようになりました。AI検索プラットフォームPerplexity LabsやオープンソースプラットフォームTogether AIもすぐに支援を行いました。

パフォーマンス最適化に関して、AI科学者Jia Yangqingは、効果的な量子化を行うことで、Mixtral 8x22Bは4つのA100/H100 GPUで動作可能であり、場合によっては3つのA100 GPUで十分であると指摘しています。また、Appleの機械学習研究者Awni Hannunは、AppleのMLXフレームワークにおいてM2 Ultraチップとの互換性を強調し、MLXコミュニティに量子化モデルを提供しました。

Mistral AIの進展は、フランスが人工知能分野で強力な存在感を示していることを物語っており、グローバルなAI技術の発展をさらに後押ししています。急成長しているオープンソースコミュニティは、Mixtral 8x22Bの導入によって、開発者や研究者に新たな機会と課題を提供しています。

近年、フランスはAI分野で顕著な進展を遂げており、トレーニング機関から深層学習研究センターやテクノロジーインキュベーターへの進化を経て、グローバルなAIの舞台で重要な役割を果たしています。Google DeepMindがパリにラボを開設したことは、AI分野におけるフランスの魅力を強調しています。Mistral AIの成功は、フランスのAIエコシステムに新たな勢いを注入しています。

今後は、Mistral AIのような企業がさらに登場し、革新と協力を通じて世界のAI技術を進展させ、社会の向上に寄与することが期待されます。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles