Mistral startet Mixtral 8x22B: Dominanz im französischen Open-Source-KI-Markt

Ein neuer Wettbewerb im Bereich der künstlichen Intelligenz zeichnet sich ab. Das französische Unternehmen Mistral AI hat kürzlich sein bahnbrechendes Expertenmodell Mixtral 8x22B eingeführt, das mit beeindruckenden 176 Milliarden Parametern das zweitgrößte Open-Source-Modell auf dem Markt ist, nur hinter Grok-1.

Mixtral 8x22B hat aufgrund seiner innovativen Struktur, bestehend aus acht Expertenmodellen mit jeweils 22 Milliarden Parametern, erhebliche Aufmerksamkeit erregt. Die Gesamtdatenmenge des Modells beträgt etwa 262 GB. In Bezug auf die Leistung hebt sich Mixtral 8x22B in verschiedenen Tests hervor, insbesondere im MMLU (Massive Multitask Language Understanding), wo es als führendes Open-Source-Modell eingestuft wird. Zudem übertraf es Wettbewerber wie Llama 2 70B, GPT-3.5 und Claude 3 Sonnet in Tests wie Hellaswag, TruthfulQA und GSM8K.

Obwohl der Launch von Mixtral 8x22B relativ zurückhaltend war, löste er erhebliche Begeisterung in der Open-Source-Community aus. Kurz nach der Veröffentlichung wurde das Modell schnell auf Hugging Face bereitgestellt, was den Nutzern die weitere Schulung und den Einsatz ermöglichte. Die AI-Suchplattform Perplexity Labs und die Open-Source-Plattform Together AI unterstützten ebenfalls schnell.

Im Hinblick auf die Leistungsoptimierung hat der KI-Wissenschaftler Jia Yangqing festgestellt, dass Mixtral 8x22B mit effektiver Quantisierung auf vier A100/H100 GPUs arbeiten kann und oft nur drei A100 GPUs benötigt. Darüber hinaus betonte der Apple-Forscher Awni Hannun die Kompatibilität des Modells mit dem M2 Ultra Chip im MLX-Framework von Apple und teilte quantisierte Modelle mit der MLX-Community.

Die Fortschritte von Mistral AI verdeutlichen Frankreichs bedeutende Präsenz im KI-Sektor und fördern die globale Entwicklung der KI-Technologie weiter. Die rasant wachsende Open-Source-Community stellt sicher, dass der Launch von Mixtral 8x22B neue Chancen und Herausforderungen für Entwickler und Forscher mit sich bringt.

In den letzten Jahren hat Frankreich bemerkenswerte Fortschritte in der KI erzielt und sich von Ausbildungsinstituten zu Forschungszentren für tiefes Lernen und Technologieinkubatoren entwickelt, wodurch es sich als wichtiger Akteur in der globalen KI-Landschaft etabliert hat. Die Eröffnung eines Labors von Google DeepMind in Paris unterstreicht die Attraktivität des Landes im KI-Bereich. Der Erfolg von Mistral AI verleiht dem französischen KI-Ökosystem neuen Schwung.

In der Zukunft erwarten wir das Aufkommen weiterer Unternehmen wie Mistral AI, die die Fortschritte in der globalen KI-Technologie vorantreiben und zur Verbesserung der Gesellschaft durch Innovation und Kooperation beitragen.