Cerebras Systems et Core42 ont lancé la phase deux de leur projet révolutionnaire, la construction des plus grands superordinateurs AI interconnectés au monde, appelés Condor Galaxy 2. Conçus pour accélérer l'IA générative, ces superordinateurs visent une capacité de calcul allant jusqu'à 36 exaFLOPs, en collaboration avec Core42, une filiale du groupe technologique basé aux Émirats arabes unis, G42, dont le siège est à Abou Dabi.
Les partenaires ont annoncé le début de cette ambitieuse seconde phase, qui comportera neuf superordinateurs interconnectés, visant collectivement une capacité de calcul de 36 exaFLOPs. S'appuyant sur le succès de Condor Galaxy 1, Condor Galaxy 2 (CG-2) devrait fournir quatre exaFLOPs et 54 millions de cœurs optimisés pour l'IA. À terme, le réseau atteindra huit exaFLOPs et 108 millions de cœurs, affirmant l'engagement de Cerebras et Core42 à établir un nouveau standard dans le domaine du supercalcul AI.
Cerebras adopte une approche unique en fabriquant des wafers de silicium entiers, de la taille de pizzas, remplis de centaines de puces. Cette méthode permet d'atteindre une capacité impressionnante de 54 millions de cœurs au sein d'un seul superordinateur.
Talal Alkaissi, directeur produit et partenariats mondiaux chez Core42, a déclaré : « Notre partenariat avec Cerebras nous pousse vers notre objectif commun de construire les plus grands et rapides superordinateurs AI. Avec d'énormes ensembles de données dans la santé, l'énergie et les études climatiques, nous repoussons les limites des capacités actuelles de l'IA, facilitant la recherche avancée dans divers secteurs. »
Cette collaboration aborde trois éléments critiques nécessaires à l'entraînement de grands modèles d'IA : une puissance de calcul étendue, des ensembles de données diversifiés et une expertise spécialisée en IA. Ensemble, ils démocratisent l'accès à un calcul IA de premier plan, permettant aux utilisateurs de développer des modèles fondamentaux de pointe.
Le PDG de Cerebras, Andrew Feldman, a souligné le succès de ce partenariat, notant que les avancées ont conduit à un doublement de la capacité de calcul de Condor Galaxy 1 et à une amélioration de 50 % des performances d'entraînement grâce aux mises à jour logicielles. « Nous sommes ravis d'annoncer la poursuite de ce partenariat exceptionnel, » a déclaré Feldman. « Après avoir lancé neuf superordinateurs et initié la seconde phase, nous formons des modèles qui font progresser tout le domaine, y compris le développement d'un modèle publicitaire génératif pour 400 millions de locuteurs arabes. »
Andrew Jackson, directeur AI chez Core42, a commenté l'efficacité et l'innovation accrues possibles grâce à leur collaboration avec les systèmes CS-2 de Cerebras. Les applications du réseau Condor Galaxy s'étendent à des secteurs vitaux comme la santé, l'énergie, le changement climatique et la recherche en IA. Parmi les développements notables figurent Med42, un assistant médical en IA générative, et Jais 30B, un modèle de langue arabe de premier plan, qui illustrent les progrès significatifs réalisés avec CG-1.
Bien que Cerebras n'ait pas encore figuré sur la liste des 500 superordinateurs, qui utilise un standard non optimisé pour l'IA, Feldman a souligné que leurs machines se classent parmi les plus grandes au monde. « En termes de flops, nous sommes parmi les plus grands, et à mesure que nous connectons ces systèmes, notre capacité continue d'augmenter, » a déclaré Feldman. « Nous sommes impatients d'explorer les possibilités innovantes que ces machines offrent. »
L'entreprise entraîne actuellement des modèles d'IA ayant suscité une attention significative, y compris un modèle avec plus d'un milliard de téléchargements sur Hugging Face et des applications dans l'assistance médicale et le traitement sismique dans une université saoudienne. De plus, Feldman a noté que leurs réalisations ne se limitent pas à une simple puissance de calcul ; ils ont démontré une vitesse remarquable, affirmant que leurs systèmes sont 130 fois plus rapides que les GPU Nvidia pour certains tests.
Core42 prévoit d'introduire sept superordinateurs supplémentaires — CG-3 à CG-9 — en 2024, contribuant à une capacité de calcul totale anticipée de 36 exaFLOPs. Cette vaste constellation, comprenant 576 systèmes Cerebras CS-2 et plus de 654 000 cœurs CPU AMD, est prête à transformer la recherche et le développement en IA à l'échelle mondiale.
« Avec CG-1 terminé, nous assistons à des impacts tangibles de notre partenariat, » a affirmé Feldman. « Avec Core42, nous reconfigurons le paysage du calcul IA et faisons rapidement progresser nos capacités d'entraînement de modèles de pointe. »
Cette initiative est la première fois que Cerebras s'associe non seulement pour construire un superordinateur IA dédié, mais aussi pour le gérer et l'exploiter. Le Condor Galaxy est conçu pour permettre à Core42 et à ses clients cloud de développer des modèles solides et innovants, accélérant ainsi le rythme de l'innovation.
La collaboration entre Cerebras et Core42 a considérablement avancé les applications de l'IA dans la santé avec Med42 et a rendu les modèles génératifs accessibles à plus de 400 millions de locuteurs arabes avec Jais 30B. Les efforts pionniers sur CG-1 ont également inclus des recherches innovantes sur le changement climatique et des avancées dans le calcul haute performance.
Les plans pour CG-3 à CG-9 avancent, la puissance de calcul totale devant atteindre 36 exaFLOPs à l'achèvement. L'accès à CG-1 est disponible dès maintenant. Feldman a également abordé les réglementations d'exportation, soulignant la nécessité de collaborer avec le Département du Commerce des États-Unis pour l'expédition d'équipements au Moyen-Orient, notant que l'entreprise n'exporte actuellement pas vers la Chine.
Classement
