Intel hat seinen nächsten KI-Prozessorchip, den Gaudi 3 AI-Beschleuniger, enthüllt, der darauf abzielt, die KI-Entwicklung durch Optimierung von Arbeitsabläufen, Vereinfachung der Infrastruktur und Beschleunigung von Unternehmenslasten zu verbessern.
Der Gaudi 3 behält die Architektur seines Vorgängers bei, bietet jedoch eine deutlich verbesserte Leistung – viermal mehr Rechenleistung, doppelte Netzwerkbandbreite und 1,5-mal so viel Hochbandbreitenspeicher (HBM). Dies ermöglicht es ihm, den zunehmend anspruchsvollen Anforderungen großer Sprachmodelle (LLMs) gerecht zu werden, ohne dabei an Leistung einzubüßen.
Ursprünglich aus der Technologie von Grafikprozessoren (GPU) hervorgegangen, machen die parallelen Verarbeitungsfähigkeiten und die Multi-Tile-Architektur des Gaudi 3 ihn besonders geeignet als KI-Beschleuniger. Dieser Launch ist Teil von Intels Strategie, mit Nvidia und AMD im Markt für KI-Beschleuniger zu konkurrieren.
Intel-CEO Patrick Gelsinger stellte den Gaudi 3 beim Event AI Everywhere vor und kündigte an, dass der Chip zwar heute offiziell eingeführt wird, die allgemeine Verfügbarkeit jedoch für das dritte Quartal 2024 geplant ist, wobei einige Kunden bereits Muster erhalten haben.
Laut Jeni Barovian, Vice President für KI-Lösungen im Rechenzentrum bei Intel, „stellt generative KI eine grundlegende Transformation des Rechnens dar.“ Sie betonte, dass der Gaudi 3 die erforderliche Leistung, Skalierbarkeit und Effizienz liefern wird, um zukünftige KI-Systeme zu entwickeln.
Intel Gaudi 3: Spezifikationen und Leistung
Eitan Medina, COO von Intels Habana Labs, beschreibt den Gaudi 3 als mit einer heterogenen Computerarchitektur ausgestattet, die 64 Tensor-Prozessor-Kerne (5. Generation), 8 Matrix-Mathematik-Engines, 128 GB HBM-Kapazität mit 3,7 TB/s Bandbreite und 24x 200 GbE RoCE Ethernet-Ports beinhaltet.
Der Aufbau von Lösungen mit Gaudi 3 soll ebenso unkompliziert sein wie mit Gaudi 2. Intel hat die Netzwerkbandbreite pro Beschleuniger verdoppelt, was umfangreiche Clusterkonfigurationen basierend auf den Anforderungen der Arbeitslast ermöglicht – sei es für Inferenz, Feintuning oder Training.
Vergleich mit Nvidia GPUs
Im Vergleich zu Nvidias H100 – einer führenden GPU für das Training großer Sprachmodelle wie Llama 2 und GPT-3 – wird erwartet, dass der Gaudi 3 in Trainingstests bis zu 1,7-mal schneller ist. In Inferenztests mit Modellen wie Llama-7B und Falcon 180B schneidet der Gaudi 3 Berichten zufolge 1,5-mal schneller ab als das H100 und 1,3-mal schneller als das neuere H200. Bemerkenswert ist, dass der Gaudi 3 eine Energieeffizienz von bis zu 2,3-mal höher als das H100 bei Inferenzaufgaben aufweist.
Umfassendes Produktportfolio
Intel führt nicht nur den Gaudi 3-Chip ein, sondern auch drei ergänzende Produkte:
1. Gaudi 3 AI-Beschleunigerkarte (HL-325L): OAM-konform mit 1.835 TFLOPs und 128 GB HBM2e.
2. Universal-Baseboard (HLB-325): Bietet 14,6 PFLOPS und über 1 TB HBM2e.
3. PCI Express Add-in-Karte: Mit einem Dual-Slot und passivem Kühldesign, das vergleichbare Leistungskennzahlen wie seine Pendants aufweist.
Die Zukunft der KI in Unternehmen
Der Gaudi 3 von Intel adressiert Unternehmensbelange, wobei Sachin Katti, Senior VP für das Netzwerk- und Edge-Geschäft, betont, dass wir in eine Ära von KI-Agenten eintreten, die komplexe Arbeitsabläufe autonom bearbeiten können. Die nächste Phase der KI wird diese Agenten sehen, die proprietäre Daten nutzen und den Weg für eine signifikante Transformation in verschiedenen Branchen ebnen.
Katti hebt die Herausforderung hervor, unstrukturierte, proprietäre Daten in KI-Systeme zu integrieren, die oft CPU-abhängig und über verschiedene Formate verstreut sind. Er plädiert für ein modulares, sicheres Ökosystem, in dem Unternehmen aus einer Vielzahl kompatibler KI-Lösungen wählen können, wobei der verantwortungsbewusste Einsatz im Vordergrund steht, um Vertrauen zu gewährleisten und Vorurteile zu mindern.
Intel zielt darauf ab, die verbesserten Fähigkeiten von Gaudi zu nutzen, um Kunden aus dem Nvidia-Ökosystem abzuwerben, insbesondere angesichts steigender KI-Kosten. Da der Markt für KI-Chips voraussichtlich erheblich wachsen wird, positioniert sich Intel als alternative Option und betont einen offenen und kollaborativen Ansatz für KI-Lösungen.
Fazit
Da die generative KI einen Wendepunkt in der Informatik darstellt, führt Intels Gaudi 3 wettbewerbsfähige Leistung und Effizienz ein, die darauf abzielen, die Bereitstellung von KI in Unternehmen zu transformieren. Das Engagement des Unternehmens für offene Standards und Systemkompatibilität verdeutlicht seine Bestrebungen, die sich entwickelnde KI-Landschaft zu unterstützen und den Bedürfnissen vielfältiger Unternehmen gerecht zu werden, die die Möglichkeiten der KI nutzen möchten.
Rangliste
