EdgeCortix: Revolutionierung der Energieeffizienten KI-Verarbeitung am Edge
EdgeCortix führt den Weg zur Entwicklung energieeffizienter KI-Prozessoren für Edge-Computing und steht in starkem Wettbewerb mit Nvidia, das mit 2,76 Billionen Dollar bewertet ist. Sakyasingha Dasgupta, CEO des in Japan ansässigen Unternehmens und erfahrener KI-Experte mit 25 Jahren Berufserfahrung, gründete EdgeCortix im Juli 2019. Kürzlich sprach ich mit ihm bei den Japan-U.S. Innovation Awards an der Stanford University, wo EdgeCortix für seine Beiträge zur KI-Technologie ausgezeichnet wurde.
Innovative Anfänge
Dasgupas Reise in die KI-Welt begann in seiner Jugend, als er Spiele entwickelte und sein Interesse an diesem Bereich entdeckte. Er hat nahezu zwei Jahrzehnte in der KI gearbeitet, noch vor dem Aufstieg des Deep Learnings, und signifikante Forschungen zu frühen neuromorphen Systemen durchgeführt. In einem sich schnell entwickelnden Bereich erkannte Dasgupta eine kritische Lücke: Traditionelle Prozessoren konnten mit den heutigen generativen KI-Modellen, die massive Datenverarbeitungsfähigkeiten erfordern, nicht Schritt halten. „Als wir anfingen, konzentrierten wir uns auf einen softwarezentrierten Ansatz“, erklärt er und beobachtet einen wachsenden Trend in der Branche. Dieser Ansatz ermöglicht nahtlose Übergänge zu neuer Hardware für Nutzer, die derzeit auf CPUs oder GPUs angewiesen sind, und vereinfacht die Integration.
Ambitionierte Ziele für Edge-Computing
Dasgupta stellt sich eine Zukunft vor, in der Systeme am Netzwerkrand, wie Robotersysteme, intelligente Stadtechnologien und Satellitenanwendungen, nahezu Cloud-Leistungsniveau erreichen. „Unsere Kernmission ist es, die Rechenleistung effizient zu gestalten, den Energieverbrauch zu reduzieren und gleichzeitig die Leistung zu maximieren“, sagt er. Dies steht im Einklang mit einem größeren Branchenbewegung hin zu heterogenen Rechenumgebungen, die vielfältige Architekturen wie Arm, RISC-V und Nvidia GPUs integrieren.
Von MERA zu Sakura-II
EdgeCortix hat robuste Software entwickelt und innovative Chips entworfen. Die Haupttechnologie des Unternehmens, der MERA-Compiler und das Software-Framework, übersetzt maschinenorientierten Code in eine höherstufige Sprache. Diese Plattform unterstützt führende Prozessoren wie AMD, Intel, Arm und RISC-V und erleichtert die Integration in bestehende Systeme. Frühzeitige Anwender sind unter anderem Renesas, ein großer japanischer Chip-Hersteller.
Im Rahmen seiner Mission wurde EdgeCortix zu einem fabless Halbleiterunternehmen und entwickelte die Sakura-Chip-Lösung. Der neueste Sakura-II AI Accelerator Co-Prozessor liefert 60 Billionen Operationen pro Sekunde bei nur acht Watt Energieverbrauch. Seine latenzarme, zur Laufzeit konfigurierbare Architektur, bekannt als Dynamic Neural Accelerator (DNA), ist besonders gut für anspruchsvolle Edge-AI-Workloads geeignet, einschließlich generativer KI-Anwendungen in den Bereichen Vision, Sprache und Audio.
Anerkennung und Anwendungen
Im Jahr 2024 wurde EdgeCortix vom Weltwirtschaftsforum als Technologie-Pionier ausgezeichnet und für sein Potenzial zur Innovation im Bereich Edge-KI in verschiedenen Sektoren wie Verteidigung, Robotik, intelligente Städte und autonome Fahrzeuge anerkannt. Kooperationen mit Branchenführern, wie Verbesserungen an der RZ/V-MPU-Serie, unterstreichen das Engagement des Unternehmens für leistungsstarke KI-Inferenzlösungen.
Mit etwa 51 % der Kunden in Japan, 29 % in den USA und dem Rest in EMEA und Indien hat das Unternehmen erhebliche Fortschritte erzielt und ein schnelles Umsatzwachstum beobachtet. „Wir haben mit unseren ersten Sakura-Chips den Produkt-Markt-Fit erreicht“, bemerkt Dasgupta, während die zweite Generation sich auf die Massenproduktion im generativen KI-Markt vorbereitet.
Während EdgeCortix weiterhin skaliert, sucht das Unternehmen nach zusätzlichem Kapital, nachdem es nahezu 40 Millionen Dollar in Eigen- und Fremdkapital gesammelt hat, um seine innovativen Bemühungen im Bereich Edge-AI-Verarbeitung zu fördern.