Ein neues Open-Source-Tool zur KI-Codegenerierung, AlphaCodium, ist aufgetaucht, inspiriert von Google DeepMinds AlphaCode und dessen aktueller Iteration, AlphaCode 2, die von Gemini unterstützt wird. Diese Woche erregte AlphaCodium erhebliche Aufmerksamkeit auf X/Twitter.
„Wir sind einen Schritt näher daran, dass KI Code generiert, der Menschen übertrifft!“ sagte Santiago Valdarrama. „AlphaCodium ist nun die führende Methode zur Codegenerierung und übertrifft DeepMinds AlphaCode sowie AlphaCode 2 ohne zusätzliche Feinjustierung!“
Besonders lobte Andrej Karpathy von OpenAI, ehemaliger KI-Direktor bei Tesla, AlphaCodiums innovativen Ansatz der Fluss-Engineering, der die Codegenerierung verbessert. Diese neue Methode geht weg vom herkömmlichen Eingabe-Antwort-Format hin zu einem iterativen Fluss-Paradigma, das es dem Modell ermöglicht, Antworten schrittweise zu entwickeln.
Die Fluss-Engineering-Technik von AlphaCodium verbessert große Sprachmodelle (LLMs) für codespezifische Aufgaben, indem sie Elemente von Generativen Adversarialen Netzwerken (GANs) integriert. Diese Architektur, die von Ian Goodfellow 2014 eingeführt wurde, kombiniert ein Code-generierendes Modell mit einem adversarialen Modell, das die Code-Integrität durch Tests, Reflexion und Spezifikationsabgleich sicherstellt.
Der Prozess beginnt mit Eingaben, gefolgt von mehreren Vorverarbeitungsschritten, in denen AlphaCodium das Problem analysiert und schließlich zu einer ersten Code-Lösung gelangt. Es erstellt dann zusätzliche Tests, um die Lösung zu verfeinern, was zu einem robusten finalen Code führt.
Entwickelt von dem in Tel Aviv ansässigen Startup CodiumAI, hat AlphaCodium das Ziel, Entwicklern zu helfen, schneller und fehlerfrei zu arbeiten. Das Tool wurde an dem CodeContests-Datensatz getestet, der etwa 10.000 Wettbewerbsprogrammierungsprobleme umfasst. Es steigerte die Genauigkeit von GPT-4 um 19-44 %, was einen bedeutenden Fortschritt in den Fähigkeiten von LLMs zur Codegenerierung darstellt.
CodiumAI, 2022 gegründet und im März 2023 mit 10,6 Millionen Dollar finanziert, bietet ein AlphaCodium GitHub-Repository und ein umfassendes Paper mit dem Titel „Code Generation with AlphaCodium: From Prompt Engineering to Flow Engineering“ an.
Mitbegründer und CEO Itamar Friedman äußerte sich überrascht über die Aufmerksamkeit, die AlphaCodium erhalten hat und erkannte es als Durchbruch für die Entwicklergemeinschaft an. Er betonte, dass AlphaCodium ein System und einen Algorithmus repräsentiert, der eine reibungslose Kommunikation zwischen einem Codegenerator und einem Kritiker-Modell erleichtert.
„Das ist das Wesen dessen, was wir einführen – es ist entscheidend, es als Fluss zu konzipieren, weshalb wir es 'Flow Engineering' nennen“, erklärte Friedman. Dieser iterative Fluss ermöglicht es der KI nicht nur, Boilerplate-Code zu produzieren, sondern auch funktionalen und genauen Code bereitzustellen.
In der wettbewerbsintensiven Landschaft sieht Friedman OpenAI (Schöpfer von Codex) und Google DeepMind (Entwickler von AlphaCode und AlphaCode 2) als bedeutende Rivalen. Er erkennt jedoch die Technologie zur Code-Integrität als die primäre Konkurrenz an.
„Inspiriert von DeepMind“, bemerkte er, „habe ich die Bedeutung der Code-Integrität mit OpenAI-CEO Sam Altman besprochen.“ Friedman betonte eine gemeinsame Vision mit Altman und hob die Bedeutung der Code-Integrität für die nächste Generation der Softwareentwicklung und KI-Ausrichtung hervor.
Friedman wies darauf hin, dass obwohl Google DeepMind das Flow Engineering in ihrer AlphaGo-Lösung integriert hat, dies bei AlphaCode fehlte. „Vielleicht wurde es im mainstreammäßigen Streben nach besseren großen Sprachmodellen übersehen“, schlug er vor.
„Die Herausforderung der KI, funktionalen Code zu generieren, besteht nicht nur darin, ein verbessertes LLM zu benötigen; es geht darum, einen Fluss zu etablieren.“
Rangliste
