Stability AI startet Stable Code 3B zur Verbesserung der KI-gestützten Codegenerierung und zur Schließung von Code-Lücken.

Generative KI-Code-Generierung: Stability AI stellt Stable Code 3B vor

Stability AI hat sein Portfolio an generativen KI-Tools mit der Einführung von Stable Code 3B erweitert, einem leistungsstarken neuen Modell, das für die Codegenerierung optimiert ist. Diese Ankündigung stellt die erste bedeutende Veröffentlichung des Unternehmens im Jahr 2024 dar und baut auf seinem Ruf als Pionier der Text-zu-Bild-Generierung mit stabiler Diffusionstechnologie auf.

Kompakt und Leistungsstark

Stable Code 3B, das über 3 Milliarden Parameter verfügt, wurde speziell für die Softwareentwicklung entwickelt und bietet beeindruckende Codevervollständigungsfunktionen. Es läuft effizient auf Standard-Laptops – ohne dedizierte GPUs. Trotz seiner geringen Größe bietet es einen starken Wettbewerbsvorteil gegenüber größeren Modellen wie Meta's CodeLLaMA 7B.

Die Bewegung hin zu kleineren, leistungsstarken Modellen wurde von Stability AI Ende 2023 mit Veröffentlichungen wie StableLM Zephyr 3B für die Textgenerierung angestoßen. Stable Code wurde erstmals im August 2023 vorgestellt und kontinuierlich verbessert.

Fortschritte bei Stable Code 3B

Die neuesten Verbesserungen in Stable Code 3B ermöglichen es dem Modell nicht nur, neue Codezeilen vorzuschlagen, sondern auch größere, unvollständige Abschnitte zu ergänzen – eine fortschrittliche Fähigkeit, die als „Fill in the Middle“ (FIM) bezeichnet wird.

Zu den Trainingsoptimierungen gehört eine erweiterte Kontextgröße mithilfe von Rotary Position Embeddings (RoPE), die eine beeindruckende Kontextlänge von bis zu 100.000 Token ermöglicht. Diese Technik wird auch von anderen Modellen, wie Meta's Llama 2 Long, verwendet.

Stable Code 3B basiert auf dem Stabilitäts-KI-Modell Stable LM 3B für natürliche Sprache und wurde speziell mit Daten aus der Softwaretechnik trainiert. Diese umfassende Ausbildung, die Code-Repositories, Entwicklerforen und verschiedene technische Ressourcen einbezog, stärkt seine Fähigkeiten in 18 Programmiersprachen, darunter Python, Java, JavaScript, Go, Ruby und C++. Erste Benchmarks zeigen, dass es die Abschlussqualität von Modellen, die mehr als doppelt so groß sind, erreicht oder sogar übertrifft.

Wettbewerbsumfeld

Der Markt für generative KI-Codegenerierung entwickelt sich rasant weiter, mit mehreren bemerkenswerten Akteuren. Neben Meta's CodeLLaMA 7B tritt das StarCoder LLM, das in Zusammenarbeit mit IBM, HuggingFace und ServiceNow entwickelt wurde, als wichtiger Mitbewerber im Bereich der 3-Milliarden-Parameter auf. Stability AI behauptet, dass Stable Code 3B in Programmiersprachen wie Python, C++, JavaScript, Java, PHP und Rust besser abschneidet als StarCoder.

Abonnementzugang

Stable Code 3B ist für kommerzielle Anwendungen über den neu eingeführten Mitglieds-Abonnementdienst von Stability AI verfügbar, der erstmals im Dezember angekündigt wurde. Mitglieder erhalten Zugang nicht nur zu Stable Code 3B, sondern auch zu einer Suite von KI-Tools, darunter SDXL für die Bildgenerierung, StableLM Zephyr 3B für Textinhalte, Stable Audio für die Audioerzeugung und Stable Video für die Videoproduktion.