Stability AI lance Stable Code 3B pour améliorer la génération de code alimentée par l'IA et combler les lacunes de code.

Génération de Code avec l'IA Générative : Stability AI Lance Stable Code 3B

Stability AI a enrichi sa gamme d'outils d'IA générative avec le lancement de Stable Code 3B, un nouveau modèle puissant optimisé pour la génération de code. Cette annonce marque la première sortie majeure de l'année 2024, s'appuyant sur la réputation de l'entreprise pour son innovation dans la génération d'images à partir de texte grâce à la technologie de diffusion stable.

Compact et Performant

Stable Code 3B, avec ses 3 milliards de paramètres, est conçu pour le développement logiciel, offrant des capacités impressionnantes de complétion de code tout en fonctionnant efficacement sur des ordinateurs portables standards, sans nécessiter de GPU dédiés. Malgré sa taille réduite, il rivalise efficacement avec des modèles plus grands, comme le CodeLLaMA 7B de Meta.

La tendance vers des modèles compacts et performants a été lancée par Stability AI fin 2023 avec des sorties telles que StableLM Zephyr 3B pour la génération de texte. Stability AI a introduit Stable Code en août 2023 et continue d'améliorer ses fonctionnalités.

Avancées de Stable Code 3B

Les améliorations récentes de Stable Code 3B permettent au modèle non seulement de suggérer de nouvelles lignes de code, mais aussi de compléter de plus grandes sections incomplètes grâce à une capacité avancée appelée Fill in the Middle (FIM).

Les optimisations d'entraînement incluent un contexte étendu utilisant les Embeddings de Position Rotatifs (RoPE), permettant une longueur de contexte impressionnante allant jusqu'à 100 000 tokens. Cette technique est également utilisée par d'autres modèles, comme Llama 2 Long de Meta.

Bâti sur le modèle de langage naturel Stable LM 3B de Stability AI, Stable Code 3B a été spécifiquement formé sur des données d'ingénierie logicielle. Cette formation approfondie, qui a intégré des dépôts de code, des forums de développeurs et diverses ressources techniques, renforce sa compétence dans 18 langages de programmation, notamment Python, Java, JavaScript, Go, Ruby et C++. Les premiers benchmarks indiquent qu'il égalise ou dépasse la qualité de complétion de modèles deux fois plus volumineux.

Paysage Concurrentiel

Le marché de la génération de code avec l'IA générative évolue rapidement, avec plusieurs acteurs notables. Aux côtés de CodeLLaMA 7B de Meta, le modèle StarCoder, développé en collaboration avec IBM, HuggingFace et ServiceNow, émerge comme un concurrent majeur dans l'espace des 3 milliards de paramètres. Stability AI affirme que Stable Code 3B surpasse StarCoder dans des langages comme Python, C++, JavaScript, Java, PHP et Rust.

Accès par Abonnement

Stable Code 3B est disponible pour un usage commercial via le nouveau service d'abonnement de membres de Stability AI, initialement annoncé en décembre. Les membres ont accès non seulement à Stable Code 3B mais aussi à une suite d'outils d'IA, y compris SDXL pour la génération d'images, StableLM Zephyr 3B pour le contenu textuel, Stable Audio pour la génération audio et Stable Video pour la génération vidéo.