生成AIによるコード生成:Stability AIがStable Code 3Bを発表
Stability AIは、新しい強力なコード生成モデル「Stable Code 3B」を発表し、生成AIツールのラインアップを強化しました。この発表は、2024年の最初の重要なリリースであり、安定した拡散技術によるテキストから画像への生成の先駆者としての同社の評判をさらに高めるものです。
コンパクトながら高性能
Stable Code 3Bは、30億パラメータを有し、ソフトウェア開発に最適化されています。標準的なラップトップで効率的に動作し、専用GPUを必要とせず、優れたコード補完機能を提供します。そのサイズは小さいものの、MetaのCodeLLaMA 7Bなどの大規模モデルに対抗する力を持っています。ここでのトレンドは、2023年後半にStability AIがStableLM Zephyr 3Bをリリースすることで始まりました。
Stable Code 3Bの進展
Stable Code 3Bの最新の改善点は、新しいコード行を提案するだけでなく、大きな未完成のセクションも補完できる特殊な能力「Fill in the Middle(FIM)」を備えています。トレーニングの最適化には、Rotary Position Embeddings(RoPE)を用いた拡張コンテキストサイズが含まれており、最大100,000トークンのコンテキストを実現しています。この手法は、MetaのLlama 2 Longなど他のモデルでも採用されています。
Stable Code 3Bは、Stability AIのStable LM 3B自然言語モデルを基盤にし、特にソフトウェアエンジニアリングデータに基づいて訓練されています。この包括的なトレーニングには、コードリポジトリ、開発者フォーラム、さまざまな技術リソースが含まれており、Python、Java、JavaScript、Go、Ruby、C++を含む18のプログラミング言語での高いプロフィシエンシーを支えています。初期のベンチマークでは、同サイズの他モデルを上回るコード補完品質を示しています。
競争環境
生成AIによるコード生成市場は急速に進化しており、幾つかの注目すべきプレーヤーが存在します。MetaのCodeLLaMA 7Bの他にも、IBM、HuggingFace、ServiceNowと共に開発されたStarCoder LLMが30億パラメータの領域で主要な競争相手として台頭しています。Stability AIは、Stable Code 3BがPython、C++、JavaScript、Java、PHP、Rustといったプログラミング言語でStarCoderを上回ると主張しています。
サブスクリプションアクセス
Stable Code 3Bは、Stability AIの新しいメンバーシップサブスクリプションサービスを通じて商業利用が可能で、これは2023年12月に最初に発表されました。メンバーは、Stable Code 3Bに加えて、画像生成のためのSDXL、テキストコンテンツのためのStableLM Zephyr 3B、音声生成のためのStable Audio、動画生成のためのStable VideoなどのAIツール一式にアクセスできます。