Microsoftは、小型言語モデル(SLM)への投資を強化しています。Build開発者会議では、Phi-3モデルの一般提供を発表し、新たにPhi-3-visionのプレビューも公開しました。加えて、MicrosoftはCopilot+ PC向けに特別に設計されたSLM、Phi-3-Silicaを紹介しました。
Phi-3-Silicaは、6月から販売されるすべてのCopilot+ PCに搭載され、PhiSiriーズの中で最も小型で、33億のパラメータを特徴としています。Microsoftによると、Phi-3-Silicaの平均トークン生成速度は1秒あたり650トークンで、消費電力はわずか1.5ワットです。これにより、PCのCPUやGPUは他のタスクに集中できるため、パフォーマンスが向上します。また、トークン生成はNPUのKVキャッシュを活用でき、CPUは秒間約27トークンを生成します。
Microsoftのスポークスパーソンは、Phi-SilicaがWindows向けの初のローカルデプロイされる言語モデルであることを強調しました。Copilot+ PCのNPUに最適化されており、ユーザーのデバイスで迅速なローカル推論を実現します。この開発は、サードパーティ開発者にWindows向けの高度なAIツールを提供し、生産性とアクセス性の向上を図る重要なステップです。今年の秋には、ファーストパーティとサードパーティの開発者から革新的な体験が期待されます。
Phi-Silicaは、MicrosoftのPhi-3Siriーズの5番目の追加モデルで、Phi-3-mini(33億パラメータ)、Phi-3-small(70億パラメータ)、Phi-3-medium(140億パラメータ)、Phi-3-vision(42億パラメータ)も含まれています。