Microsoft dévoile Phi-Silica : un modèle de 3,3 milliards de paramètres conçu pour Copilot+ et les NPU avancés pour PC.

Microsoft intensifie ses investissements dans les petits modèles de langage (SLMs). Lors de sa conférence Build, l'entreprise a annoncé la disponibilité générale de ses modèles Phi-3 et a présenté Phi-3-vision. Suite à l'actualité concernant les PC Copilot+, Microsoft lance Phi-3-Silica, un SLM spécifiquement conçu pour les puissants unités de traitement neuronal (NPUs) de ces appareils.

Phi-3-Silica sera inclus dans tous les PC Copilot+ disponibles à partir de juin. Ce modèle est le plus petit de la gamme Phi, avec 3,3 milliards de paramètres.

Selon Microsoft, la latence du premier jeton pour Phi-3-Silica est de 650 jetons par seconde et consomme seulement 1,5 Watt, garantissant légèreté et efficacité. Cela permet au CPU et au GPU du PC de se concentrer sur d'autres tâches. De plus, sa génération de jetons peut tirer parti du cache KV du NPU, permettant au CPU de produire environ 27 jetons par seconde.

Un porte-parole de Microsoft a souligné que Phi-Silica est notable en tant que premier modèle de langage déployé localement pour Windows. Optimisé pour le NPU des PC Copilot+, il offre une inférence locale rapide sur les appareils des utilisateurs. Ce développement représente une étape importante pour fournir aux développeurs tiers des outils d'IA avancés optimisés pour Windows, améliorant ainsi la productivité et l'accessibilité au sein de l'écosystème. Les utilisateurs peuvent s'attendre à des expériences innovantes de la part des développeurs, tant internes qu'externes, cet automne.

Phi-Silica est le cinquième ajout à la série Phi-3 de Microsoft, qui comprend Phi-3-mini avec 3,8 milliards de paramètres, Phi-3-small avec 7 milliards de paramètres, Phi-3-medium avec 14 milliards de paramètres et Phi-3-vision avec 4,2 milliards de paramètres.