L'affinage des grands modèles de langage (LLMs) est devenu essentiel pour les entreprises souhaitant personnaliser l'IA pour des tâches spécifiques et améliorer l'expérience utilisateur. Cependant, les exigences financières et computationnelles de cette technique limitent souvent son accès aux entreprises disposant de ressources limitées.
Pour relever ces défis, des chercheurs ont développé des algorithmes qui réduisent considérablement les coûts liés à l'affinage des LLMs. L'une des innovations récentes est S-LoRA, un projet collaboratif entre l'Université de Stanford et l'UC Berkeley.
Débloquer une IA Économique
S-LoRA permet aux organisations de déployer des LLMs affinés à des coûts drastiquement réduits, leur permettant d'exécuter des centaines ou même des milliers de modèles sur une seule unité de traitement graphique (GPU). Cette avancée ouvre la voie à de nombreuses applications de LLM qui étaient auparavant trop coûteuses ou nécessitant trop de ressources.
Comprendre l'Adaptation de Bas Rang
Traditionnellement, l'affinage des LLMs implique le réentraînement d'un modèle pré-entraîné, ce qui nécessite de modifier tous les paramètres pour une tâche spécifique. Étant donné que les LLMs contiennent souvent des milliards de paramètres, cette méthode sollicite beaucoup les ressources computationnelles.
Les techniques d'affinage efficace des paramètres (PEFT), comme l'adaptation de bas rang (LoRA), offrent une alternative en ajustant sélectivement un sous-ensemble minimal de paramètres du modèle. Développé par Microsoft, LoRA réduit considérablement le nombre de paramètres entraînables tout en maintenant une précision comparable à celle de l'affinage complet. Cette efficacité se traduit par des besoins en mémoire et en calcul réduits.
L'efficacité de LoRA a conduit à une adoption généralisée, avec de nombreux adaptateurs créés pour des LLMs pré-entraînés et des modèles de diffusion. Après affinement, les utilisateurs peuvent soit fusionner les poids LoRA avec le modèle de base, soit les conserver en tant que composants séparés, permettant l'utilisation de plusieurs adaptateurs LoRA occupant une mémoire minimale.
Applications Diverses avec S-LoRA
Les applications potentielles de S-LoRA sont vastes, allant de la création de contenu au service client. Par exemple, une plateforme de blogging pourrait utiliser cette technique pour proposer des LLMs affinés capables de générer du contenu dans le style unique d'un auteur, sans coûts élevés.
Surmonter les Défis Techniques
Malgré l'attrait de déployer plusieurs modèles LoRA sur un seul LLM de base, plusieurs défis techniques se posent. La gestion de la mémoire est une préoccupation primordiale, car les GPU ont une capacité de mémoire limitée, restreignant le nombre d'adaptateurs pouvant être chargés avec le modèle de base. Un système robuste de gestion de la mémoire est crucial pour un fonctionnement fluide.
De plus, les serveurs LLM utilisent le traitement en lot pour améliorer le débit en traitant plusieurs requêtes simultanément. Cependant, la variabilité des tailles d'adaptateurs LoRA et leur calcul séparé du modèle de base peuvent entraîner des goulets d'étranglement.
S-LoRA s'attaque à ces problèmes grâce à une gestion dynamique de la mémoire qui échange efficacement les adaptateurs LoRA entre le GPU et la RAM selon les besoins. Son mécanisme innovant de “Pagination Unifiée” garantit une gestion efficace des caches de modèle de requête et des poids d'adaptateur, permettant au serveur de traiter des centaines ou des milliers de requêtes groupées sans fragmentation de mémoire.
En outre, S-LoRA intègre un système de “parallélisme tensoriel” à la pointe de la technologie, garantissant sa compatibilité avec de grands modèles de transformateurs sur plusieurs GPU. Ces avancées permettent à S-LoRA de prendre en charge de nombreux adaptateurs LoRA sur un seul GPU ou à travers plusieurs GPU.
Servir des Milliers de Modèles Simultanément
Les chercheurs ont évalué S-LoRA en utilisant différentes versions du modèle open-source Llama de Meta sur diverses configurations de GPU. Les résultats démontrent que S-LoRA excelle dans le maintien de l'efficacité du débit et de la mémoire à grande échelle.
Dans des tests de performance comparant S-LoRA à la principale bibliothèque d'affinage efficace des paramètres, Hugging Face PEFT, S-LoRA a atteint une augmentation du débit allant jusqu'à 30 fois. Comparé à vLLM, un système de service à haut débit avec un support LoRA basique, S-LoRA a quadruplé le débit tout en augmentant de manière spectaculaire le nombre d'adaptateurs servis en parallèle.
Une caractéristique marquante de S-LoRA est sa capacité à servir 2 000 adaptateurs simultanément avec un coût computationnel supplémentaire minimal. Comme l'explique Ying Sheng, doctorant à Stanford et co-auteur de l'étude, “Les fournisseurs de services peuvent utiliser le même modèle de base tout en personnalisant des adaptateurs pour chaque utilisateur, qui peuvent être ajustés avec des données spécifiques à l'utilisateur.”
Le design de S-LoRA prend également en charge l'apprentissage en contexte, permettant aux utilisateurs de bénéficier d'adaptateurs personnalisés tout en intégrant des données récentes pour améliorer les réponses des LLMs. “Cette approche peut être plus efficace et économique que les méthodes traditionnelles de sollicitation en contexte,” précise Sheng.
Le code de S-LoRA est désormais disponible sur GitHub, et les chercheurs prévoient de l'intégrer dans des frameworks populaires de service LLM, permettant aux entreprises d'adopter facilement S-LoRA dans leurs applications.
Classement
