Discutez avec RTX : Créez des Chatbots Locaux Personnalisés pour Votre PC Nvidia AI

Nvidia lance Chat with RTX, une fonctionnalité conçue pour créer des chatbots IA personnalisés sur les PC Windows AI. Cette innovation représente le dernier effort de Nvidia pour populariser l'IA en utilisant ses unités de traitement graphique (GPU).

Caractéristiques clés de Chat with RTX

Interactions IA locales

Chat with RTX permet aux utilisateurs de profiter de l'IA générative personnalisée directement sur leurs appareils. Cette technologie utilise la génération augmentée par récupération (RAG) et le logiciel TensorRT-LLM, réduisant ainsi la dépendance au cloud. De plus, elle renforce la confidentialité des utilisateurs, éliminant les préoccupations liées aux violations de données lors des conversations IA.

Révolution des chatbots

Contrairement aux chatbots traditionnels reposant sur des serveurs cloud alimentés par des GPU Nvidia, Chat with RTX permet d'exploiter les capacités de traitement des GPU GeForce RTX 30 Series ou supérieurs, dotés d'un minimum de 8 Go de mémoire vidéo (VRAM). Ce changement significatif permet d'utiliser l'IA générative localement.

Une expérience IA personnalisée

Nvidia souligne que Chat with RTX est plus qu'un simple chatbot ; c'est un compagnon IA personnalisable. En utilisant des PC Windows alimentés par GeForce, les utilisateurs bénéficient d'une IA générative rapide et confidentielle. L'application utilise RAG et TensorRT-LLM pour fournir des réponses contextuelles et pertinentes basées sur des jeux de données locaux. Les utilisateurs peuvent relier l'outil à leurs fichiers locaux, créant ainsi un ensemble de données pour de grands modèles de langage open source tels que Mistral ou Llama 2.

Au lieu de fouiller dans divers fichiers, les utilisateurs peuvent poser des requêtes en langage naturel—comme demander des recommandations de restaurants—et Chat with RTX fournira des réponses rapides et contextualisées. Il supporte plusieurs formats de fichiers, y compris .txt, .pdf, .doc/.docx et .xml, garantissant une expérience utilisateur fluide.

Intégration de contenu multimédia

Chat with RTX se distingue par sa capacité à intégrer des informations de sources multimédias comme YouTube. Cette fonctionnalité permet aux utilisateurs de poser des questions contextuelles basées sur le contenu vidéo, que ce soit pour obtenir des conseils de voyage inspirés par des influenceurs ou accéder à des tutoriels de chaînes éducatives.

Grâce à ses capacités de traitement locale, l'application assure des résultats rapides tout en gardant les données utilisateur sécurisées sur l'appareil—éliminant ainsi le besoin de services cloud et protégeant les informations sensibles d'un accès tiers.

Exigences système et opportunités futures

Pour utiliser Chat with RTX, les utilisateurs doivent disposer d'un GPU GeForce RTX 30 Series avec 8 Go de VRAM, ainsi que de Windows 10 ou 11 et des derniers pilotes GPU Nvidia. Les développeurs souhaitant optimiser les grands modèles de langage avec les GPU RTX peuvent accéder au projet de référence pour développeurs TensorRT-LLM RAG sur GitHub. Nvidia invite les développeurs à participer au concours de développeurs Generative AI on Nvidia RTX, qui se déroule jusqu'au 23 février, avec des chances de gagner un GPU GeForce RTX 4090 et un pass complet pour la conférence Nvidia GTC.

La démo technique de Chat with RTX est désormais disponible en téléchargement gratuit.