Converse com o RTX: Crie Chatbots Locais Personalizados para o Seu PC Nvidia AI

A Nvidia está lançando o Chat com RTX, uma funcionalidade projetada para criar chatbots de IA personalizados localmente em PCs com Windows. Essa inovação representa o mais recente esforço da Nvidia para tornar a IA uma ferramenta acessível, utilizando suas unidades de processamento gráfico (GPUs).

Principais Recursos do Chat com RTX

Interações de IA Locais

O Chat com RTX capacita os usuários a aproveitar o poder da IA generativa personalizada diretamente em seus dispositivos. Essa tecnologia utiliza geração aumentada por recuperação (RAG) e software TensorRT-LLM, reduzindo a dependência da computação em data centers. Além disso, melhora a privacidade do usuário, eliminando preocupações sobre vazamentos de dados durante conversas com a IA.

Revolucionando os Chatbots

Enquanto chatbots tradicionais geralmente dependem de servidores em nuvem com GPUs Nvidia, o novo Chat com RTX permite que os usuários utilizem as capacidades de processamento de GPUs GeForce RTX 30 Series ou superiores, com um mínimo de 8GB de memória RAM de vídeo (VRAM). Essa mudança significativa permite que os usuários desfrutem de IA generativa localmente.

Uma Experiência de IA Personalizada

A Nvidia destaca que o Chat com RTX é mais do que apenas um chatbot; ele serve como um companheiro de IA personalizável. Ao utilizar PCs com Windows equipados com GeForce, os usuários experimentam IA generativa com velocidade e privacidade excepcionais. O aplicativo utiliza RAG e software TensorRT-LLM para respostas rápidas e contextualmente relevantes, baseadas em conjuntos de dados locais. Os usuários podem conectar a ferramenta a seus arquivos locais, criando um conjunto de dados para modelos de linguagem de código aberto populares, como Mistral ou Llama 2.

Em vez de vasculhar vários arquivos, os usuários podem fazer perguntas em linguagem natural — como sugestões de restaurantes — e o Chat com RTX fornecerá respostas contextuais e rápidas. O recurso suporta múltiplos formatos de arquivo, como .txt, .pdf, .doc/.docx e .xml, oferecendo uma experiência amigável.

Integração de Conteúdo Multimídia

O Chat com RTX se destaca por sua capacidade de incorporar informações de fontes multimídia, como o YouTube. Esse recurso permite que os usuários façam perguntas contextuais com base em conteúdos de vídeo, como buscar dicas de viagem inspiradas em vídeos de influenciadores ou acessar tutoriais de canais educacionais.

Graças às suas capacidades de processamento local, o aplicativo garante resultados rápidos enquanto mantém os dados do usuário seguros no dispositivo, eliminando a necessidade de serviços em nuvem e protegendo informações sensíveis de acesso de terceiros.

Requisitos do Sistema e Oportunidades Futuras

Para utilizar o Chat com RTX, os usuários precisam de uma GPU GeForce RTX 30 Series com 8GB de VRAM, além de Windows 10 ou 11, e dos drivers mais recentes da Nvidia. Desenvolvedores interessados em otimizar modelos de linguagem grandes com GPUs RTX podem acessar o projeto de referência para desenvolvedores TensorRT-LLM RAG no GitHub. A Nvidia convida desenvolvedores a participar do concurso de desenvolvedores de IA Generativa na Nvidia RTX, que vai até 23 de fevereiro, oferecendo a chance de ganhar uma GPU GeForce RTX 4090 e um passe completo para a conferência Nvidia GTC.

A demonstração técnica do Chat com RTX já está disponível para download gratuito.