Доступно новое обновление для Nvidia ChatRTX – платформы визуальных вычислений, разработанной для рендеринга в реальном времени с кинематографическим качеством для разработчиков игр. Это обновление улучшает возможности технологической демонстрации и расширяет поддержку больших языковых моделей (LLM) для AI-приложений с поддержкой RTX.
Обновление, представленное на GTC 2024 в марте этого года, включает в себя несколько новых функций. ChatRTX теперь поддерживает более широкий спектр LLM, включая Gemma, последнюю модель от Google, и ChatGLM3 – открыту двуязычную LLM, поддерживающую как английский, так и китайский языки, что предоставляет пользователям большую гибкость.
Новая поддержка фото позволяет пользователям ChatRTX легко искать и взаимодействовать с локальными данными, устраняя необходимость в сложной маркировке метаданных. Это стало возможным благодаря предварительному обучению OpenAI Contrastive Language-Image Pre-training (CLIP).
Кроме того, теперь пользователи могут общаться с данными устно благодаря интеграции Whisper – автоматической системы распознавания речи, которая улучшает способность ChatRTX понимать spoken language.
ChatRTX позволяет пользователям полностью использовать возможности AI на своих ПК с поддержкой RTX, применяя ускоренную производительность программного обеспечения TensorRT-LLM и NVIDIA RTX, обеспечивая безопасность данных через локальную обработку. Также проект доступен бесплатно на GitHub, позволяя разработчикам исследовать и развивать AI-приложения с использованием технологии RAG для различных сценариев.
Для получения дополнительной информации посетите блог AI Decoded, где представлено новое обновление бета-версии RTX Remix, теперь с поддержкой DLSS 3.5 и Ray Reconstruction.