自從ChatGPT的突破性推出以來，科技界一直在期待一款獨立於雲端運行的本地AI聊天機器人。Nvidia推出的Chat with RTX就是這樣一款設計用於幫助您處理離線數據的本地AI聊天機器人。本指南將指導您如何設置和使用Chat with RTX。請注意，由於這是測試版本，您可能會遇到一些錯誤。不過，這一創新有望為未來的本地AI聊天機器人和工具鋪平道路。
如何下載Chat with RTX
首先，您需要下載和配置Chat with RTX，這個過程比您想像中要複雜。安裝從運行安裝程序開始，但請做好可能會遇到問題的準備，並確保滿足最低系統要求。您需要使用RTX 30系列或40系列顯示卡、至少8GB的顯存、16GB的系統內存、100GB的磁碟空間，以及Windows 11系統。
步驟1：從Nvidia的網站下載Chat with RTX安裝程序。請注意，壓縮文件夾大小為35GB，因此下載可能需要一些時間。
步驟2：下載完成後，右鍵單擊文件夾並選擇「全部解壓縮」。
步驟3：在解壓縮的文件夾中，找到setup.exe文件並按照安裝提示進行操作。
步驟4：在安裝開始之前，安裝程序會詢問您要將Chat with RTX存儲在哪裡。確保您選擇的位置至少有100GB的磁碟空間，因為AI模型將被下載到此處。
步驟5：安裝可能需要長達45分鐘，因此如果進度似乎停滯，請不要驚慌。特別是在AI模型配置期間，這可能會使您的計算機變慢。您可以在安裝完成之前暫時離開。
步驟6：如果安裝失敗，請重新運行安裝程序並選擇相同的數據位置以恢復過程。
步驟7：安裝完成後，桌面上將出現Chat with RTX的快捷方式，該應用將在您的網頁瀏覽器中啟動。
如何使用Chat with RTX處理您的數據
Chat with RTX的主要特點是能夠利用您的數據。它使用稱為檢索增強生成（RAG）的方法來篩選文檔，根據內容提供答案。與其進行一般詢問，Chat with RTX更擅長回答與您的數據集相關的具體問題。Nvidia提供了一些示例數據以幫助您測試該工具，但添加您自己的數據將解鎖其全部功能。
步驟1：創建一個文件夾來存儲您的數據集，並記住其位置，因為您需要在Chat with RTX中指向它。當前支持.txt、.pdf和.doc文件格式。
步驟2：打開Chat with RTX，然後在數據集部分點擊筆圖標。
步驟3：導航到您的數據集文件夾並選擇它。
步驟4：在Chat with RTX中，點擊數據集部分的刷新圖標，以根據您提供的數據重新生成模型。每次添加新文件或切換到不同數據集時，請記得刷新模型。
步驟5：添加數據後，從AI模型部分選擇所需的AI模型。Chat with RTX提供Llama 2和Mistral，默認使用Mistral。雖然兩個模型都值得探索，但建議新手選擇Mistral。
步驟6：現在您可以開始提問。請注意，Chat with RTX不會保留之前的上下文，這意味著早期的回答不會影響後續回答。具體詢問通常能夠獲得更好的結果，相較之下模糊的問題效果較差。請注意，有時候Chat with RTX可能會在回答中引用錯誤的數據。
步驟7：如果Chat with RTX無法運作且重新啟動無法解決，您可以通過刪除位於C:\Users\[YourUsername]\AppData\Local\NVIDIA\ChatWithRTX\RAG\trt-llm-rag-windows-main\config\preferences.json的preferences.json文件來解決問題。
如何使用Chat with RTX分析YouTube
除了個人數據外，Chat with RTX還可以分析YouTube視頻。AI模型利用視頻的轉錄內容，但存在一些固有的限制。重要的是要注意，AI模型無法解讀轉錄中未包含的內容，因此您無法詢問視頻中的視覺元素，例如某人的外貌。此外，YouTube的轉錄有時可能不準確，這可能會影響您的回答。
步驟1：打開Chat with RTX，在數據集部分選擇下拉菜單以選擇YouTube。
步驟2：在提供的字段中粘貼YouTube視頻或播放列表的鏈接。您還會看到一個指示您希望下載的最大轉錄數的數字。
步驟3：點擊此字段旁邊的下載按鈕，並等待轉錄下載完成。然後，點擊刷新按鈕。
步驟4：一旦轉錄準備就緒，您可以像使用數據集一樣進行聊天。請記得，具體問題通常比一般問題效果更好，並且如果同時與多個視頻互動，Chat with RTX可能會因問題過於廣泛而誤解參考。
步驟5：要討論新的視頻集，您需要手動刪除先前的轉錄。使用刷新按鈕旁邊的按鈕訪問資源管理器窗口，然後刪除舊轉錄，以便為新轉錄騰出空間。
排行榜
