高通AI中心擴大對Snapdragon X處理器的支持,幫助開發者整合自定義AI模型

隨著AI電腦的快速崛起,Qualcomm旨在幫助開發者保持領先地位。該公司推出了最新版本的AI Hub,現在支持Snapdragon X處理器系列。開發者可以利用Qualcomm最新的晶片進行設備內的AI優化,為下一代Windows電腦和筆記型電腦的應用程序做好準備。

此外,Qualcomm AI Hub的功能也在擴展。自二月首發以來,預訓練模型的數量已從75個增加到超過100個。未來,開發者不僅限於Qualcomm的模型,還可以上傳自己的模型。

PC模型訓練

Qualcomm的AI Hub為開發者提供了一個堅實的起點來建立應用程序。無論是針對智能設備、機器人還是無人機,您都能在此找到合適的模型。這同樣適用於即將擴展到電腦的AI移動應用開發。眾多受歡迎的模型可在Hugging Face和GitHub上輕鬆獲取,並可在Qualcomm設備上部署,兼容CPU、GPU和NPU,使用TensorFlow Lite或Qualcomm的AI Engine Direct運行。

透過支持Snapdragon X,Qualcomm在與AMD和Intel的競爭中佔據了戰略地位,後者也已宣布推出AI電腦處理器。開發者可以利用Snapdragon X系列平台上的模型建立AI驅動的Windows應用程序,得益於與ONNX Runtime、Hugging Face Optimum和Llama.cpp的整合。這一整合可能促進多品牌電腦的廣泛應用部署,包括Acer、ASUS、Dell、HP、Lenovo、Samsung等,許多品牌推出的電腦均搭載Qualcomm的Snapdragon X Elite或X Plus晶片。

與Andrew Ng的DeepLearning.ai合作,Qualcomm還提供了在線課程,讓開發者了解設備內AI及其在應用程序中的實施。

自定義AI

誰能比您更了解客戶的數據?雖然許多開發者將利用Qualcomm AI Hub上的100多個模型,但在某些情況下,可能需要專門的模型。開發者現在可以針對Qualcomm和Snapdragon平台上傳、優化並編譯SLM和LLM模型。這些模型可以在雲托管設備上迅速測試和驗證,所需代碼極少。

例如,在專注於開發化合物或藥物的研究領域,可能需要針對特定科學數據訓練的專用模型。開發者可以將這些模型上傳到Qualcomm的AI Hub並在其組織的AI電腦上部署,使其能夠進行本地訪問,而不必依賴雲解決方案。

這種方法適用於各行各業。針對電腦優化的模型可降低延遲,促進更快的迭代,提升整體效率和響應速度。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles