随着人工智能个人电脑的逐步普及,高通旨在帮助开发者走在技术前沿。公司宣布更新其人工智能中心(AI Hub),现在支持Snapdragon X处理器系列。开发者可以利用高通最新的芯片进行设备内人工智能优化,为下一代Windows电脑和笔记本电脑优化应用程序。
此外,高通的AI Hub正在扩展其服务。自今年二月推出75个预训练模型以来,现已超过100个。未来,开发者不仅限于使用高通的模型,他们也可以上传自己的模型。
针对个人电脑的模型训练
高通的AI Hub为开发者提供了构建应用程序的坚实基础。无论是智能设备、机器人还是无人机,您都能找到合适的模型。这一服务同样适用于即将扩展到计算机的人工智能移动应用开发。许多流行的模型可以在Hugging Face和GitHub上找到,均可轻松部署在高通设备上,支持使用TensorFlow Lite或高通的AI Engine Direct在CPU、GPU和NPU上运行。
通过支持Snapdragon X,高通在与AMD和Intel的竞争中占据了战略位置,这两家公司也已宣布推出AI PC处理器。开发者可以在Snapdragon X系列平台上利用其模型,构建人工智能驱动的Windows应用程序,得益于与ONNX Runtime、Hugging Face Optimum及Llama.cpp的集成。这一集成可能促使来自Acer、ASUS、Dell、HP、Lenovo、Samsung等品牌的电脑广泛部署高通Snapdragon X Elite或X Plus芯片。
高通还与Andrew Ng的DeepLearning.ai合作,提供在线课程,帮助开发者了解设备内人工智能及其在应用程序中的实现。
自主定制AI
没有人比您更了解客户的数据。尽管许多开发者会利用高通AI Hub上的100多个模型,但也会有需要特定模型的情况。开发者现在可以上传、优化和编译专为高通和Snapdragon平台设计的SLM和LLMs。这些模型可以在云托管设备上快速测试和验证,所需代码极少。
例如,在针对化合物或药物研发的研究领域,可能需要一个专门针对特定科学数据训练的模型。开发者可以将此类模型上传至高通的AI Hub,并在组织内部的AI PC上部署,实现本地访问,而无需依赖云解决方案。
这种方法适用于多个行业。针对个人电脑优化的模型可减少延迟,促进更快的迭代,从而提高整体效率和响应速度。