С учетом грядущего роста ПК с искусственным интеллектом, компания Qualcomm ставит цель помочь разработчикам опередить конкурентов. Она запускает обновление своего AI Hub, теперь поддерживающего серию процессоров Snapdragon X. Разработчики могут использовать новейшие чипы Qualcomm для искусственного интеллекта на устройствах, оптимизируя свои приложения для следующего поколения компьютеров и ноутбуков под управлением Windows.
Кроме того, Qualcomm AI Hub расширяет свои предложения. С момента запуска в феврале с 75 предобученными моделями их число превысило 100. В будущем разработчики смогут не ограничиваться моделями Qualcomm; они могут загружать и использовать свои собственные.
Обучение моделей для ПК
AI Hub от Qualcomm предоставляет разработчикам надежную отправную точку для создания приложений. Независимо от того, разрабатываете ли вы для умного устройства, робота или дрона — вы найдете подходящие модели. Это также касается разработки мобильных приложений с искусственным интеллектом, которая скоро распространится на компьютеры. Многие популярные модели доступны на Hugging Face и GitHub и легко разворачиваются на устройствах Qualcomm, работающих на ЦП, ГП и НПУ с использованием TensorFlow Lite или AI Engine Direct от Qualcomm.
Поддерживая Snapdragon X, Qualcomm стратегически укрепляет свои позиции на фоне конкуренции с AMD и Intel, которые также анонсировали процессоры для ПК с ИИ. Разработчики могут использовать модели на платформах Snapdragon X Series для создания приложений с искусственным интеллектом для Windows, благодаря интеграциям с ONNX Runtime, Hugging Face Optimum и Llama.cpp. Это может привести к широкомасштабному развертыванию приложений на компьютерах от таких брендов, как Acer, ASUS, Dell, HP, Lenovo, Samsung и OEM7 — многие из которых представляли ПК на базе чипов Snapdragon X Elite или X Plus.
В сотрудничестве с DeepLearning.ai от Эндрю Нга Qualcomm также предлагает онлайн-курсы для обучения разработчиков об AI на устройствах и его внедрении в их приложениях.
Принесите свой AI
Кто лучше вас знает данные ваших клиентов? Хотя многие разработчики воспользуются более чем 100 моделями на AI Hub от Qualcomm, могут возникнуть случаи, требующие специализированных моделей. Теперь разработчики могут загружать, оптимизировать и компилировать SLM и LLM, специально созданные для платформ Qualcomm и Snapdragon. Эти модели можно быстро протестировать и верифицировать на устройствах с облачным хостингом с минимальным кодом.
Например, в исследовательских областях, сосредотачивающихся на разработке соединений или лекарств, может потребоваться специализированная модель, обученная на определенных научных данных. Разработчики могут загружать такие модели в AI Hub от Qualcomm и развертывать их на AI ПК в своих организациях, обеспечивая локальный доступ вместо полагания на облачные решения.
Этот подход применяется в различных отраслях. Наличие моделей, оптимизированных для ПК, снижает задержку и ускоряет итерации, увеличивая общую эффективность и отзывчивость.