O Hub de IA da Qualcomm Expande Suporte para Processadores Snapdragon X, Permitindo que Desenvolvedores Integrar Modelos de IA Personalizados

Com a iminente ascensão dos PCs com IA, a Qualcomm busca ajudar os desenvolvedores a se manterem atualizados. A empresa está lançando uma atualização para seu AI Hub, agora compatível com a série de processadores Snapdragon X. Os desenvolvedores poderão aproveitar os chips mais recentes da Qualcomm para IA em dispositivos, otimizando suas aplicações para a próxima geração de computadores e laptops com Windows.

Além disso, o Qualcomm AI Hub está expandindo suas ofertas. Desde seu lançamento em fevereiro, com 75 modelos pré-treinados, esse número já ultrapassou 100. No futuro, os desenvolvedores poderão não apenas utilizar os modelos da Qualcomm, mas também trazer os seus próprios.

Modelos para PCs

O AI Hub da Qualcomm oferece uma base sólida para desenvolvedores na criação de suas aplicações. Se você está desenvolvendo para dispositivos inteligentes, robôs ou drones, encontrará modelos adequados. Isso se aplica também ao desenvolvimento de aplicativos móveis com IA, que em breve será expandido para computadores. Muitos modelos populares estão disponíveis no Hugging Face e GitHub, todos facilmente implantáveis em dispositivos Qualcomm, utilizando CPUs, GPUs e NPUs com TensorFlow Lite ou AI Engine Direct da Qualcomm.

Ao apoiar o Snapdragon X, a Qualcomm se posiciona estrategicamente em meio à concorrência com a AMD e Intel, que também anunciaram processadores de PCs com IA. Os desenvolvedores podem utilizar modelos nas Plataformas Snapdragon X Series para construir aplicativos Windows com IA, graças às integrações com ONNX Runtime, Hugging Face Optimum e Llama.cpp. Essa integração pode levar à ampla implantação de aplicativos em computadores de marcas como Acer, ASUS, Dell, HP, Lenovo, Samsung e OEM7 — muitas das quais estão lançando PCs equipados com chips Snapdragon X Elite ou X Plus da Qualcomm.

Em colaboração com o DeepLearning.ai de Andrew Ng, a Qualcomm também oferece cursos online para educar desenvolvedores sobre IA em dispositivos e sua implementação em aplicações.

Traga sua própria IA

Quem conhece os dados do seu cliente melhor do que você? Embora muitos desenvolvedores utilizem os mais de 100 modelos disponíveis no AI Hub da Qualcomm, haverá momentos em que modelos especializados serão necessários. Os desenvolvedores agora podem fazer upload, otimizar e compilar SLM e LLMs especificamente para plataformas Qualcomm e Snapdragon. Esses modelos podem ser rapidamente testados e validados em dispositivos hospedados na nuvem com um código mínimo.

Por exemplo, em áreas de pesquisa focadas no desenvolvimento de compostos ou medicamentos, um modelo especializado treinado em dados científicos específicos pode ser necessário. Os desenvolvedores podem fazer upload de tais modelos no AI Hub da Qualcomm e implantá-los em PCs com IA dentro de suas organizações, permitindo acesso local em vez de depender de soluções na nuvem.

Essa abordagem se aplica a diversas indústrias. Ter modelos otimizados para PCs reduz a latência e facilita iterações mais rápidas, melhorando a eficiência e a responsividade geral.