AI PC의 시대가 다가오면서, Qualcomm은 개발자들이 선두를 유지할 수 있도록 지원하고 있습니다. 회사는 Snapdragon X 프로세서 시리즈를 지원하는 AI Hub 업데이트를 출시했습니다. 이제 개발자들은 Qualcomm의 최신 칩을 활용하여 온디바이스 AI를 통해 Windows 컴퓨터와 노트북에 최적화된 애플리케이션을 개발할 수 있습니다.
또한, Qualcomm AI Hub는 제공하는 모델을 확장하고 있습니다. 2월에 출시된 75개의 사전 훈련 모델은 현재 100개를 넘어섰습니다. 앞으로 개발자들은 Qualcomm의 모델에 국한되지 않고 자신만의 모델을 가져올 수 있습니다.
PC용 모델 훈련
Qualcomm의 AI Hub는 개발자들이 애플리케이션을 구축하는 데 탄탄한 출발점을 제공합니다. 스마트 기기, 로봇, 드론을 위한 모델을 찾을 수 있으며, AI 기반 모바일 앱 개발은 곧 컴퓨터로 확장될 예정입니다. Hugging Face와 GitHub에서 제공되는 여러 인기 모델은 Qualcomm 장치에서 TensorFlow Lite나 Qualcomm의 AI Engine Direct를 이용해 쉽게 배포할 수 있습니다.
Snapdragon X를 지원함으로써 Qualcomm은 AMD와 Intel이 AI PC 프로세서를 발표한 가운데 전략적으로 자리를 잡았습니다. 개발자들은 Snapdragon X 시리즈 플랫폼에서 모델을 활용하여 AI 기반 Windows 애플리케이션을 구축할 수 있습니다. ONNX Runtime, Hugging Face Optimum, Llama.cpp와의 통합 덕분에 Acer, ASUS, Dell, HP, Lenovo, Samsung 및 OEM7와 같은 브랜드의 PC에서 배포할 수 있는 가능성이 커졌습니다. 이들 브랜드는 Qualcomm의 Snapdragon X Elite 또는 X Plus 칩으로 구동되는 PC를 출시하고 있습니다.
Andrew Ng의 DeepLearning.ai와 협력하여 Qualcomm은 개발자들에게 온디바이스 AI 및 애플리케이션 구현에 관한 온라인 교육을 제공합니다.
자신만의 AI 가져오기
고객의 데이터를 가장 잘 아는 것은 누구일까요? 많은 개발자가 Qualcomm의 AI Hub에서 100개 이상의 모델을 활용하겠지만, 특정 모델이 필요한 경우도 있습니다. 개발자들은 이제 Qualcomm 및 Snapdragon 플랫폼에 최적화된 SLM 및 LLM을 업로드, 최적화 및 컴파일할 수 있습니다. 이러한 모델은 최소한의 코드로 클라우드 호스팅 장치에서 신속하게 테스트하고 검증할 수 있습니다.
예를 들어, 화합물이나 약물을 개발하는 연구 분야에서는 특정 과학 데이터를 기반으로 훈련된 전문 모델이 필요할 수 있습니다. 개발자는 이러한 모델을 Qualcomm의 AI Hub에 업로드하고 조직 내 AI PC에서 배포하여 클라우드 솔루션에 의존하지 않고 로컬에서 접근할 수 있게 합니다.
이 접근 방식은 다양한 산업에 적용될 수 있습니다. PC에 최적화된 모델을 보유하면 지연 시간을 줄이고 더 빠른 반복을 가능하게 하여 전반적인 효율성과 신속성을 강화합니다.