Qualcomm erweitert das AI Hub und unterstützt nun die Snapdragon X Prozessoren, wodurch Entwickler in der Lage sind, benutzerdefinierte KI-Modelle zu integrieren.

Mit dem bevorstehenden Aufstieg der KI-PCs möchte Qualcomm Entwicklern helfen, an der Spitze zu bleiben. Das Unternehmen kündigt ein Update seines AI Hub an, das nun die Snapdragon X-Prozessorserie unterstützt. Entwickler können die neuesten Chips von Qualcomm für KI auf Endgeräten nutzen und ihre Anwendungen für die nächste Generation von Windows-Computern und Laptops optimieren.

Zusätzlich erweitert Qualcomm seinen AI Hub. Seit dem Start im Februar mit 75 vortrainierten Modellen ist die Anzahl mittlerweile auf über 100 gestiegen. Zukünftig sind Entwickler nicht nur auf die Modelle von Qualcomm beschränkt; sie können auch eigene Modelle mitbringen.

Modelle für PCs trainieren

Qualcomm's AI Hub bietet Entwicklern eine solide Grundlage für den Aufbau ihrer Anwendungen. Egal, ob Sie für ein Smart-Gerät, einen Roboter oder eine Drohne entwickeln, hier finden Sie geeignete Modelle. Dies gilt auch für die Entwicklung von KI-gestützten mobilen Apps, die bald auf Computer ausgeweitet wird. Viele gängige Modelle sind auf Hugging Face und GitHub verfügbar und lassen sich problemlos auf Qualcomm-Geräten bereitstellen, die auf CPUs, GPUs und NPUs mit TensorFlow Lite oder Qualcomm’s AI Engine Direct basieren.

Durch die Unterstützung der Snapdragon X positioniert sich Qualcomm strategisch im Wettbewerb mit AMD und Intel, die ebenfalls KI-PC-Prozessoren angekündigt haben. Entwickler können Modelle auf den Snapdragon X Series Plattformen nutzen, um KI-gestützte Windows-Anwendungen zu erstellen, dank Integrationen mit ONNX Runtime, Hugging Face Optimum und Llama.cpp. Dies könnte zu einer weitreichenden Bereitstellung von Apps auf Computern von Marken wie Acer, ASUS, Dell, HP, Lenovo, Samsung und OEM7 führen – viele von ihnen bringen PCs heraus, die von Qualcomms Snapdragon X Elite oder X Plus Chips angetrieben werden.

In Zusammenarbeit mit Andrew Ng’s DeepLearning.ai bietet Qualcomm zudem Online-Kurse an, um Entwicklern das Thema KI auf Endgeräten und deren Implementierung in ihren Anwendungen näherzubringen.

Bringen Sie Ihre eigene KI mit

Niemand kennt die Daten Ihrer Kunden besser als Sie. Während viele Entwickler die über 100 Modelle im AI Hub von Qualcomm nutzen werden, gibt es Situationen, die spezialisierte Modelle erfordern. Entwickler können nun SLM- und LLM-Modelle speziell für Qualcomm- und Snapdragon-Plattformen hochladen, optimieren und kompilieren. Diese Modelle können schnell getestet und auf cloudbasierten Geräten mit minimalem Code validiert werden.

Zum Beispiel kann im Forschungsbereich, der sich mit der Entwicklung von Verbindungen oder Medikamenten befasst, ein spezialisiertes Modell, das auf bestimmten wissenschaftlichen Daten trainiert ist, notwendig sein. Entwickler können solche Modelle in Qualcomms AI Hub hochladen und auf KI-PCs innerhalb ihrer Organisationen bereitstellen, sodass lokaler Zugriff möglich ist, ohne auf Cloud-Lösungen angewiesen zu sein.

Dieser Ansatz gilt für verschiedene Branchen. Modelle, die für PCs optimiert sind, reduzieren die Latenz und ermöglichen schnellere Iterationen, wodurch die allgemeine Effizienz und Reaktionsfähigkeit gesteigert wird.