حتى مع نجاح شركة Nvidia في سوق الذكاء الاصطناعي التوليدي من خلال مجموعة الأجهزة والبرمجيات الواسعة التي تقدمها، تظهر شركات ناشئة مثل Hailo للتنافس. قامت Hailo، الشركة الناشئة التي تتخذ من إسرائيل مقراً لها، بإطلاق Hailo-10، وهو مسرع جديد للذكاء الاصطناعي التوليدي مصمم خصيصاً للأجهزة الطرفية.
تمكن معالج Hailo-10 تطبيقات الذكاء الاصطناعي التوليدي من العمل على الأجهزة الطرفية مثل المركبات والروبوتات التجارية دون الاعتماد على مراكز البيانات السحابية. وتدعي Hailo أن هذا سيسهم بشكل كبير في تحسين أداء النماذج مع تقليل التكاليف واستهلاك الطاقة.
بالتزامن مع إطلاق Hailo-10، أعلنت الشركة عن تمديد جولة تمويل السلسلة C، حيث حصلت على 120 مليون دولار إضافية. وقد قاد هذا الاستثمار مستثمرون جدد وآخرون موجودون عبر مجموعة متنوعة من الصناعات، مما قيم Hailo بـ 1.2 مليار دولار. قال أور دانون، المؤسس المشارك والرئيس التنفيذي لشركة Hailo: "سيمكننا هذا التمويل من الاستفادة من الفرص المثيرة في خطتنا، ويضعنا في موقع جيد للنمو على المدى الطويل." وأكد أن مسرع Hailo-10 سيعمل على دمج الذكاء الاصطناعي التوليدي في الحياة اليومية بشكل سلس، مما يمكّن المستخدمين من استخدام أدوات مثل الدردشة التلقائية ومولدات المحتوى بمرونة لا مثيل لها.
ما يمكن توقعه من مسرع Hailo-10 للذكاء الاصطناعي التوليدي
يحدث الذكاء الاصطناعي التوليدي حالياً تحولاً في الأعمال من خلال إنشاء محتوى تسويقي ومحاكاة المحادثات البشرية. ومع ذلك، فإن قدراته على الحافة لا تزال غير مستغلة بشكل كبير. تهدف Hailo إلى تحقيق وظائف متقدمة مثل الروبوتات القادرة على التفاعل البشري الطبيعي مع معالجها الجديد.
بينما يمكن للأجهزة التقليدية للذكاء الاصطناعي في مراكز البيانات السحابية دعم تطبيقات الحافة، غالباً ما تعاني الحوسبة السحابية من تأخير بسبب delays معالجة البيانات. يتغلب Hailo-10 على هذا التحدي من خلال تشغيل خدمات الذكاء الاصطناعي التوليدي مباشرة على الأجهزة، مما يعزز قدراتها المعالجة.
سواء كان ذلك في أتمتة الترجمات في الوقت الفعلي أو إنشاء كود برمجي أو إنتاج صور وفيديوهات من نصوص، يتيح Hailo-10 للمستخدمين تنفيذ هذه المهام مباشرة على أجهزة الكمبيوتر أو أنظمة الحافة الأخرى دون الضغط على وحدة المعالجة المركزية أو استنزاف البطارية، حسبما ذكر دانون.
يستخدم Hailo-10 نفس مجموعة البرمجيات مثل سابقاته Hailo-8 و Hailo-15، ويعمل بنظام نسبة الطاقة إلى الأداء مثير للإعجاب. يمكنه تشغيل Llama2-7B بسرعة تصل إلى 10 رموز في الثانية مع استهلاك أقل من 5 واط، بينما يقوم بإنشاء صور باستخدام Stable Diffusion 2.1 في أقل من 5 ثوانٍ.
مع زيادة تفاعل الذكاء الاصطناعي التوليدي، يتحول التركيز إلى إدارة النماذج اللغوية الكبيرة (LLMs) ضمن حدود طاقة منخفضة—يفضل أن تكون أقل من خمسة واط. يحقق Hailo-10 ما يصل إلى 40 TOPS (تيرابروسيجرات في الثانية)، مما يضع معياراً جديداً للأداء لمسرعات الذكاء الاصطناعي على الحافة.
مقارنة بخط إنتاج Nvidia Jetson، الذي يتعامل مع أعباء العمل الخاصة بالذكاء الاصطناعي على الحافة، والذي يوفر ما يصل إلى 275 TOPS ولكنه يستهلك المزيد من الطاقة، يقدم Orin Nano من Nvidia أرقاماً تصل إلى 40 TOPS مع استخدام طاقة يتراوح بين 5 واط إلى 15 واط. وأكد دانون أن Hailo-10 يظهر أداءً ممتازاً في التقدير مقارنةً بالحلول المعتمدة على وحدات معالجة الرسومات، بفضل اقتصادية تكلفته واحتياجاته المنخفضة من الطاقة، مما يجعله مناسباً للأنظمة الطرفية الأكثر تناسقاً.
الصناعات المستهدفة الأولية لـ Hailo-10
تخطط Hailo لاستهداف قطاعات الحواسيب والترفيه في السيارات عند بدء شحن Hailo-10 في الربع الثاني من عام 2024. ومع ذلك، يبقى أن نرى متى ستتوسع إلى تطبيقات مثل الروبوتات المدعومة بالذكاء الاصطناعي التوليدي، وهي منطقة استكشفتها Nvidia بالفعل من خلال مشروع GR00T.
حالياً، تتعاون Hailo مع 300 عميل عالمي عبر مجموعة متنوعة من القطاعات، بما في ذلك الحوسبة، والسيارات، والأمن، والصناعة 4.0، والتجزئة، والرعاية الصحية، تضم شركات بارزة مثل NEC وBosch وSchneider Electric وDell وABB وFoxconn.
ختاماً، قد يُعيد المسرع الابتكاري Hailo-10 للذكاء الاصطناعي التوليدي تعريف الحوسبة على الحافة، مقدماً بدائل فعالة من حيث الطاقة للحلول الحالية مع تعزيز قدرات مجموعة من التطبيقات.