شركة SydeLabs تحصد تمويلًا أوليًا قدره 2.5 مليون دولار لإنشاء حل جدار ناري قائم على الذكاء الاصطناعي يعتمد على النوايا.

الذكاء الاصطناعي التوليدي وأمن المعلومات: حلول مبتكرة من SydeLabs

يقوم الذكاء الاصطناعي التوليدي بتحويل الأعمال الحديثة، لكنه يقدم أيضًا تهديدات جديدة يمكن أن تعرض المنظمات وسمعتها للخطر. بينما تتخذ شركة SydeLabs الناشئة في كاليفورنيا خطوات جريئة لمواجهة هذه التحديات من خلال جدار حماية يعتمد على نوايا الاستخدام في الوقت الحقيقي. وفي الآونة الأخيرة، حصلت الشركة على تمويل أولي بقيمة 2.5 مليون دولار من RTP Global وPicus Capital ومستثمرين ملاك آخرين.

رغم وجود العديد من اللاعبين في قطاع أمان الذكاء الاصطناعي، تميزت SydeLabs بحقيبة شاملة من الحلول المصممة لمساعدة المطورين على تجنب الثغرات في النماذج اللغوية الكبيرة (LLMs)، بما في ذلك المخاطر الأقل شهرة طوال دورة حياة المشروع من التطوير إلى النشر.

عروض المنتجات المبتكرة

طورت SydeLabs ثلاثة منتجات رئيسية تركز على الذكاء الاصطناعي: SydeBox وSydeGuard وSydeComply. تُعد SydeBox، التي هي في مرحلة البيتا حاليًا، حلاً ذاتيًا لتقييم التطبيقات والنماذج الخاصة بالذكاء الاصطناعي للكشف عن الثغرات المحتملة. بينما يقدم SydeGuard حماية تعتمد على النوايا في الوقت الحقيقي، يعالج SydeComply قضايا الامتثال عبر مناطق عالمية مختلفة.

قالت أنكيتا كوماري، الشريكة المؤسِسة لشركة SydeLabs: "خلال فترة البيتا لـSydeBox، اكتشفنا العديد من الثغرات، بما في ذلك تسريبات بيانات التدريب، وغزوات التعليمات، والتجاوزات الأمنية." وأضافت: "يمكن لـSydeGuard الكشف عن وغلق الغزوات والاعتداءات على محفظة المستخدم ومحاولات تسريب البيانات."

كيف تعمل SydeLabs

تستخدم SydeBox عميلاً ذكياً يبدأ هجمات اختبار استنادًا إلى أبحاث داخلية وبيانات متاحة للجمهور، بينما يقوم نموذج LL بتحليل نجاح الهجوم أثناء تفاعله مع النظام المستهدف. في المقابل، يستخدم SydeGuard نماذج ملكية لتحليل التعليمات المقدمة من المستخدم بحثًا عن التهديدات، مع تقديم درجات مخاطر للتعليمات، والجلسات، والمستخدمين.

بدلاً من حظر المستخدمين بشكل فوري، يقوم SydeGuard بإبلاغ فرق الأمان المؤسسي، مع تقديم خيارات للحظر أو المراقبة أو توجيه التهديد إلى مصيدة معلومات، مما يسمح للفرق باتخاذ قرارات استراتيجية حول كيفية التعامل مع الهجمات المحتملة.

كشف الثغرات بشكل قوي

منذ إطلاق نسخة البيتا لـSydeBox في الأول من مارس 2024، رصدت SydeLabs أكثر من 10,000 ثغرة في أكثر من 50 تطبيقًا ونموذجًا. بينما تواصل الشركة توسيع نطاقه، تهدف إلى إنهاء تطوير منتجات SydeGuard وSydeComply. على المدى الطويل، تخطط SydeLabs لتقديم الحل الخاص بمحاكاة الهجمات مجانًا للمؤسسات التي تركز على الكشف عن الثغرات، فيما ستحقق إيرادات من SydeGuard من خلال نموذج يعتمد على الاستهلاك.

أشارت كوماري إلى أهمية دقة منتجات الأمن السيبراني وقدرتها على البقاء في الصدارة أمام التهديدات. "نضع الأولوية لتحديثات مستمرة لنموذجنا، مع التركيز على تهديدات وهجمات جديدة."

سياق الصناعة والميزة التنافسية

تأتي تمويلات SydeLabs في وقت تتعرض فيه أمان تطبيقات الذكاء الاصطناعي التوليدي لفحص شديد، لا سيما مع حوادث الغزوات التي تؤدي إلى إنتاج مُزيف للفنانين. استجابةً لذلك، أطلقت مايكروسوفت أدوات جديدة في Azure AI تهدف إلى اكتشاف الهلاوس ومنع الهجمات. تعمل شركات مثل Lakera وPrompt Security في مجال محاكاة الهجمات والوقاية في الوقت الحقيقي، لكن كوماري تؤكد أن منتجات SydeLabs تتميز بدقة وأداء أفضل مقارنة بهذه الأدوات.

تواصل SydeLabs الابتكار في مجال الأمن السيبراني، مما يضمن بقاء أنظمة الذكاء الاصطناعي التوليدي آمنة ضد التهديدات المتطورة.