تهديدات الداخل: مخاطر الدردشات الذكية بالذكاء الاصطناعي
تعتبر التهديدات الداخلية من أخطر أنواع الهجمات السيبرانية، حيث تهدد الأنظمة الحيوية والأصول للشركات. ومع انتشار الدردشات الذكية المبنية على الذكاء الاصطناعي، التي تستهدف كلا من العاملين والعملاء، تفتح الشركات مجالاً جديداً للهجمات والمخاطر.
ضعف الدردشات الذكية بالذكاء الاصطناعي
تبين أبحاث حديثة تحت عنوان "ArtPrompt: هجمات كسر الحماية القائمة على فن ASCII ضد النماذج الكبيرة المتوافقة" ضعف الأنظمة الذكية. فقد نجح الباحثون في كسر حماية خمسة نماذج لغوية كبيرة متطورة، بما في ذلك ChatGPT-3.5 وGPT-4 وGemini وClaude وLlama2 من Meta، باستخدام فن ASCII.
تستفيد هجمات ArtPrompt من صعوبات النماذج اللغوية في تفسير فن ASCII، مما يمكن المهاجمين من تجاوز تدابير الأمان. ومن الجدير بالذكر أن الهجوم يمكن تنفيذه بحدٍ أدنى من الوصول إلى النموذج المستهدف ويتطلب محاولات أقل لكسر الحماية بنجاح.
فهم ضعف فن ASCII
بينما تتميز النماذج اللغوية الكبيرة بالقدرة على تفسير المعاني، إلا أنها تواجه تحديات في التعرف على الصور والأشكال المعقدة. سعى الباحثون إلى فهم فعالية فن ASCII في كسر الحماية، وأسسوا تحدي "الرؤية في النص" (VITC) لتقييم قدرات النماذج في التعرف على فن ASCII من خلال مجموعة بيانات فريدة.
- VITC-S تركز على العناصر الفردية في فن ASCII، مع 36 فئة و8,424 نموذجًا لاختبار مهارات التعرف لدى النماذج.
- VITC-L تزيد من التعقيد من خلال تضمين تسلسلات من الأحرف عبر 800 فئة وبـ10 خطوط مميزة.
تساعد النتائج من VITC-S إلى VITC-L في تسليط الضوء على قيود النماذج في تفسير فن ASCII.
تستخدم ArtPrompt استراتيجية هجوم من خطوتين حيث تتضمن استخدام نصوص ASCII لإخفاء كلمات الأمان، مثل "قنبلة"، التي يتم كشفها في الخطوة الأولى ثم إخفاؤها باستخدام فن ASCII في الخطوة الثانية. وقد أثبتت هذه الطريقة فعاليتها عبر خمسة نماذج لغوية كبيرة متطورة.
صعود الدردشات الذكية الداخلية
تتسارع الشركات في نشر الدردشات الذكية الداخلية والموجهة للعملاء للاستفادة من المكاسب المحتملة في الإنتاجية والكفاءة والتكاليف والعائدات. ووفقًا لتقرير مجموعة بوسطن الاستشارية، فإن أفضل 10% من الشركات قد دمجت تطبيقات الذكاء الاصطناعي بشكل كامل، حيث حقق 44% عوائد كبيرة من الذكاء الاصطناعي المعتمد على التنبؤ. ومن اللافت أن ثلثي هذه المؤسسات عالية الأداء تتصدر قطاعات مثل الأدوية الحيوية والطاقة والتأمين.
على سبيل المثال، قامت شركة طاقة أمريكية بتطبيق منصة محادثة مدعومة بالذكاء الاصطناعي لتعزيز إنتاجية الفنيين بنسبة 7%. في حين ساعدت شركة أدوية حيوية على تقليص أوقات اكتشاف الأدوية بنسبة 25%.
تحديات الأمان في الدردشات الذكية الداخلية
تمثل الدردشات الداخلية المزايا المتزايدة سطح هجوم كبير، مما يجعل تدابير الأمان تتخلف عن مواكبة التهديدات. وركز مسؤول الأمن في إحدى الشركات المالية الكبرى على ضرورة تصميم هذه الدردشات لتكون قادرة على التعافي من الأخطاء وسوء الاستخدام، بجانب تعزيز الأمان ضد الهجمات.
يؤكد تقرير معهد بونيمون لعام 2023 حول تكلفة المخاطر الداخلية على ضرورة تنفيذ تدابير أمان قوية للأنظمة الأساسية، بما في ذلك تكوينات السحابة والدردشات الذكية. يتجاوز متوسط تكلفة التصدي لهجوم 7.2 مليون دولار لكل حادث، مع نسبة الإهمال التي تشكل 55% من خروقات الأمان الداخلية.
استراتيجيات الدفاع المتطورة
سيتطلب التصدي لهجمات فن ASCII تحسينات متكررة لتقليل الإيجابيات والسلبيات الخاطئة. ومع تطور أساليب الكشف، سيتكيف المهاجمون، مستمرين في اختبار حدود قدرات النماذج. يدعو الخبراء إلى استراتيجيات دفاع متعددة الجوانب تشمل التعرف على فن ASCII المعتمد على التعلم الآلي، إلى جانب المراقبة المستمرة.
تعمل شركات الأمن السيبراني مثل Cisco وEricom Security وMenlo Security وNightfall AI وWiz وZscaler على تطوير طرق لحماية البيانات السرية خلال جلسات ChatGPT. توصي Zscaler بخطة من خمس خطوات:
1. تحديد مجموعة الحد الأدنى من تطبيقات الذكاء الاصطناعي والتعلم الآلي للتحكم في المخاطر.
2. الموافقة على الدردشات الداخلية والتطبيقات للاستخدام الموسع.
3. إنشاء نسخ خاصة من خوادم ChatGPT في بيئات آمنة.
4. تطبيق تسجيل دخول موحد (SSO) مع مصادقة متعددة العوامل قوية (MFA).
5. فرض بروتوكولات منع تسرب البيانات (DLP) لتجنب تسرب البيانات.
تشير الوظيفة العليا في التسويق بEricom إلى أن عزل الوصول إلى أدوات الذكاء الاصطناعي يمكن أن يمكّن الموظفين من استخدام موارد توفر الوقت مع حماية المعلومات الحساسة.
نظرًا للطبيعة المعقدة لفن ASCII، فإن إنشاء دفاعات فعالة ضد هذه الهجمات أمر ضروري للدردشات الذكية ولنماذجها الداعمة. كما يؤكد الباحثون، فإن استراتيجية الدفاع متعددة الجوانب تعد حيوية في تقليل هذه التهديدات المتطورة.
قائمة الترتيب
