تقرير NIST الجديد يثير القلق بشأن تصاعد تهديدات هجمات الذكاء الاصطناعي

أصدر المعهد الوطني للمعايير والتكنولوجيا (NIST) تقريرًا عاجلاً يتناول التهديدات المتزايدة لأنظمة الذكاء الاصطناعي (AI). يحمل التقرير عنوان "تعلم الآلة العدائي: تصنيف ومصطلحات الهجمات والتخفيفات"، ويأتي في وقت حرج حيث تزداد قوة نظم الذكاء الاصطناعي، لكنها تصبح أكثر عرضة للهجمات.

تتيح تقنيات تعلم الآلة العدائي للمهاجمين التلاعب بأساليب دقيقة في أنظمة الذكاء الاصطناعي، مما قد يؤدي إلى تعطل كارثي. يوضح التقرير أساليب هذه الهجمات، مصنّفًا إياها بناءً على أهداف المهاجمين وقدراتهم ومعرفتهم بالنظام المستهدف.

يشير تقرير NIST إلى أن "المهاجمين يمكن أن يسببوا ارتباكًا متعمدًا أو حتى 'تسميم' أنظمة الذكاء الاصطناعي لجعلها تتعطل"، مستغلين الثغرات الموجودة في تطوير ونشر تطبيقات الذكاء الاصطناعي.

يتناول التقرير أنواعًا مختلفة من الهجمات، بما في ذلك "تسميم البيانات"، حيث يقوم الخصوم بتعديل البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي. ويلاحظ التقرير أن "الأبحاث الحديثة توضح أن التسميم يمكن أن يُنسق على نطاق واسع، مما يمكّن حتى الخصوم ذوي الميزانيات المنخفضة من التأثير على مجموعات البيانات العامة المستخدمة في تدريب النماذج".

ويبرز التقرير أيضًا القلق بشأن "هجمات الباب الخلفي"، التي تتضمن تضمين محفزات في بيانات التدريب لتحفيز أخطاء تصنيف معينة لاحقًا. ويحذر التقرير من أن "الهجمات عبر الباب الخلفي تعتبر صعبة للدفاع ضدها بشكل ملحوظ".

بالإضافة إلى ذلك، يتناول التقرير مخاطر الخصوصية المرتبطة بأنظمة الذكاء الاصطناعي. يمكن أن تكشف تقنيات مثل "هجمات استدلال العضوية" ما إذا كانت عينة بيانات محددة قد استخدمت في التدريب. يحذر NIST من أنه "لا توجد وسيلة مانعة تمامًا حتى الآن لمنع التوجيه الخاطئ في أنظمة الذكاء الاصطناعي".

بينما يحمل الذكاء الاصطناعي القدرة على إحداث ثورة في الصناعات، يشدد خبراء الأمن على أهمية الحذر. يوضح التقرير أن "شات بوتات الذكاء الاصطناعي، المدعومة بالتطورات الحديثة في التعلم العميق، تقدم قدرات قوية لمجموعة متنوعة من التطبيقات التجارية. ومع ذلك، يجب نشر هذه التكنولوجيا الناشئة بحذر شديد".

يسعى NIST إلى خلق فهم مشترك لتحديات أمن الذكاء الاصطناعي. ومن المحتمل أن يمثل هذا التقرير مصدرًا حيويًا لمجتمع أمن الذكاء الاصطناعي الذي يواجه هذه التهديدات المتطورة.

علق جوزيف ثاكر، كبير مهندسي الذكاء الاصطناعي وباحث الأمن في AppOmni، قائلًا: "هذا هو أفضل منشور حول أمن الذكاء الاصطناعي رأيته. العمق والتغطية رائعة؛ فهو يقدم أعمق الرؤى عن الهجمات العدائية ضد أنظمة الذكاء الاصطناعي التي قابلتها".

بينما يواصل الخبراء مواجهة التهديدات الأمنية الناشئة في مجال الذكاء الاصطناعي، من الواضح أننا في صراع مستمر من أجل الحماية. ومن الضروري تعزيز الدفاعات قبل أن يمكن دمج الذكاء الاصطناعي بأمان في جميع الصناعات، حيث إن المخاطر كبيرة جدًا لتجاهلها.