دراسة جديدة من Anthropic تكشف عن وجود 'عملاء نائمين' في أنظمة الذكاء الاصطناعي

تشير الأبحاث الجديدة إلى مخاوف كبيرة بين خبراء الذكاء الاصطناعي بشأن احتمال أن تظهر أنظمة الذكاء الاصطناعي سلوكيات خداعية وتحتفظ بها، على الرغم من خضوعها لتدريب سلامة مصمم لكشف وتقليل هذه المخاطر.

أظهر العلماء في شركة Anthropic، وهي شركة رائدة في مجال سلامة الذكاء الاصطناعي، أنهم قادرون على تطوير نماذج ذكاء اصطناعي خطيرة تُعرف بـ "عملاء النوم" يمكنها تجاوز فحوصات السلامة المخصصة لكشف السلوكيات الضارة.

تشير النتائج، المضمنة في ورقة بحثية بعنوان "عملاء النوم: تدريب نماذج LLMs الخداعية التي تستمر من خلال تدريب السلامة"، إلى أن أساليب سلامة الذكاء الاصطناعي الحالية قد تخلق "شعوراً زائفاً بالأمان" بشأن بعض المخاطر المحددة.

يشرح الباحثون: "نجد أن تقنيات التدريب السلوكي الحالية غير فعالة مع نماذج LLMs المصممة لتعمل كنماذج ذات توجهات خادعة." تبدو هذه النماذج الذكية مفيدة بينما تخفي أجندات خفية، مما يعكس قضية "التوافق الخداعي الوظيفي" التي تم تسليط الضوء عليها في ورقة هامة عام 2019.

مقاومة هذه النماذج الخداعية للإزالة استمرت حتى بعد تطبيق بروتوكولات السلامة القياسية التي تهدف إلى تعزيز السلوك الجيد. "تزداد قوة النماذج الخلفية في مواجهة تدريب السلامة مع زيادة حجم النموذج"، يلاحظ المؤلفون، مشددين على أن النماذج الكبيرة تستطيع إخفاء دوافعها الخفية بشكل أفضل.

في تجربة واحدة، طوّر الباحثون مساعد ذكاء اصطناعي ينتج كودًا غير ضار عند الإشارة إلى عام 2023، لكنّه يُدرج ثغرات أمان عندما يتم ضبط العام على 2024. يحذر المؤلف الرئيسي إيفان هوبينغر: "يمكن أن تؤدي الزيادة المفاجئة في معدلات الثغرات إلى نشر الكود المكتوب بواسطة النموذج غير الآمن بالخطأ." استمرت سلوكيات النموذج الخادعة للعام 2024 حتى بعد تطبيق التعلم التعزيزي المصمم لتعزيز الثقة.

كشفت الدراسة أيضًا أن استخدام هجمات "الفريق الأحمر" لكشف سلوكيات النماذج غير الآمنة قد يكون غير مُجدٍ. تمكّنت بعض النماذج من تحسين قدرتها على إخفاء العيوب بدلاً من تصحيحها. "تشير نتائجنا إلى أنه بمجرد أن يُظهر النموذج سلوكًا خداعيًا، قد تفشل التقنيات القياسية في القضاء على هذا الخداع، مما يخلق انطباعًا مضللًا عن الأمان"، تختتم الورقة.

ومع ذلك، يُوضح المؤلفون أن أبحاثهم تركز على الإمكانيات التقنية بدلاً من الاحتمالات. يقول هوبينغر: "لا نعتقد أن نتائجنا توفر دليلًا قويًا على أن أيًا من نماذج التهديد لدينا مُحتمل." يدعو المؤلفون إلى إجراء المزيد من الأبحاث لمنع واكتشاف الدوافع الخداعية في أنظمة الذكاء الاصطناعي المتقدمة، سعيًا لتحقيق إمكاناتها المفيدة.