كيف يمكننا حماية الذكاء الاصطناعي التوليدي؟ رؤى من نهج IBM

مع تزايد استخدام المنظمات لتكنولوجيا الذكاء الاصطناعي التوليدي، تزداد أيضًا التحديات الأمنية. اليوم، تقوم IBM بتعزيز الإجراءات الأمنية من خلال إطلاق إطار عمل جديد مصمم خصيصًا للذكاء الاصطناعي التوليدي. يهدف إطار عمل IBM لتأمين الذكاء الاصطناعي التوليدي إلى حماية سير العمل على مدار دورة حياته بالكامل، من جمع البيانات إلى نشرها في الإنتاج. يوفر هذا الإطار رؤى حول التهديدات الأمنية الشائعة التي قد تواجهها المنظمات أثناء العمل مع الذكاء الاصطناعي التوليدي، إلى جانب توصيات عملية لاستراتيجيات دفاع فعالة. على مدار العام الماضي، عززت IBM قدراتها في الذكاء الاصطناعي التوليدي من خلال محفظة watsonX، التي تشمل نماذج متقدمة وأدوات للحوكمة.

أكد رايان دوغرتي، مدير برنامج التكنولوجيا الأمنية الناشئة في IBM، على أهمية هذا الإطار قائلاً: "لقد قمنا بتجميع خبرتنا لتسليط الضوء على الهجمات الأكثر احتمالاً وأعلى الدفاعات التي ينبغي على المنظمات تنفيذها لتأمين مبادراتها في الذكاء الاصطناعي التوليدي".

ما يميز أمان الذكاء الاصطناعي التوليدي؟

بينما تمتلك IBM خبرة واسعة في مجال الأمان، فإن المخاطر المرتبطة بالأحمال العمل للذكاء الاصطناعي التوليدي تكون مألوفة وفريدة في آن واحد. تتضمن المبادئ الأساسية لنهج IBM تأمين البيانات، والنموذج، والاستخدام. تسلط هذه الركائز الضوء على الحاجة إلى بنية تحتية آمنة وحوكمة الذكاء الاصطناعي طوال العملية.

أشار سريدhar موبيدي، زميل IBM ورئيس قسم التكنولوجيا في IBM Security، إلى أن ممارسات الأمان الأساسية للبيانات، مثل التحكم في الوصول وأمان البنية التحتية، تبقى حيوية في مجال الذكاء الاصطناعي التوليدي، مثلما هي في بيئات تكنولوجيا المعلومات التقليدية. ومع ذلك، فإن بعض المخاطر مرتبطة بشكل خاص بالذكاء الاصطناعي التوليدي؛ على سبيل المثال، يؤدي تسميم البيانات إلى إدخال بيانات خاطئة إلى مجموعة البيانات، مما يؤدي إلى نتائج غير دقيقة. كما أشار موبيدي إلى أن القضايا المرتبطة بالتحيز وتنوع البيانات، بالإضافة إلى الانحراف في البيانات ومخاوف الخصوصية، تتطلب اهتمامًا خاصًا في هذا المجال. علاوة على ذلك، يشكل حقن الأوامر—حيث يقوم المستخدمون بتغيير مخرجات النموذج بشكل خبيث من خلال الأوامر—مجال خطر جديد يتطلب ضوابط جديدة.

مفاهيم الأمان الرئيسية: MLSecOps، MLDR، وAISPM

إطار عمل IBM لتأمين الذكاء الاصطناعي التوليدي ليس مجرد أداة واحدة بل هو مجموعة من الإرشادات والتوصيات لحماية سير العمل للذكاء الاصطناعي التوليدي. مع تطور بيئة الذكاء الاصطناعي التوليدي، تظهر فئات أمان جديدة، بما في ذلك الكشف والاستجابة لعلوم البيانات (MLDR)، وإدارة وضع الأمان للذكاء الاصطناعي (AISPM)، وعمليات أمان علوم البيانات (MLSecOps). يركز MLDR على تحديد المخاطر المحتملة داخل النماذج، بينما يشبه AISPM إدارة وضع أمان السحابة (CSPM)، مع التأكيد على أهمية التكوين المناسب وأفضل الممارسات لنشر آمن.

قال موبيدي: "تمامًا كما لدينا DevOps، الذي تطور إلى DevSecOps مع إضافة الأمان، يمثل MLSecOps نهجًا شاملًا طوال دورة الحياة، من التصميم إلى الاستخدام، ويدمج الأمان في كل أرجاء العملية".

يوفر هذا الإطار للمنظمات القدرة على التنقل بشكل أفضل بين تعقيدات أمان الذكاء الاصطناعي التوليدي، مما يضمن دفاعات قوية ضد التهديدات الناشئة.