البيت الأبيض يطلق اتحاداً جديداً لسلامة الذكاء الاصطناعي: أكثر من 200 شركة رائدة تتعاون لاختبار وتقييم نماذج الذكاء الاصطناعي.

إطلاق اتحاد معهد أمان الذكاء الاصطناعي الأمريكي من قبل إدارة بايدن

بعد تعيين مساعد رفيع المستوى من البيت الأبيض مديراً لمعهد أمان الذكاء الاصطناعي الأمريكي (USAISI) الذي تم تأسيسه حديثاً في المعهد الوطني للمعايير والتكنولوجيا (NIST)، أعلنت إدارة بايدن عن اتحاد معهد أمان الذكاء الاصطناعي الأمريكي (AISIC)، والذي يُعتبر "أول اتحاد مخصص لسلامة الذكاء الاصطناعي".

تشمل هذه التعاون أكثر من 200 منظمة عضو، بما في ذلك العمالقة التكنولوجيين مثل Google و Microsoft و Amazon، وكذلك الشركات الرائدة في نماذج اللغة الكبيرة مثل OpenAI و Cohere و Anthropic. كما يضم الاتحاد مختبرات بحثية، فرق أكاديمية، منظمات المجتمع المدني، حكومات محلية، ومنظمات غير ربحية.

وفقًا لمقال نشره NIST، يُمثل AISIC أكبر تجمع لفرق الاختبار والتقييم حتى الآن، وتهدف المبادرة إلى تأسيس علوم قياس أساسية تتعلق بسلامة الذكاء الاصطناعي. سيعمل الاتحاد تحت مظلة USAISI لدعم المبادرات الرئيسية التي outlined في الأمر التنفيذي للرئيس بايدن، بما في ذلك تطوير إرشادات لاختبار القدرات، تقييم المخاطر، بروتوكولات السلامة والأمان، وعلامات مائية للمحتوى الاصطناعي.

تفاصيل التكوين

تم الإعلان عن الاتحاد في 31 أكتوبر 2023، بالتزامن مع أمر بايدن التنفيذي حول الذكاء الاصطناعي. ذكر موقع NIST أن المشاركة مفتوحة للمنظمات القادرة على تقديم الخبرات أو المنتجات أو البيانات أو النماذج. يجب على المشاركين المختارين دفع رسوم سنوية قدرها 1000 دولار وإبرام اتفاقية تعاون للبحث والتطوير مع NIST.

إرشادات سلامة الذكاء الاصطناعي

سيركز أعضاء الاتحاد على عدد من الإرشادات الأساسية:

1. إنشاء أدوات وأفضل الممارسات لتطوير ونشر الذكاء الاصطناعي بشكل آمن وموثوق.

2. إنشاء إرشادات لتحديد وتقييم قدرات الذكاء الاصطناعي التي قد تكون ضارة.

3. تعزيز ممارسات التطوير الآمن للذكاء الاصطناعي التوليدي ومعالجة نماذج الاستخدام المزدوج مع ضمان الحفاظ على الخصوصية.

4. تقديم موارد لإنشاء وصيانة بيئات الاختبار.

5. تطوير ممارسات للاختبار الفعال والتقنيات الذكية التي تحافظ على الخصوصية.

6. تصميم أدوات للمصادقة على المحتوى الرقمي.

7. تحديد معايير المهارات اللازمة لعمالة الذكاء الاصطناعي، بما في ذلك تحديد المخاطر وإدارتها واختبارها والتحقق منها.

8. استكشاف التفاعل بين المجتمع والتكنولوجيا، مع التركيز على كيفية تعامل الناس مع الذكاء الاصطناعي في سياقات متنوعة.

9. تقديم إرشادات حول إدارة الاعتمادات المتبادلة بين كيانات الذكاء الاصطناعي على مدار دورة حياتها.

عدم اليقين بشأن التمويل

رغم الإعلان، تبقى الأسئلة قائمة حول تمويل USAISI. تشير التقارير إلى أنه منذ الإعلان الأولي من البيت الأبيض في نوفمبر، لم تُشارك تفاصيل كثيرة بشأن الإطار التشغيلي أو مصادر التمويل، خاصةً مع ميزانية NIST السنوية التي تتجاوز 1.6 مليار دولار وضغوط الموارد المعروفة.

في يناير الماضي، طلب مجموعة من senators ذوي الحزبين مبلغ 10 ملايين دولار من لجنة تخصيص الميزانية في مجلس الشيوخ للمساعدة في تأسيس USAISI، لكن حالة هذا الطلب لا تزال غير واضحة. علاوة على ذلك، أعرب المشرعون في لجنة العلوم بالمجلس عن قلقهم بشأن شفافية NIST وغياب عملية تنافسية لمنح أموال البحث المتعلقة بالمعهد الجديد.

وفي حديثها عن التحديات التمويلية، أبرزت رمان شوهدري، شخصية رائدة في أخلاقيات الذكاء الاصطناعي والتي كانت سابقًا مع Accenture و Twitter، أن USAISI تعمل تحت ولاية غير ممولة من خلال الأمر التنفيذي. وأعربت عن فهمها للتعقيدات السياسية التي تعيق اتخاذ إجراءات تشريعية بينما لاحظت النقص الكبير في التمويل لهذه المبادرة.