حاكم كاليفورنيا نيوسوم يستخدم حق النقض ضد مشروع القانون SB 1047، الذي تم تصميمه للحد من كوارث الذكاء الاصطناعي.

رفض حاكم كاليفورنيا غافين نيوسوم مشروع القانون SB 1047، الذي صُمم لمنع إساءة استخدام الذكاء الاصطناعي (AI) والذي قد يؤدي إلى "أضرار جسيمة" للبشر. صوتت الجمعية العامة لولاية كاليفورنيا لصالح التشريع في 28 أغسطس بفارق 41-9، لكن هيئات مثل غرفة التجارة حثت الحاكم على رفضه.

في رسالة رفضه المؤرخة في 29 سبتمبر، اعترف نيوسوم بأن مشروع القانون "حسن النية"، لكنه يفتقر إلى النظر في عوامل حاسمة مثل استخدام الذكاء الاصطناعي في بيئات عالية المخاطر ومعالجة البيانات الحساسة. وأشار إلى أنه يفرض معايير صارمة حتى على وظائف الذكاء الاصطناعي الأساسية في الأنظمة الكبيرة.

كان SB 1047 يهدف إلى تحميل مطوري نماذج الذكاء الاصطناعي المسؤولية عن تنفيذ بروتوكولات السلامة لتجنب النتائج الكارثية. تضمنت تدابير السلامة المطلوبة اختبارات صارمة، وتقييمات خارجية للمخاطر، وميزة "الإيقاف الطارئ" كضمان، مع فرض غرامات تبدأ من 10 ملايين دولار للمخالفات الأولية وتتصاعد إلى 30 مليون دولار للمخالفات المتكررة. ومع ذلك، أزيلت من النسخة المعدلة قدرة المدعي العام للدولة على مقاضاة شركات الذكاء الاصطناعي بتهمة الإهمال إلا في حالة وقوع حدث كارثي، مما قيد الإجراءات القانونية المحتملة بالحد من الإغاثة القضائية في مثل هذه الحالات.

كان التشريع يهدف إلى تنظيم نماذج الذكاء الاصطناعي بتكلفة تشغيلية لا تقل عن 100 مليون دولار وقدرات تدريب تصل إلى 10^26 FLOPS. كان من شأنه أيضًا أن يؤثر على المشاريع التي تم تطويرها باستثمارات طرف ثالث كبيرة تتجاوز 10 ملايين دولار. سيكون على أي شركة تعمل في كاليفورنيا الامتثال لشروط المشروع إذا استوفت هذه المعايير.

أعرب نيوسوم عن قلقه من التركيز الضيق لمشروع القانون على الأنظمة الكبيرة للذكاء الاصطناعي، قائلاً: "لا أعتقد أن هذه هي أفضل طريقة لحماية الجمهور من التهديدات الحقيقية التي تطرحها التكنولوجيا." وحذر من أن هذا التركيز قد يخلق شعورًا زائفًا بالأمان، حيث يمكن أن تمثل النماذج الأصغر المتخصصة مخاطر متساوية، إن لم تكن أكبر، مما يعيق الابتكار المفيد للجمهور.

اقترحت النسخة السابقة من SB 1047 إنشاء قسم نماذج الحدود لتنظيم تكنولوجيا الذكاء الاصطناعي. ومع ذلك، تم تعديل مشروع القانون لوضع الإشراف تحت مجلس نماذج الحدود داخل وكالة عمليات الحكومة، مع تعيين الأعضاء من قبل الحاكم والهيئة التشريعية.

كتب مشروع القانون السيناتور في ولاية كاليفورنيا سكوت وينر، وواجه مقاومة كبيرة من مجتمع التكنولوجيا. دعم باحثو الذكاء الاصطناعي البارزون جيفري هينتون ويوشوا بينجيو المبادرة، معبرين عن مخاوف بشأن مخاطر الذكاء الاصطناعي. أكد وينر على أهمية اتخاذ تدابير استباقية، قائلاً: "لننتظر حدوث شيء سيئ."

في رسالته الخاصة بالرفض، أكد نيوسوم التزام الدولة بالسلامة، مؤكداً: "كاليفورنيا لن تتخلى عن مسؤوليتها. يجب اعتماد بروتوكولات السلامة، ويجب أن تكون العواقب الواضحة للجهات المسيئة قابلة للتنفيذ." جادل من أجل إطار تنظيمي يتطور بالتوازي مع تقدم الذكاء الاصطناعي.

تلقّى مشروع القانون رد فعل كبير من قادة التكنولوجيا والمنظمات، بما في ذلك الباحثة فاي-فاي لي ورئيس علماء الذكاء الاصطناعي في ميتا يان لكون، اللذان انتقدا المشروع بسبب احتمالية عرقلة الابتكار في الذكاء الاصطناعي. حذرت مجموعات التجارة التكنولوجية، التي تمثل شركات كبرى مثل أمازون وآبل وجوجل، من أن SB 1047 قد يعيق التطورات الجديدة في قطاع التكنولوجيا في كاليفورنيا. بالإضافة إلى ذلك، أعربت شركة رأس المال الاستثماري أندريسن هورويتز، إلى جانب مجموعة متنوعة من الشركات الناشئة، عن مخاوف بشأن التداعيات المالية على مبتكري الذكاء الاصطناعي، مما أدى إلى تعديلات في النسخة التي تقدمت من SB 1047 عبر لجنة التخصيصات في كاليفورنيا في 15 أغسطس.