خبراء الذكاء الاصطناعي يحذرون من خطر "انقراض البشرية" الوشيك دون زيادة الإشراف

رسالة مفتوحة صدرت يوم الثلاثاء عن أكثر من عشرة موظفين حاليين وسابقين من OpenAI، وDeepMind التابعة لجوجل، وAnthropic، تسلط الضوء على "المخاطر الجسيمة" المرتبطة بالتطور السريع لتكنولوجيا الذكاء الاصطناعي (AI) في غياب إطار فعال للرقابة. يحذر الباحثون من أن الذكاء الاصطناعي غير المنظم قد يؤدي إلى تفاقم الفجوات الحالية، وتلاعب بالمعلومات، ونشر معلومات مضللة، وقد يتسبب في فقدان السيطرة على أنظمة الذكاء الاصطناعي المستقلة، مع عواقب وخيمة للبشرية.

يؤكد الموقعون أن هذه المخاطر يمكن "تخفيفها بشكل كافٍ" من خلال التعاون بين المجتمع العلمي، والمشرعين، والجمهور. ومع ذلك، يعبرون عن قلقهم من أن "الشركات العاملة في مجال الذكاء الاصطناعي لديها حوافز مالية قوية لتجنب الرقابة الفعالة" ولا يمكن الاعتماد عليها لتوجيه التطوير المسؤول للتقنيات القوية.

منذ إطلاق ChatGPT في نوفمبر 2022، قامت تقنيات الذكاء الاصطناعي التوليدية بتحويل مشهد التكنولوجيا بسرعة، حيث تقود شركات السحابة الكبرى مثل Google Cloud وAmazon AWS وOracle وMicrosoft Azure المجال، ومن المتوقع أن تصل السوق إلى تريليون دولار بحلول عام 2032. أظهرت دراسة حديثة من McKinsey أنه اعتبارًا من مارس 2024، قامت نحو 75% من المؤسسات المُستَطلعة بدمج الذكاء الاصطناعي في عملياتها. بالإضافة إلى ذلك، وجدت دراسة مؤشر العمل السنوي لشركة مايكروسوفت أن ثلاثة أرباع العمال في المكاتب يستخدمون بالفعل أدوات الذكاء الاصطناعي في وظائفهم.

ومع ذلك، كما أشار دانييل كوكوتاجلو، موظف سابق في OpenAI، في حديثه مع صحيفة The Washington Post، تبنت بعض الشركات عقلية "التحرك بسرعة وكسر الأشياء"، وهي عقلية غير مناسبة للتكنولوجيا القوية وغير المفهومة جيدًا. واجهت شركات ناشئة في مجال الذكاء الاصطناعي مثل OpenAI وStable Diffusion تحديات مع قوانين حقوق النشر الأمريكية، بينما تم استغلال عدة دردشات عامة في إنتاج خطاب الكراهية، ونظريات المؤامرة، والمعلومات المضللة.

يعرب الموظفون المعنيون عن أنه لدى هذه الشركات "معلومات غير عامة كبيرة" بشأن قدرات منتجاتها وقيودها، بما في ذلك المخاطر المحتملة للضرر وفعالية تدابير السلامة. ويؤكدون أن جزءًا ضئيلًا فقط من هذه المعلومات متاح للجهات الحكومية من خلال "التزامات ضعيفة بالمشاركة"، مما يبقي الجمهور العام في حالة جهل إلى حد كبير.

"مع غياب الرقابة الحكومية الكافية على هذه الشركات، يمثل الموظفون الحاليون والسابقون واحدة من القلائل القادرين على حملها على المساءلة أمام الجمهور،" ذكرت المجموعة. وانتقدت اعتماد صناعة التكنولوجيا على اتفاقيات السرية وغياب إنفاذ فعال لحماية المبلغين عن المخالفات. وتدعو الرسالة الشركات المعنية إلى إلغاء اتفاقيات عدم التشهير، وإنشاء عملية إبلاغ مجهولة للمخاوف التي يجب على قيادة الشركة والجهات التنظيمية معالجتها، وضمان عدم تعرض المبلغين عن المخالفات العامة للانتقام إذا فشلت القنوات الداخلية.