دراسة OpenAI تكشف عن تأثير غير متوقع للذكاء الاصطناعي على مستقبل تطوير التهديدات البيولوجية

أصدرت OpenAI، المنظمة البحثية وراء النموذج اللغوي المتقدم GPT-4، دراسة مثيرة تستكشف الاستخدام المحتمل للذكاء الاصطناعي في إنشاء تهديدات بيولوجية. وقد أظهرت هذه الدراسة، التي شارك فيها خبراء في علم الأحياء وطلاب، أن تأثير GPT-4 على دقة إنشاء التهديدات البيولوجية كان "ارتفاعاً خفيفاً" مقارنةً بالموارد المتاحة على الإنترنت.

تشكل هذه الدراسة جزءًا من إطار الاستعداد الذي طورته OpenAI، والذي يهدف إلى تقييم ومعالجة المخاطر المحتملة التي تطرحها قدرات الذكاء الاصطناعي المتقدمة، خاصةً تلك المتعلقة بـ "المخاطر الحدودية" — التهديدات غير التقليدية التي لا تزال غير مفهومة جيدًا. ومن الأمور المثيرة للقلق إمكانية أن يساعد الذكاء الاصطناعي الفاعلين الخبيثين في تنفيذ هجمات بيولوجية، بما في ذلك تركيب مسببات الأمراض والسموم.

منهجية الدراسة والنتائج

شارك الباحثون في تقييم بشري شارك فيه 100 فرد: 50 دكتوراه في علم الأحياء لديهم خبرة عملية في المختبر و50 طالبًا أكملوا على الأقل دورة دراسية واحدة في علم الأحياء على مستوى الجامعة. تم تعيين المشاركين عشوائيًا إلى مجموعة تحكم (تستخدم الإنترنت فقط) أو مجموعة معالجة (لديها إمكانية الوصول إلى GPT-4 بجانب الإنترنت). وأكملوا مهامًا تتعلق بعملية إنشاء التهديدات البيولوجية، بما في ذلك الابتكار، والحصول، والتكبير، والتكوين، والإفراج.

تم تقييم الأداء عبر خمسة مقاييس رئيسية: الدقة، والاكتفاء، والابتكار، ومدة التنفيذ، وصعوبة التقييم الذاتي. أظهرت النتائج أن GPT-4 لم يحسن بشكل ملحوظ أداء المشاركين في أي مقياس، حيث سجل مجموعة الطلاب فقط تحسنًا طفيفًا في الدقة. علاوة على ذلك، كان GPT-4 يولد في كثير من الأحيان استجابات خاطئة أو مضللة، مما قد يعيق عملية إنشاء التهديدات البيولوجية.

استنتج الباحثون أن جيل LLMs الحالي مثل GPT-4 لا يزيد بشكل كبير من مخاطر إنشاء التهديدات البيولوجية مقارنةً بالموارد المتاحة على الإنترنت. ومع ذلك، حذروا من أن هذه النتيجة ليست نهائية، حيث يمكن أن تتطور LLMs المستقبلية لتصبح أكثر قدرةً وخطورة. وشددوا على ضرورة استمرار البحث، والنقاش المجتمعي، وتطوير طرق تقييم فعالة وإرشادات أخلاقية لإدارة مخاطر سلامة الذكاء الاصطناعي.

تتوافق هذه الاستنتاجات مع النتائج السابقة من تمرين فرقة حمراء لمؤسسة RAND، التي لم تجد أيضًا فرقًا ذي دلالة إحصائية في جدوى خطط الهجمات البيولوجية التي تم إنشاؤها باستخدام أو دون استخدام LLMs. وقد اعترفت كلتا الدراستين بوجود قيود في منهجياتهما وتطور تكنولوجيا الذكاء الاصطناعي السريع الذي يمكن أن يغير مشهد المخاطر قريبًا.

تمتد المخاوف المتعلقة بالإساءة المحتملة للذكاء الاصطناعي في التهديدات البيولوجية إلى أبعد من OpenAI؛ حيث دعت البيت الأبيض، والأمم المتحدة، والعديد من الخبراء الأكاديميين والسياسيين إلى زيادة البحث والتنظيم. ومع تزايد قوة وراحة الوصول لتكنولوجيا الذكاء الاصطناعي، تزداد الحاجة إلى اليقظة والاستعداد.