رؤى من Galactica: ما اكتشفته Meta من النموذج المحكوم عليه بالفشل الذي أطلق قبل أسبوعين فقط من ChatGPT

قبل عام من الآن، وقبل أسبوعين فقط من إطلاق OpenAI لـ ChatGPT، قدّمت شركة Meta نموذج Galactica—نموذج لغة مفتوح المصدر مخصص للعلوم، تم تدريبه على 48 مليون مقال علمي. زعمت Meta أن Galactica يمكنه تلخيص الأدبيات الأكاديمية، وحل المشكلات الرياضية، وإنشاء مقالات موسوعية، وكتابة الأكواد العلمية، وتعليق على الجزيئات والبروتينات.

ومع ذلك، تم سحب Galactica بعد ثلاثة أيام فقط في 17 نوفمبر 2022، بسبب الانتقادات العامة حول نتائجه غير الدقيقة وفي بعض الأحيان المهينة، والتي تُعرف الآن بـ"الهلاوس". أشار النقاد إلى ميل Galactica لإنتاج ردود تبدو معقولة لكنها غير صحيحة من الناحية الواقعية، مما صدم العديد في المجتمع العلمي.

رغم الجدل، دافع يان لوكون، كبير العلماء في Meta، عن Galactica على وسائل التواصل الاجتماعي، مؤكداً "لم يعد بالإمكان الاستمتاع باستخدامه بطريقة غير مسؤولة". ومع ذلك، لم يحقق النموذج التوقعات بشأن الذكاء الاصطناعي التحويلي.

بعد أسبوعين، ظهر ChatGPT في الساحة، وفي نفس الأسبوع، ظهرت شائعات حول GPT-4، مما أثار الأمل بين الباحثين في مجال الذكاء الاصطناعي الذين حضروا مؤتمر NeurIPS في نيو أورلينز. في 30 نوفمبر، بدلاً من GPT-4، أصدرت OpenAI ChatGPT، مما يعد لحظة محورية في مجال الذكاء الاصطناعي.

كشف ChatGPT بسرعة عن قضيته الخاصة مع الهلاوس، حيث تولّد استجابات واثقة ولكن مضللة. اعترفت OpenAI بهذه القيود في مدونة الإطلاق، مشيراً إلى أن معالجتها تعتبر "تحدياً". على الرغم من هذه العيوب، شهد ChatGPT نمواً هائلاً، ووصل إلى حوالي 100 مليون مستخدم شهرياً في غضون شهرين فقط، والآن يفتخر بـ 100 مليون مستخدم أسبوعياً.

لا تزال إرث Galactica مستمرة، حيث اعترفت Meta بالدروس القيمة المستفادة. قالت جويل بينو، نائب رئيس أبحاث الذكاء الاصطناعي في Meta، "لقد تم استخلاص الكثير من الدروس الجيدة... لا أزال أتلقى العديد من الطلبات من الأشخاص الذين يرغبون في النموذج." وأوضحت أن Galactica كان دائماً مشروعاً بحثياً وليس منتجاً. "كان الفجوة بين التوقعات والواقع كبيرة جداً"، لاحظت بينو، مشيرةً إلى أن معدل الهلاوس في النموذج أقل من غيره بسبب تركيزه على الأدبيات العلمية.

بعد الانتقادات، سحبت Meta عرض Galactica لمنع سوء الاستخدام، معترفة بعدم وجود دليل على الاستخدام المسؤول، وهو ما تبنوه منذ ذلك الحين لإصداراتهم المستقبلية. أشارت بينو إلى أنه إذا كان عليهم القيام بذلك مرة أخرى، فسوف يديرون توقعات الجماهير بشكل أفضل. "تم دمج الدروس المستفادة من Galactica في جيلنا التالي من النماذج."

يتضمن هذا الجيل التالي نموذج Llama، وهو نموذج لغة كبير لـ Meta الذي حصل على اهتمام كبير في فبراير 2023، تلاه الإصدار التجاري Llama 2 في يوليو وCode Llama في أغسطس. أصبح Llama أول نموذج مفتوح المصدر مجاني كبير، مما أشعل نقاشاً كبيراً داخل مجتمع الذكاء الاصطناعي لا يزال مستمراً حتى اليوم.

عند إطلاق Llama في 24 فبراير، كانت Meta حذرة. وأكد لوكون، "تلتزم Meta بالبحث المفتوح و تطلق جميع النماذج للمجتمع البحثي بموجب ترخيص GPL v3." ومع ذلك، كان يتعين على الباحثين ملء نموذج للحصول على الوصول إلى Llama، كإجراء احترازي ناتج عن الانتقادات المحيطة بـ Galactica. أوضح لوكون، "بعد Galactica، اتهمنا الناس بتهديد نسيج المجتمع."