التجربة الرسمية لـ OpenAI SearchGPT تكشف عن ثغرة: استكشاف أسرار الشيفرة المصدرية وآلية البحث

العنوان: التحديات التي تواجه SearchGPT: المعركة بين الوهم والواقع

بعد يومين فقط من إطلاق SearchGPT، أثار عرض قدمه المستخدم Kesku ضجة كبيرة على الإنترنت، وذلك بفضل سرعته المذهلة في تقديم النتائج. لكن، تم scrutinizing العرض الرسمي الذي أطلقته OpenAI في تقرير نشرته مجلة The Atlantic، حيث أظهر بعض الأخطاء الكبيرة. عند سؤالها عن "مهرجان الموسيقى في بوان، كارولينا الشمالية، في أغسطس"، قدّم SearchGPT تاريخًا خاطئًا، مما أثار القلق بشأن موثوقيته.

أكدت المتحدثة باسم OpenAI كايلا وود، في حديثها مع The Atlantic، أن هذا كان نموذجًا أوليًا وأن التحسينات جارية. يُذكّر هذا الحادث بخطأ جسيم ارتكبته خدمة Bard من جوجل، التي تعرضت أيضًا للانتقاد بسبب عدم دقتها عند إطلاقها. في فبراير 2023، ادعت Bard خطأ أن تلسكوب جيمس ويب الفضائي قد التقط الصورة الأولى لكوكب خارج المجموعة الشمسية، وهو إنجاز تحقق فعليًا بواسطة مرصد السهر الجنوبي الأوروبي. أدى هذا الخطأ إلى انخفاض بنسبة 9% في سعر سهم Alphabet، مما أدى إلى خسارة 100 مليار دولار من القيمة السوقية.

على النقيض، اختارت OpenAI اتباع نهج أكثر حذرًا من خلال تحديد الوصول إلى الاختبارات الداخلية، مستفيدة من سوء حظ جوجل. بالنظر إلى سياق الوصول الواسع، حتى إذا تمكنت OpenAI من تقليل حدوث الأوهام في SearchGPT، فإن معدل خطأ بنسبة 1% قد يؤدي إلى ملايين الردود غير الدقيقة يوميًا. بالإضافة إلى ذلك، لا توجد طرق موثوقة للقضاء تمامًا على الأوهام والأخطاء في نماذج اللغة الكبيرة.

أشار أندريه كارباثي عبر تويتر إلى أن الاكتشافات الوهمية ليست مجرد أخطاء، بل هي سمة مميزة لنماذج اللغة الكبيرة. ويشبه نماذج اللغة الكبيرة بـ "آلات الأحلام" التي تخلق محتوى مفيد غالبًا، لكنها قد تنزلق عن الواقع وتؤدي إلى "أوهام". هذه الآلية تختلف جوهريًا عن محركات البحث التقليدية التي تعيد الوثائق الأكثر صلة من قواعد بياناتها دون إنشاء ردود جديدة تمامًا.

يعتقد كارباثي أن نماذج البحث القائمة على الذكاء الاصطناعي الحالية المستندة إلى نماذج اللغة الكبيرة لا يمكنها ضمان نتائج دقيقة بنسبة 100%. يثير هذا سؤالًا مثيرًا: في تحول محركات البحث، هل ستتعايش إبداعات نماذج اللغة الكبيرة مع موثوقية الطرق التقليدية، أم أن أحدهما سيلغي الآخر في النهاية؟ هذا السؤال يتطلب دراسة متأنية.