هل من الممكن وجود أداة دقيقة لوضع علامة مائية على ChatGPT؟ تفسير قرار OpenAI بعدم الإفصاح عنها

تَجَشُّعُ المُنتَجِينَ المَسروقين: قامت OpenAI بتطوير أداة تستطيع كشف نصوص GPT-4 بدقة تصل إلى 99.99%. ومع ذلك، تدرس الشركة منذ أكثر من عام ما إذا كان ينبغي لها طرحها للجمهور. وفقًا لموقع TechCrunch، تتبنى OpenAI "نهجًا مدروسًا" نظرًا لتعقيدات وآثار هذه الأداة على النظام البيئي الأوسع. وأكد المتحدث باسم OpenAI أن "طريقة العلامة المائية النصية التي نطورها تُظهر وعودًا تقنية، لكننا نقوم بوزن المخاطر الكبيرة. تشمل هذه المخاطر إمكانية تجاوزها من قبل جهات خبيثة والتأثير غير المتناسب على مجموعات مثل الناطقين بغير الإنجليزية."

يعمل نظام العلامة المائية النصية على تضمين نمط معين في مخرجات النموذج، مما يجعلها قابلة للكشف بواسطة أداة OpenAI ولكنها غير مرئية للمستخدمين. وعلى الرغم من كفاءته في تحديد النصوص التي تم إنشاؤها بواسطة محرك GPT-4، إلا أنه لا يمكنه التفريق بين المخرجات من نماذج الذكاء الاصطناعي الأخرى مثل Gemini أو Claude. علاوة على ذلك، يمكن بسهولة مسح العلامة المائية من خلال ترجمة النص إلى لغة أخرى ثم العودة إلى اللغة الأصلية.

هذه ليست المرة الأولى التي تسعى فيها OpenAI لتطوير أداة كشف النصوص. العام الماضي، أوقفت بهدوء مشروعًا مشابهًا بسبب معدل الكشف غير المرضٍ وميلها إلى الإيجابيات الخاطئة. أُطلق هذا الأداة في يناير 2023، وكانت تتطلب من المستخدمين إدخال ما لا يقل عن 1000 حرف من نص العينة للتحليل. ومع دقة تبلغ 26% فقط في تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بشكل صحيح، صنفت بشكل خاطئ 9% من المحتوى المكتوب بواسطة البشر كأنه تم إنشاؤه بالذكاء الاصطناعي. وقد أدى ذلك إلى فشل أستاذ في جامعة Texas A&M بفصل كامل بسبب مزاعم استخدام الطلاب لـ ChatGPT في الواجبات النهائية. بالإضافة إلى ذلك، تخشى OpenAI من ردود فعل سلبية من المستخدمين؛ وفقًا لصحيفة Wall Street Journal، فإن 69% من مستخدمي ChatGPT يعتبرون مثل هذه الأداة غير موثوقة، متخوفين من إمكانية توجيه اتهامات باطلة بالغش. وأشار 30% آخرون إلى أنهم سيتحولون إلى نماذج بديلة إذا أصدرت OpenAI هذه الميزة. ما زالت هناك مخاوف من أن يقوم المطورون بإعادة هندسة العلامة المائية لإنشاء أدوات مضادة. مع استمرار OpenAI في تقييم الإيجابيات والسلبيات لإطلاق نظام العلامة المائية، تتسابق شركات ناشئة أخرى في مجال الذكاء الاصطناعي لتقديم أدوات كشف النصوص، بما في ذلك GPTZero و ZeroGPT و Scribbr و Writer AI Content Detector. ومع ذلك، فإن نقص الدقة في هذه الأدوات يعني أن العين البشرية تظل أكثر وسائلنا موثوقية لكشف المحتوى الذي تم إنشاؤه بالذكاء الاصطناعي، وهي فكرة غير مطمئنة.