التفاعل مع مجتمع التكنولوجيا والذكاء الاصطناعي على منصة X (سابقاً تويتر) هذا الأسبوع قدّم رؤى قيمة حول إمكانيات وعيوب أحدث روبوت للدردشة من جوجل، جيميني. شارك محترفو التكنولوجيا والمؤثرون والكتاب لقطات من تفاعلاتهم مع جيميني، مشيرين إلى حالات من توليد الصور الغريبة وغير الدقيقة والتاريخية. يجادل المنتقدون بأن هذه المخرجات غالباً ما تميل إلى مفاهيم التنوع و"الوعي الاجتماعي".
قبل نشر هذا المقال مباشرة، رد جاك كراوتشيك، المدير الأول للمنتجات في جوجل، على X، معترفاً بأن الشركة تدرك الأخطاء في توليد الصور التاريخية لجيميني وتعمل بنشاط على معالجة هذه القضايا.
قال كراوتشيك: "نحن ندرك أن جيميني تقدم عدم دقة في بعض تجسيدات الصور التاريخية، ونعمل على إصلاح ذلك على الفور. كجزء من مبادئ الذكاء الاصطناعي لدينا، نصمم قدرات توليد الصور لدينا لتعكس قاعدة مستخدمينا العالمية ونأخذ التمثيل والتحيز على محمل الجد. سنستمر في فعل ذلك بالنسبة للمطالبات المفتوحة. يحتاج السياق التاريخي إلى مزيد من الدقة، وسنقوم بتحسين أنظمتنا وفقًا لذلك. شكرًا لتغذيتكم الراجعة، ويرجى الاستمرار في تقديمها!"
تم الكشف عن جيميني العام الماضي وسط توقعات كبيرة، حيث وضعت نفسها كأحد النماذج الرائدة في الذكاء الاصطناعي، منافسةً نموذج GPT-4 من OpenAI، الذي يهيمن حاليًا على معظم المقاييس الخارجية. ومع ذلك، أظهرت التقييمات المستقلة أن جيميني كانت أقل أداءً مقارنةً بالنموذج الأقدم من OpenAI، GPT-3.5، مما دفع جوجل لإصدار إصدارات متقدمة، مثل جيميني المتقدم وجيميني 1.5، في وقت سابق من هذا العام، والتخلص من روبوت الدردشة Bard السابق.
رغم هذه التحديثات، تواجه جيميني انتقادات بسبب ترددها في توليد صور تاريخية، مثل تمثيلات الجنود الألمان من ثلاثينيات القرن الماضي، إلى جانب تصوير مشكوك فيه للسكان الأصليين والأفراد ذوي البشرة الداكنة في سياقات لا تتناسب مع الدقة التاريخية. على سبيل المثال، يبدو أن الذكاء الاصطناعي يبالغ في التشديد على التنوع عند تصوير الثقافات الأوروبية السابقة.
عبّر المستخدمون عن قلقهم بشأن الالتزام المتصور لجيميني بـ "الوعي الاجتماعي"، وهو مصطلح تطوّر من الإشارة إلى الوعي بعدم المساواة العرقية في الولايات المتحدة ليُستخدم بشكل سلبي لانتقاد المنظمات التي تبدو مفرطة في تصحيح الوضع السياسي.
من المثير للاهتمام أن بعض المستخدمين قد لاحظوا تعديلات فورية في مخرجات جيميني، مما يشير إلى أن جوجل تعمل بنشاط على تحسين قدرات توليد الصور. أكّد متحدث باسم جوجل التزام كراوتشيك بتحسين الدقة مع التأكيد على أهمية التنوع.
سلّط يان لوكون، رئيس مبادرات الذكاء الاصطناعي في ميتا، الضوء على حالة مثيرة للقلق حيث رفض جيميني توليد صورة للاحتجاجات في ميدان تيانانمن عام 1989. جادل لوكون بأن مثل هذه الإغفالات تؤكد على ضرورة وجود ذكاء اصطناعي مفتوح المصدر، مما يمنح تحكماً أوسع في المخرجات.
تسلّط التدقيقات على مخرجات صور جيميني الضوء على نقاش أوسع حول كيفية تعامل الذكاء الاصطناعي مع المواضيع الحساسة، بما في ذلك التنوع والظلم التاريخي والقمع.
واجهت جوجل سابقًا جدلًا مشابهًا، مثل الحادثة في عام 2015 المتعلقة بجوجل فوتوز والتحيز الخوارزمي ضد الأفراد ذوي البشرة الداكنة. بالإضافة إلى ذلك، فإن فصل الموظف جيمس دامور في عام 2017 بسبب انتقاداته لممارسات التنوع في جوجل يعكس التحديات التي تواجهها شركات التكنولوجيا في هذه المناقشات.
شركات أخرى أيضاً واجهت صعوبات بسبب تداعيات الذكاء الاصطناعي. على سبيل المثال، تم إغلاق روبوت الدردشة Tay من مايكروسوفت بعد إنتاج مخرجات ضارة وعنصرية.
في محاولة لتفادي الأخطاء السابقة، واجه النهج التقييدي لجوجل في جيميني انتقادات لتشويهه التاريخ لصالح الحساسيات الحديثة، مما استدعى مقارنات مع رواية جورج أورويل "1984"، حيث تقوم نظام سلطوي بقمع الحقيقة.
تتابع الانتقادات المماثلة لروبوت الدردشة ChatGPT من OpenAI، حيث يحاول المستخدمون "تخطي قيود" النظام لاستنباط معلومات محظورة، مما يعكس التوتر المستمر بين الرغبة في حرية التعبير والضرورة لتخفيف المحتوى الضار.
يجد مطورو الذكاء الاصطناعي أنفسهم في وضع غير مستقر، حيث يتوازنون بين الحاجة للمحتوى المسموح به وردود الفعل السلبية من المستخدمين الذين يشعرون أن القيود تؤدي إلى عدم دقة تاريخية. هذا التوتر غذّى الدعوات إلى نماذج مفتوحة المصدر تسمح بالاستقلالية الفردية بينما تثير أيضًا مخاوف بشأن المخاطر المحتملة المحتملة للمحتوى غير المقيد.
إن الارتفاع في الذكاء الاصطناعي التوليدي يعمق النقاشات حول حرية التعبير مقابل ضرورة منع السلوكيات الضارة اجتماعياً. مع تطور التقدم التقني، من المحتمل أن يستمر الانقسام حول تأثيراته في المجتمع في إشعال المناقشات المثيرة للجدل.
قائمة الترتيب
