رئيس Google يتحدث عن جدل توليد الصور في Gemini: واصفًا القضايا بـ'غير المقبولة' ويتعهد بحلها

مؤخراً، قام الرئيس التنفيذي لشركة جوجل، سوندار بيتشاي، بإبراز المخاوف المتعلقة بأداة توليد الصور المعتمدة على الذكاء الاصطناعي "جميني". وقد تعرضت الأداة لانتقادات بسبب تمثيلها غير المتناسق لأشخاص من ذوي البشرة الملونة في صور تاريخية، مثل تصويرهم بشكل خاطئ كفايكنغ أو كبابا كاثوليكيين من السكان الأصليين. وصف بيتشاي هذا الوضع بأنه "غير مقبول" وتعهد بأن الشركة ستعمل "بجد" لحل هذه القضايا.

وفي رسالة إلى الموظفين، أكد بيتشاي قائلاً: "لا يوجد ذكاء اصطناعي مثالي، خاصة في هذه الصناعة الناشئة. رغم ذلك، نحن واعون لأهمية الالتزام بالمعايير العالية وسنستمر في العمل حتى نتجاوز ذلك. سنقوم بمراجعة شاملة لما حدث لضمان معالجة هذه المشكلات على نطاق واسع."

وأعلن كذلك أنه على الرغم من أن دردشة "جميني" (المعروفة سابقًا باسم "بارد") قد حققت تقدمًا كبيرًا في المزيد من الاستفسارات، فإن قدرات توليد الصور لـ"جميني" ستتوقف حتى يتم حل المشكلات بالكامل.

وأوضح بروباكار راغافان، نائب رئيس جوجل الأول للمعرفة والمعلومات، جذور المشكلة. وكشف أن القضية ليست في النموذج نفسه، بل في سلسلة من الأخطاء خلال عملية الضبط. على الرغم من أن النموذج كان يهدف إلى مراعاة التنوع السكاني في بيانات التدريب، إلا أنه "فشل في مراعاة الحالات التي ينبغي ألا تمثل." علاوة على ذلك، أصبح النموذج أكثر حرصًا، حيث رفض أحيانًا الرد على استفسارات محددة لتجنب إنتاج أخطاء حساسة أو غير معقولة.

لتجنب حدوث مشاكل مماثلة في المستقبل، التزمت جوجل بسلسلة شاملة من الإصلاحات والاختبارات. تشمل هذه التعديلات الهيكلية، وتحديث إرشادات المنتجات، وتحسين عمليات الإصدار، وتعزيز الآليات التقييمية، وتنفيذ "اختبار الفرق الأحمر" والتوصيات الفنية. لا يزال بيتشاي متفائلًا بشأن مستقبل "جميني" ويتوقع أن تعود أداة توليد الصور للعمل قريبًا.

تعد هذه الحادثة تذكيرًا بالتحديات التي تواجه تطوير تقنيات الذكاء الاصطناعي. على الرغم من التقدم الكبير الذي تم إحرازه، يجب على الصناعة الاستمرار في السعي نحو التحسين. كواحد من رواد هذا القطاع، سيكون لاستجابة جوجل آثار بعيدة المدى على هذا المجال بأسره.

Most people like

Find AI tools in YBX