قائد سابق في "OpenAI" ينتقد الشركة: "تم إهمال ثقافة السلامة والعمليات"

في وقت سابق من هذا الأسبوع، أعلن إياه سوتسكيبر، المؤسس المشارك والعالم الرئيسي السابق، ويان ليك، أحد الباحثين الرئيسيين، استقالتهما من OpenAI خلال ساعات من بعضهما. يعتبر هذا التطور بالغ الأهمية ليس فقط بسبب مناصبهم العليا، ولكن أيضًا لأنهما ترأسا فريق التوافق الفائق الذي يركز على تطوير أنظمة لإدارة نماذج الذكاء الاصطناعي الفائق—التي تتجاوز الذكاء البشري.

بعد مغادرتهما، أفادت التقارير بأن فريق التوافق الفائق في OpenAI قد تم حله، كما تم تسليط الضوء عليه في مقال حديث في Wired، حيث تشغل زوجتي منصب رئيس التحرير.

اليوم، استخدم ليك حسابه الشخصي على X للتعبير عن انتقاداته لـ OpenAI وإدارتها، متهمًا إياها بإعطاء الأولوية لـ "المنتجات اللامعة" على السلامة. وفي إحدى المشاركات، ذكر: "على مدار السنوات الماضية، أخذت ثقافة السلامة والعمليات المقابلة مقعدًا خلفيًا أمام المنتجات اللامعة."

اعترف ليك، الذي انضم إلى OpenAI في أوائل عام 2021، بوجود خلافات مع إدارة الشركة، على الأرجح في إشارة إلى المدير التنفيذي سام ألتمان وغيرهم من المديرين التنفيذيين البارزين، بما في ذلك الرئيس غريغ بروكمان والمدير الفني ميرا مورات. أشار إلى أنه "كنت أختلف مع إدارة OpenAI بشأن أولويات الشركة الأساسية لفترة طويلة، حتى وصلنا إلى نقطة الانفجار."

وأكد على الحاجة الملحة لمعالجة كيفية توجيه والتحكم في أنظمة الذكاء الاصطناعي التي تفوق الذكاء البشري بشكل كبير.

في يوليو 2023، التزمت OpenAI بتخصيص 20% من مواردها الحاسوبية—تحديداً عنقود GPU القوي من Nvidia—لمبادرة التوافق الفائق. تهدف هذه الجهود إلى تطوير الذكاء الاصطناعي العام (AGI) بطريقة مسؤولة، والذي يُعرف في ميثاق الشركة بأنه "أنظمة مستقلة للغاية تتفوق على البشر في معظم الأعمال الاقتصادية ذات القيمة العالية."

على الرغم من هذا الالتزام، أعرب ليك عن استيائه: "كانت فريقي يبحر ضد الرياح. أحيانًا كنا نكافح من أجل الموارد الحاسوبية، وأصبح من الصعب تحقيق أبحاث حاسمة."

ردًا على سلسلة منشورات ليك، اقتبس ألتمان عنه، معبرًا عن تقديره لمساهمات ليك في أبحاث التوافق وثقافة السلامة في OpenAI. اعترف بالحاجة إلى مزيد من العمل ووعد بمشاركة منشور أكثر تفصيلًا في الأيام المقبلة.

يشكل هذا الخبر ظلالاً على OpenAI، تزامنًا مع الإطلاق الأخير لنموذج GPT-4o الجديد الذي يدعم الوسائط المتعددة وتطبيق ChatGPT لسطح مكتب Mac، الذي تم الإعلان عنه يوم الاثنين. كما يمثل تحديًا لمايكروسوفت، التي تعتبر مستثمرًا وشريكًا رئيسيًا، في استعداداتها لمؤتمر Build القادم الأسبوع المقبل.

لقد تواصلنا مع OpenAI للحصول على تصريح بشأن تعليقات ليك وسنقدم تحديثات حال توفرها.