La Junta de OpenAI: Abordando los Desafíos de la Seguridad en IA y Conflictos Internos

Vacaciones, ¿qué vacaciones? Mientras disfruto de un tiempo libre al otro lado del océano, en OpenAI se vive una agitación significativa que resulta difícil de ignorar. Más de 500 empleados de OpenAI han firmado una carta amenazando con dejar la empresa en dirección a Microsoft, junto a Sam Altman, a menos que la junta directiva sin fines de lucro de OpenAI renuncie y lo re nombre como CEO.

Reflexionando sobre los eventos recientes, publiqué un artículo el lunes pasado sobre la inusual junta de seis miembros de OpenAI, que tiene la autoridad para determinar cuándo la organización ha alcanzado la inteligencia artificial general (AGI). Esta junta controla el aspecto con fines de lucro de la empresa y cuenta con varios miembros relacionados con el movimiento de Altruismo Efectivo.

El viernes pasado, se desató el caos cuando la junta de OpenAI despidió a Sam Altman, su CEO, y nombró a Mira Murati, la CTO, como CEO interina. Greg Brockman, quien anteriormente presidía la junta, también renunció. En mi publicación de Substack, titulada “El fin de semana pasado escribí sobre la junta sin fines de lucro de OpenAI, ahora en el centro de la destitución de Sam Altman”, destaqué cómo la misión de la junta de priorizar la seguridad de la IA influyó en la destitución de Altman y la salida de Brockman.

Luego, ocurrió un giro dramático. Tras la reacción negativa de inversores como Microsoft, comenzaron las conversaciones para reintegrar a Altman. Una foto de él con un gafete de visitante en la sede de OpenAI circuló, y emojis de corazón inundaron las redes sociales mientras los empleados expresaban su apoyo.

En un giro inesperado, el CEO de Microsoft, Satya Nadella, anunció que Altman y Brockman liderarían una nueva unidad de investigación de IA en Microsoft, con ofertas para cualquier empleado de OpenAI que deseara unirse. La junta de OpenAI complicó aún más la situación al reemplazar a Murati por Emmett Shear, ex CEO de Twitch, como nuevo CEO interino.

Se reportó que muchos empleados de OpenAI pasaron la noche debatiendo cómo responder al despido de Altman, frustrados por la falta de comunicación en torno a la decisión. Mensajes como “OpenAI no es nada sin su gente” surgieron en X, mostrando una clara disposición del personal para unirse a Microsoft, reforzada por el reconocimiento de la junta de que tendrían posiciones garantizadas en la nueva unidad.

Irónicamente, el movimiento aparentemente principista de la junta para destituir a Altman en nombre de la seguridad de la IA ha generado un tumulto significativo, poniendo potencialmente en riesgo su misión y erosionando la confianza de los empleados. La falta de claridad ha dejado a OpenAI más vulnerable y podría obstaculizar su objetivo de crear una AGI segura a largo plazo.

El científico jefe Ilya Sutskever expresó su pesar en un post en X, afirmando: "Lamento profundamente mi participación en las acciones de la junta. Nunca pretendí perjudicar a OpenAI. Amo todo lo que hemos construido juntos y haré todo lo posible para reunir a la empresa".

En última instancia, estos eventos demuestran que los errores humanos pueden descarrilar objetivos ambiciosos. Mientras la tecnología siga avanzando, la necesidad de una sólida gobernanza y comunicación dentro de OpenAI nunca ha sido más evidente. La empresa podría estar enfrentando una crisis, lo que revela la necesidad de cambios sustanciales en el futuro.