El reciente anuncio de OpenAI ha aclarado finalmente la incertidumbre que rodeó a la empresa durante los últimos cinco días: Sam Altman ha sido reinstalado como CEO, y se han nombrado a tres miembros iniciales de la junta, con más por venir.
Sin embargo, los detalles que están surgiendo sobre los eventos que llevaron a esta turbulencia indican que OpenAI debe abordar los problemas de confianza que Altman podría enfrentar debido a sus acciones recientes. Además, sigue existiendo una falta de claridad sobre cómo la empresa planea resolver los desafíos de gobernanza actuales, incluyendo su estructura y responsabilidades en la junta, que han sido percibidas como confusas y contradictorias.
Para los tomadores de decisiones empresariales que observan esta saga, entender lo que ocurrió es crucial para evaluar la credibilidad de OpenAI en el futuro. Esta situación marca un posible cambio hacia un enfoque más agresivo y orientado a productos. Si bien los modelos de lenguaje de OpenAI, como ChatGPT y GPT-4, probablemente mantendrán su popularidad entre los desarrolladores como APIs en diversas aplicaciones, la reputación de la empresa como proveedor confiable de soluciones de IA integrales para empresas puede verse afectada.
Un factor significativo que impacta la confianza dentro de la empresa surgió de las críticas de Altman hacia el trabajo de la miembro de la junta, Helen Toner, en materia de seguridad de la IA. En octubre, Altman cuestionó un artículo de Toner que discutía los procesos de toma de decisiones de OpenAI en comparación con su competidor, Anthropic. Mientras OpenAI decidió lanzar su modelo de lenguaje, Anthropic retrasó su lanzamiento debido a preocupaciones de seguridad. Según el estudio, esta decisión estratégica de Anthropic representaba un compromiso con la seguridad de la IA, a diferencia del enfoque más rápido de OpenAI.
Después de las quejas de Altman sobre el artículo de Toner, comunicó a sus colegas que esta crítica era necesaria para la seguridad de la empresa, especialmente dados los estudios en curso de la FTC sobre el uso de datos de OpenAI. Toner, en respuesta, enfatizó la naturaleza académica de su trabajo, lo que llevó a diálogos entre los líderes senior de OpenAI sobre su posible extracción de la junta. Finalmente, el cofundador Ilya Sutskever, preocupado por los riesgos de la IA, apoyó la destitución de Altman por no ser “consistentemente sincero” con la junta.
La tensión entre Altman y Toner resaltó problemas de alineación con el objetivo fundamental de la empresa de desarrollar inteligencia general artificial (AGI) segura para el beneficio de la humanidad, en lugar de los inversores.
En la decisión de anoche de reinstalar a Altman, Toner y la miembro de la junta Tasha McCauley eligieron renunciar en busca de un nuevo comienzo, a pesar de creer que sus acciones habían sido justificadas. La junta retuvo a Adam D’Angelo, otro miembro que respaldó la destitución de Altman, para facilitar negociaciones con el CEO interino Emmett Shear y los nuevos miembros de la junta. La nueva junta, compuesta por Bret Taylor y Lawrence Summers, cuenta con sólidas credenciales y experiencia, prometiendo guiar a la empresa hacia una misión centrada en el crecimiento.
Esta transición de liderazgo plantea preguntas sobre el futuro de OpenAI. La composición de la junta sugiere una transformación en una robusta empresa de productos capaz de resolver problemas de gobernanza anteriores. Sin embargo, la salida de miembros que abogaban por el altruismo efectivo indica un giro crítico necesario para la viabilidad de OpenAI. Jaan Tallinn, un defensor del altruismo efectivo, resaltó los riesgos de depender de una gobernanza altruista en el contexto de las crisis de OpenAI.
Mientras la empresa avanza, establecer una junta directiva creíble y diversa será esencial para mantener su trayectoria hacia el éxito. Un compromiso con la equidad y las consideraciones éticas en el desarrollo de IA es crucial.
En resumen, a medida que OpenAI navega por esta fase, parece estar preparada para un futuro más consolidado, orientado a productos y con fines de lucro. El objetivo es servir a cientos de millones con modelos de lenguaje de propósito general que atiendan diversas tareas. Sin embargo, aún no está claro si OpenAI logrará la confianza y gobernanza necesarias para manejar las aplicaciones precisas, seguras e imparciales que requieren las empresas. Otros actores pueden necesitar llenar este vacío.
Clasificación
