La Junta de Seis Miembros de OpenAI Determinará ‘Cuándo Alcanzamos la AGI’

Según OpenAI, su junta directiva sin fines de lucro será responsable de determinar cuándo la empresa logra "inteligencia general artificial" (AGI), definida como un sistema altamente autónomo que supera el rendimiento humano en la mayoría de las tareas económicamente valiosas. Debido a que su filial con fines de lucro está legalmente obligada a cumplir con la misión de la organización sin fines de lucro, una vez se declare la AGI, la tecnología de OpenAI ya no estará sujeta a licencias de propiedad intelectual ni acuerdos comerciales con Microsoft, que solo aplican a sistemas pre-AGI.

El concepto de AGI carece de una definición universalmente aceptada, lo que plantea preguntas sobre las implicaciones de una decisión tomada por solo seis personas: su significado para OpenAI y el mundo en general, así como el impacto potencial en Microsoft, el mayor inversor de la empresa.

Logan Kilpatrick, defensor de los desarrolladores de OpenAI, trató este tema en un hilo reciente en X, respondiendo a las afirmaciones del presidente de Microsoft, Brad Smith, sobre que el estatus sin fines de lucro de OpenAI mejora su credibilidad en comparación con Meta, que es propiedad de accionistas. Esta afirmación surgió a pesar de informes de que OpenAI está buscando una valoración de hasta 90 mil millones de dólares por acciones existentes.

Smith comentó: "Meta es propiedad de accionistas. OpenAI es propiedad de una organización sin fines de lucro. ¿En cuál confiarías más para tu tecnología?"

Kilpatrick citó información del sitio web de OpenAI, detallando su estructura de lucro limitado. Como se explica, la filial con fines de lucro, OpenAI Global, LLC, es "totalmente controlada" por la organización sin fines de lucro y se le permite generar ganancias siempre que esté alineada con la misión de la misma.

A pesar de esta afiliación, el CEO de OpenAI, Sam Altman, expresó al CEO de Microsoft, Satya Nadella, su entusiasmo por la asociación en el desarrollo de AGI. Además, en una entrevista con Financial Times, Altman destacó que su colaboración "está funcionando realmente bien" y anticipó una mayor inversión de Microsoft, subrayando las significativas necesidades computacionales en curso para el desarrollo de AGI.

Desde sus inicios, Microsoft acordó "dejar las tecnologías y la gobernanza de AGI a la organización sin fines de lucro y a la humanidad". Un portavoz de OpenAI reiteró que la organización tiene como objetivo crear AGI segura y beneficiosa, gobernada por una junta que integra diversas perspectivas expertas en su toma de decisiones.

Actualmente, la junta incluye al presidente Greg Brockman, al científico jefe Ilya Sutskever y al CEO Sam Altman, junto a miembros no empleados Adam D’Angelo, Tasha McCauley y Helen Toner, todos con conexiones al movimiento de Altruismo Efectivo. OpenAI ha enfrentado críticas por sus relaciones en este ámbito, especialmente tras escándalos que involucraron a figuras notables como Sam Bankman-Fried.

El portavoz aclaró que ninguno de los miembros de la junta se identifica como altruista efectivo, enfatizando su papel como contribuyentes independientes enfocados en la seguridad y ética relacionadas con la IA.

El proceso de toma de decisiones en torno a la AGI ha sido descrito como "inusual". La experta legal Suzy Fulton comentó que, aunque puede parecer poco convencional que una junta tome tales determinaciones, se alinea con el deber de la organización sin fines de lucro de priorizar el bienestar de la humanidad sobre los intereses de los accionistas. Con una mayoría de miembros independientes, OpenAI busca una estructura que priorice su misión.

Las perspectivas legales sugieren que, aunque es atípico que la junta decida sobre AGI, no es legalmente prohibitivo, dado que la junta tiene la obligación de supervisar cuestiones críticas relacionadas con la misión.

Sin embargo, persiste el escepticismo sobre el cronograma para alcanzar la AGI. Algunos argumentan que centrarse en este objetivo podría restar atención a los impactos inmediatos de las tecnologías de IA actuales. Expertos como Merve Hickok destacan la posible falta de puntos de vista diversos dentro de OpenAI, pidiendo cautela sobre la legitimidad de su misión de AGI.

La definición ambigua de AGI de OpenAI complica sus implicaciones, incluso cuando su liderazgo imagina un futuro donde coexisten múltiples AGIs, promoviendo perspectivas diversas.

Las repercusiones de la búsqueda de AGI de OpenAI para Microsoft siguen siendo inciertas, especialmente a la luz de la estructura de su relación. El académico legal Anthony Casey señaló conflictos potenciales derivados de las entidades duales de OpenAI, sugiriendo que si los motivos de lucro chocan con la misión de la organización sin fines de lucro, podría haber disputas significativas.

Dado que los techos de ganancias son más fáciles de implementar que resolver conflictos de interés, queda por ver cómo esta estructura única navegará el complejo panorama del desarrollo y gobernanza de la AGI.