Ex-Líder de Superalinhamento da OpenAI Critica a Empresa: ‘Cultura e Processos de Segurança Foram Negligenciados’

No início desta semana, Ilya Sutskever, co-fundador e ex-cientista-chefe, e Jan Leike, um pesquisador chave, anunciaram suas demissões da OpenAI em um intervalo curto de tempo. Esse desenvolvimento é significativo, não apenas devido às suas posições sêniores, mas também porque lideraram a equipe de superalinhamento, dedicada à criação de sistemas para gerenciar modelos de IA superinteligente—aqueles que superam a inteligência humana.

Após suas saídas, relatos indicam que a equipe de superalinhamento da OpenAI foi desmantelada, conforme destacado em um artigo recente da Wired, onde minha esposa é editora-chefe.

Hoje, Leike usou sua conta pessoal no X para criticar a OpenAI e sua liderança, acusando-os de priorizarem "produtos chamativos" em detrimento da segurança. Em um post, afirmou: "Nos últimos anos, a cultura de segurança e os processos ficaram em segundo plano em relação aos produtos chamativos."

Leike, que ingressou na OpenAI no início de 2021, admitiu desavenças com a liderança da empresa, provavelmente se referindo ao CEO Sam Altman e outros executivos de alto nível, incluindo o presidente Greg Brockman e a CTO Mira Murati. Ele observou: "Estou discordando da liderança da OpenAI sobre as prioridades centrais da empresa há bastante tempo, até que finalmente chegamos a um ponto de ruptura."

Ele enfatizou a necessidade urgente de abordar como orientar e controlar sistemas de IA que são significativamente mais inteligentes que os humanos.

Em julho de 2023, a OpenAI comprometeu-se a alocar 20% de seus recursos computacionais—especificamente seus potentes clusters de GPU Nvidia—para a iniciativa de superalinhamento. Esse esforço visa desenvolver de forma responsável a inteligência geral artificial (AGI), definida no estatuto da empresa como "sistemas altamente autônomos que superam os humanos na maioria dos trabalhos economicamente valiosos."

Apesar desse compromisso, Leike expressou frustração: "Minha equipe tem navegado contra o vento. Às vezes, lutamos por computação, e estava ficando cada vez mais difícil realizar pesquisas cruciais."

Em resposta ao tópico de Leike, Altman o citou, expressando gratidão pelas contribuições de Leike para a pesquisa de alinhamento e cultura de segurança da OpenAI. Reconheceu a necessidade de mais trabalho e prometeu um post mais detalhado nos próximos dias.

Essas notícias lançam uma sombra sobre a OpenAI, coincidindo com o recente lançamento do novo modelo de base multimodal GPT-4o e do aplicativo desktop ChatGPT para Mac, anunciado na segunda-feira. Isso também representa desafios para a Microsoft, um investidor e parceiro chave, enquanto se preparam para a próxima conferência Build na semana que vem.

Entramos em contato com a OpenAI para um posicionamento sobre os comentários de Leike e forneceremos atualizações assim que estiverem disponíveis.