Na semana passada, um porta-voz da OpenAI me informou sobre o lançamento de uma nova equipe chamada "Coletiva de Alinhamento". Sua missão é desenvolver "processos de prototipagem" que incorporem a opinião pública para moldar o comportamento dos modelos de IA, visando nada menos que uma governança democrática da IA. Esta iniciativa se baseia no trabalho de dez beneficiários do programa de subsídios "Entradas Democráticas para a IA" da OpenAI.
Não pude deixar de rir da ironia. A OpenAI proclama ideais elevados de ‘criar AGI segura que beneficie toda a humanidade’ enquanto navega nas realidades práticas de venda de APIs, expansão de lojas GPT e enfrentamento de processos por direitos autorais. O desafio de alcançar um consenso público sobre a governança da IA—um dos problemas mais complexos da humanidade—parece assustador.
É o momento certo para agentes de IA? A democracia americana está sob um escrutínio sem precedentes, com sistemas de IA no centro das preocupações sobre deepfakes e desinformação, especialmente à luz das próximas eleições de 2024. Como pode um conceito subjetivo como a opinião pública influenciar as regras que regem a IA, especialmente de uma empresa que atualmente reina no espaço comercial da IA?
Ainda assim, a existência da equipe Coletiva de Alinhamento da OpenAI oferece um vislumbre de esperança. O objetivo de criar uma IA mais democrática, guiada pela percepção humana, é indiscutivelmente significativo. No entanto, fica a dúvida se esta iniciativa é um esforço genuíno ou apenas uma manobra de relações públicas em resposta a pedidos por maior responsabilidade.
Insights da Equipe Coletiva de Alinhamento
Para entender melhor, conversei com dois membros da equipe: Tyna Eloundou, uma pesquisadora focada nos impactos sociais da tecnologia, e Teddy Lee, um gerente de produto com experiência em rotulagem de dados humanos para uma implantação responsável de IA. Eles buscam expandir a equipe adicionando um engenheiro de pesquisa e um cientista para colaborar de perto com a equipe de Dados Humanos da OpenAI, que estabelece infraestrutura para reunir input humano sobre modelos de IA.
Quando perguntei a Eloundou sobre os desafios de formular processos democráticos para a governança da IA, ela reconheceu que muitos veem isso como um "objetivo audacioso". "A democracia em si é complicada e confusa", explicou ela. "Exige negociação constante sobre como opera".
Lee destacou a tarefa desafiadora de integrar a democracia nos sistemas de IA em meio às complexidades sócio-técnicas. "O objetivo do nosso programa de subsídios é explorar o que outros inovadores estão fazendo nesse espaço,” observou ele. “É intimidador, mas há muitos frutos fáceis e insights a serem descobertos.”
Progresso do Programa de Subsídios
De acordo com uma recente postagem no blog da OpenAI, o programa de subsídios "Entradas Democráticas para a IA" concedeu $100.000 a dez equipes diversas de quase 1.000 candidatas. Essas equipes estão projetando e testando métodos democráticos para estabelecer a governança da IA. Elas enfrentam desafios como engajar participantes diversos, garantir resultados representativos e promover a transparência.
Cada equipe abordou essas questões com abordagens inovadoras, incluindo plataformas para auditorias colaborativas de modelos de IA e interfaces únicas para deliberações em vídeo. No entanto, rapidamente encontraram obstáculos; a opinião pública pode mudar rapidamente, e o consenso entre grupos polarizados é desafiador.
Apesar desses desafios, a equipe Coletiva de Alinhamento da OpenAI permanece comprometida. Eles consultam especialistas em ciências sociais, particularmente aqueles envolvidos em assembleias de cidadãos — grupos selecionados aleatoriamente que deliberam sobre questões públicas significativas.
Um Compromisso com Processos Democráticos
Lee comentou: “Não sabemos o que não sabemos.” Os beneficiários da bolsa vêm de várias áreas, infundindo seus projetos com empolgação e energia. “Precisamos alinhar esse entusiasmo com nossa tecnologia," disse ele.
Os objetivos da equipe serão alcançáveis? “Isso se assemelha à própria democracia", explicou Lee. “É um esforço contínuo. À medida que as opiniões públicas evoluem e as interações com esses modelos mudam, nosso trabalho também mudará.”
Eloundou ecoou esse sentimento, dizendo: “Vamos definitivamente dar o nosso melhor.”
Seja visto como uma iniciativa de relações públicas ou não, qualquer movimento para aprimorar os processos democráticos na tomada de decisões da IA é louvável, especialmente em um momento em que esses processos são precários. Portanto, à OpenAI: eu acolho seus melhores esforços.