La semana pasada, un portavoz de OpenAI me informó sobre el lanzamiento de un nuevo equipo de "Alineación Colectiva". Su misión es desarrollar "procesos de prototipado" que incorporen la opinión pública para dar forma al comportamiento de los modelos de IA, con el objetivo de alcanzar una gobernanza democrática de la IA. Esta iniciativa se apoya en el trabajo de diez beneficiarios del programa de subvenciones de OpenAI sobre Entradas Democráticas para IA.
No pude evitar reírme ante la ironía. OpenAI proclama altos ideales de "crear AGI seguro que beneficie a toda la humanidad" mientras navega por las realidades prácticas de vender APIs, expandir las tiendas GPT y enfrentar demandas por derechos de autor. El desafío de alcanzar un consenso público sobre la gobernanza de la IA—uno de los problemas más complejos de la humanidad—parece desalentador.
¿Es este el momento adecuado para los agentes de IA? La democracia estadounidense está bajo un escrutinio sin precedentes, con los sistemas de IA en el centro de las preocupaciones sobre deepfakes y desinformación, especialmente de cara a las elecciones de 2024. ¿Cómo puede un concepto subjetivo como la opinión pública influir en las reglas que rigen la IA, especialmente de una empresa que actualmente domina el espacio comercial de la IA?
Aún así, la existencia del equipo de Alineación Colectiva de OpenAI ofrece un rayo de esperanza. Su objetivo de crear una IA más democrática, guiada por conocimientos humanos, es indudablemente significativo. Sin embargo, surge la pregunta de si esta iniciativa es un esfuerzo genuino o simplemente una maniobra de relaciones públicas en respuesta a las demandas de mayor responsabilidad.
Perspectivas del Equipo de Alineación Colectiva
Para profundizar, hablé con dos miembros del equipo: Tyna Eloundou, investigadora centrada en los impactos sociales de la tecnología, y Teddy Lee, gerente de producto con experiencia en etiquetado de datos humanos para un despliegue responsable de IA. Aim to expand their team by adding a research engineer and scientist to collaborate closely with OpenAI’s Human Data team, which establishes infrastructure for gathering human input on AI models.
Cuando le pregunté a Eloundou sobre los desafíos de formular procesos democráticos para la gobernanza de la IA, reconoció que muchos lo ven como un "largo camino". "La democracia en sí es complicada y caótica," explicó. "Requiere una negociación constante sobre cómo opera."
Lee destacó la formidable tarea de integrar la democracia en los sistemas de IA en medio de las complejidades socio-técnicas. "El objetivo de nuestro programa de subvenciones es explorar lo que otros innovadores están haciendo en este espacio," observó. "Es intimidante, pero hay muchos frutos fáciles y conocimientos por descubrir."
Avances del Programa de Subvenciones
Según una reciente publicación en el blog de OpenAI, el programa de subvenciones de Entradas Democráticas para IA otorgó $100,000 a diez equipos diversos de casi 1,000 solicitantes. Estos equipos están diseñando y probando métodos democráticos para establecer la gobernanza de la IA. Enfrentan desafíos como involucrar a participantes diversos, asegurar resultados representativos y fomentar la transparencia.
Cada equipo abordó estos problemas con enfoques innovadores, incluidas plataformas para auditorías crowdsourced de modelos de IA y únicas interfaces de deliberación en video. Sin embargo, rápidamente encontraron obstáculos; la opinión pública puede cambiar rápidamente, y el acuerdo entre grupos polarizados es complicado.
A pesar de estos desafíos, el equipo de Alineación Colectiva de OpenAI se mantiene comprometido. Consultan con expertos en ciencias sociales, especialmente aquellos involucrados en asambleas ciudadanas—grupos seleccionados al azar que deliberan sobre preguntas públicas importantes.
Un Compromiso con Procesos Democráticos
Lee comentó: “No sabemos lo que no sabemos.” Los beneficiarios de las subvenciones provienen de diversos campos, aportando emoción y energía a sus proyectos. “Necesitamos alinear este entusiasmo con nuestra tecnología,” dijo.
¿Serán alcanzables los objetivos del equipo? “Es similar a la democracia misma," explicó Lee. “Es un esfuerzo continuo. A medida que evolucionen las opiniones públicas y cambien las interacciones con estos modelos, así también lo hará nuestro trabajo.”
Eloundou compartió este sentimiento, afirmando: “Definitivamente daremos lo mejor de nosotros.”
Ya sea visto como una iniciativa de relaciones públicas o no, cualquier esfuerzo por mejorar los procesos democráticos en la toma de decisiones de IA es encomiable, especialmente en un momento en que tales procesos son frágiles. Así que, a OpenAI: agradezco sus mejores esfuerzos.
Clasificación
