A medida que nos acercamos al segundo aniversario de ChatGPT y al auge de las aplicaciones de IA generativa, es evidente que coexisten dos realidades: el potencial transformador de esta tecnología es innegable, pero los riesgos de los sesgos inherentes a estos modelos son significativos.
En menos de dos años, la IA ha evolucionado de ayudar con tareas cotidianas—como pedir viajes compartidos y sugerir compras en línea— a influir en decisiones críticas en áreas como seguros, vivienda, crédito y reclamaciones de bienestar. Mientras que sesgos anteriores—como recomendar pegamento para pizza—podían parecer trivialidades, se convierten en preocupaciones serias cuando afectan servicios esenciales que impactan nuestro sustento.
Mitigar el Sesgo de la IA: Un Llamado a la Diversidad
Surge la pregunta: ¿cómo podemos mitigar eficazmente el sesgo de la IA cuando los datos de entrenamiento son defectuosos? Este desafío se complica cuando los creadores de modelos carecen de la conciencia necesaria para identificar los sesgos en sus diversas formas. La solución radica en aumentar la diversidad dentro de los equipos de IA—específicamente, incorporando más mujeres, minorías y personas mayores.
Educación y Exposición Temprana
Promover la diversidad en la IA no debería ser controversial. Sin embargo, en mis 30 años de experiencia en STEM, a menudo me he encontrado en la minoría. A pesar de que el panorama tecnológico ha avanzado significativamente, la diversidad en la fuerza laboral—especialmente en datos y análisis—sigue estancada. El Foro Económico Mundial informa que las mujeres constituyen solo el 29% de los trabajadores en STEM, mientras que representan casi la mitad (49%) de la fuerza laboral total en campos no STEM. En matemáticas y ciencias computacionales, los profesionales negros solo representan un 9%. Estas cifras se han mantenido estables durante dos décadas, con solo el 12% de las mujeres alcanzando posiciones en la alta dirección.
Para corregir esto, necesitamos estrategias integrales que hagan el STEM atractivo para mujeres y minorías desde la escuela primaria. Un ejemplo muy ilustrativo proviene de un video de Mattel, donde se muestra a niñas eligiendo juguetes tradicionales. Tras la exposición a figuras inspiradoras como Ewy Rosqvist, la primera mujer en ganar el Gran Premio de Turismo Argentino, sus perspectivas cambiaron. Esto resalta la importancia de la representación para fomentar el interés en STEM.
Debemos enviar mensajes positivos sobre STEM a las jóvenes, garantizando oportunidades equitativas para la exploración. Las colaboraciones con organizaciones sin fines de lucro como Data Science for All y los bootcamps de IA de la Fundación Mark Cuban son esenciales. También debemos celebrar a mujeres pioneras en el campo—como Lisa Su, CEO de AMD; Mira Murati, CTO de OpenAI; y Joy Buolamwini de The Algorithmic Justice League—para demostrarles a las chicas que STEM no es solo un dominio masculino.
La IA y los datos respaldarán innumerables carreras futuras—desde atletas hasta cineastas. Es crucial eliminar las barreras que restringen el acceso a la educación STEM para minorías y mostrar que una base en STEM abre las puertas a una variedad de trayectorias profesionales.
Reconocimiento y Abordaje del Sesgo
El sesgo en la IA se manifiesta de dos maneras principales: a través de los conjuntos de datos utilizados para el entrenamiento y mediante los sesgos de los individuos que los desarrollan. Para disminuir el sesgo, debemos primero reconocer su existencia y entender que todos los datos contienen sesgos inherentes, a menudo agravados por prejuicios humanos inconscientes.
Tomemos como ejemplo generadores de imágenes conocidos como MidJourney, DALL-E y Stable Diffusion. Un análisis de The Washington Post reveló que, al solicitar representar a una “mujer hermosa”, los resultados mostraban predominantemente a individuos jóvenes, delgados y blancos, con solo un 2% mostrando signos visibles de envejecimiento y apenas un 9% exhibiendo tonos de piel oscuros. Estos hallazgos reflejan una desconexión marcada de la verdadera diversidad de la feminidad.
También existen sesgos más sutiles. Por ejemplo, al iniciar mi carrera en Zúrich a finales de los años 80, no pude abrir una cuenta bancaria como mujer casada, a pesar de ser el principal sustento familiar. Si los modelos de IA se entrenan con datos históricos de crédito que carecen de representación de mujeres, pueden pasar por alto factores cruciales como las licencias de maternidad o las brechas de cuidado infantil. Abordar estas cuestiones puede implicar el uso de datos sintéticos generados por IA, pero solo si los creadores son conscientes de estos sesgos.
Por lo tanto, es esencial que voces diversas—especialmente mujeres—participen en cada etapa del proceso de desarrollo de la IA. No podemos confiar esta responsabilidad solo a un pequeño grupo de tecnólogos que no reflejan la rica diversidad de la población global.
La Necesidad de Diversidad en la IA
Si bien eliminar completamente el sesgo en la IA puede ser un objetivo poco realista, ignorar el problema es igualmente inaceptable. Aumentar la diversidad en STEM y dentro de los equipos de desarrollo de IA es crucial para crear modelos más precisos e inclusivos que beneficien a todos.
Clasificación
