Deepfakes de Taylor Swift: Por qué las empresas de IA no pueden simplemente 'Ignorarlo'

Los jugadores van a jugar. Los haters van a odiar. Pero cuando se trata de los deepfakes pornográficos generados por IA de Taylor Swift, la situación es lo suficientemente alarmante como para haber llevado a Elon Musk a contratar rápidamente a 100 moderadores de contenido adicionales para X y a Microsoft a mejorar las medidas de seguridad en su aplicación Designer AI. A las empresas de IA les tengo un mensaje simple: No, no pueden simplemente "dejarlo pasar".

Quizás deseen dejarlo pasar y seguir adelante, insistiendo en que no dejarán de moverse. Pero como nos recuerda la propia Taylor Swift, “ahora tenemos problemas”.

El "Manifiesto Techno-Optimista" de Marc Andreessen proclamó: “La tecnología es la gloria de la ambición y el logro humano.” La misión de OpenAI enfatiza el desarrollo de la inteligencia artificial general (AGI) para el beneficio de la humanidad, mientras que Anthropic expresa confianza en crear sistemas de IA confiables y manejables. Mientras tanto, el principal científico de IA de Meta, Yann LeCun, afirmó recientemente que “el mundo no terminó” cinco años después de que se retuviera GPT-2 por preocupaciones de seguridad: “De hecho, no pasó nada malo”, publicó.

Lo siento, Yann, pero están ocurriendo cosas malas con la IA. Esto no niega los desarrollos positivos, ni disminuye el optimismo general sobre la evolución de la tecnología. Sin embargo, es fundamental reconocer que personas reales están experimentando los impactos negativos de la IA, y los "normies" a menudo comprenden esta realidad mejor que quienes están dentro de la industria de IA. Es esencial que las empresas de IA reconozcan estas preocupaciones de manera honesta y esbozen cómo planean abordarlas.

No hacerlo podría llevarlas al abismo de la desilusión del que hablé el octubre pasado. Junto con los avances rápidos en IA, hay numerosos desafíos—desde desinformación electoral y pornografía generada por IA hasta desplazamiento laboral y plagio. Si bien la IA ofrece un potencial notable para la humanidad, las empresas deben comunicar mejor esa visión.

Actualmente, también luchan por transmitir cómo corregirán los problemas existentes. Como los Swifties reconocen con agudeza, “ahora tenemos problemas... hiciste un corte muy profundo”.

Estoy apoyando al anti-héroe de la IA. Estoy genuinamente entusiasmado con el panorama de la IA; es emocionante y lleno de promesas. Sin embargo, puede ser agotador apoyar lo que muchos ven como un anti-héroe moralmente ambiguo. A veces desearía que los líderes en IA reconocieran abiertamente sus fallas, como en la frase, “yo soy el problema, soy yo”.

Sin embargo, la autorreflexión es vital. Independientemente de las buenas intenciones de los investigadores de IA, ejecutivos y formuladores de políticas, el incidente de deepfake de Taylor Swift es solo la punta del iceberg. Millones de mujeres y niñas enfrentan la amenaza de ser blanco de pornografía generada por IA. Los expertos prevén que la IA agravará problemas durante las elecciones de 2024, y muchos trabajadores atribuirán sus despidos a la IA, independientemente de la evidencia.

La gente se está volviendo cada vez más cínica respecto a la IA. Esta reacción puede frustrar a quienes reconocen su capacidad para abordar desafíos significativos.

Si las empresas de IA no encuentran una manera de avanzar que respete y proteja a los humanos que esperan abrazar esta tecnología, podrían enfrentar consecuencias innegables. Si eso sucede—querido, ahora tenemos mala sangre.