La herramienta de envenenamiento de IA, Nightshade, supera las 250,000 descargas en solo 5 días: 'Superando nuestras expectativas más locas'

Nightshade: Una Herramienta Revolucionaria para Artistas

Nightshade, una herramienta recién lanzada y gratuita desarrollada por investigadores de la Universidad de Chicago, empodera a los artistas para proteger sus obras de la capacitación no autorizada de modelos de IA. En solo cinco días desde su lanzamiento, alcanzó unas impresionantes 250,000 descargas.

Ben Zhao, líder del proyecto y profesor de ciencias de la computación, compartió en un correo electrónico: “Nightshade alcanzó los 250K descargas en 5 días desde su lanzamiento. Anticipé un alto nivel de entusiasmo, pero esta respuesta superó nuestras expectativas”.

Este sólido debut indica un notable interés entre los artistas por proteger su trabajo. Con más de 2.67 millones de artistas en EE. UU., según el Buró de Estadísticas Laborales, Zhao cree que la base de usuarios de la herramienta puede extenderse aún más.

“No hemos realizado análisis geolocalizados para estas descargas”, señaló Zhao. “Las reacciones en redes sociales sugieren que los descargas provienen de todos los rincones del mundo”.

Cómo Funciona Nightshade y Su Popularidad

Nightshade tiene como objetivo "envenenar" los modelos de IA generativa modificando las obras de arte compartidas en línea. Esta manipulación, o "sombreado" a nivel de píxeles, provoca que las imágenes parezcan completamente diferentes a los algoritmos de aprendizaje automático—por ejemplo, un bolso que se presenta como una vaca. Una vez entrenado con algunos ejemplos sombreados, un modelo de IA puede generar imágenes inexactas según las indicaciones del usuario.

En la página del proyecto Nightshade, Zhao y su equipo—Shawn Shan, Wenxin Ding, Josephine Passananti y Heather Zheng—explican su misión: “incrementar el costo de capacitación en datos no licenciados, haciendo que la obtención de licencias para imágenes de los creadores sea una alternativa viable”.

La demanda por Nightshade fue tan abrumadora tras su lanzamiento el 18 de enero de 2023 que los servidores de la Universidad de Chicago tuvieron problemas para mantenerse al día, lo que llevó a la adición de enlaces espejo para las descargas.

Además, la herramienta anterior del equipo, Glaze, diseñada para evitar que la IA aprenda el estilo único de un artista mediante sutiles alteraciones de píxeles, ha logrado 2.2 millones de descargas desde su lanzamiento en abril de 2023.

Desarrollos Futuros del Proyecto Glaze

Operando bajo el auspicio del Proyecto Glaze, Zhao y sus colegas han anunciado planes para desarrollar una herramienta que combine las capacidades defensivas de Glaze con las funciones ofensivas de Nightshade. Se espera que esta herramienta combinada tarde al menos un mes en liberarse, ya que es esencial realizar pruebas exhaustivas.

“Tenemos muchas tareas por completar”, afirmó Zhao. “Necesitamos asegurarnos de que la versión combinada esté completamente testeada para evitar sorpresas. Espero que tome al menos un mes, posiblemente más, completar las pruebas exhaustivas”.

Los investigadores del Proyecto Glaze recomiendan a los artistas usar Glaze antes de Nightshade para proteger su estilo único mientras interrumpen la capacitación de modelos de IA. Este enfoque en dos pasos ha demostrado ser exitoso entre los artistas, a pesar de ser un poco más complicado.

“Advertimos a los usuarios que no hemos realizado pruebas completas para ver cómo funcionan juntas las dos herramientas. Deberían esperar antes de usar solo Nightshade”, explicó Zhao. “La comunidad artística respondió: ‘Usaremos Nightshade y Glaze en dos pasos, incluso si toma más tiempo y altera visiblemente el arte’”.

Además, se está considerando el desarrollo de una versión de código abierto de Nightshade. “Probablemente lanzaremos una versión de código abierto en el futuro; sin embargo, requiere tiempo adicional para producirla”.

Zhao también indicó que aún no han recibido noticias de los creadores de tecnologías de generación de imágenes por IA como OpenAI (DALL-E 3), Midjourney y Stability AI (Stable Diffusion), a pesar de su uso activo de estas herramientas en la creación de contenido.