Nightshade Lanza: Una Herramienta para Que los Artistas Protejan Su Trabajo de Modelos de IA
Meses después de su anuncio, Nightshade, una herramienta de software gratuita diseñada para artistas, está ahora disponible para su descarga. Esta innovadora aplicación permite a los artistas "envenenar" los modelos de IA que intentan entrenarse con sus obras.
Desarrollada por científicos informáticos del Proyecto Glaze de la Universidad de Chicago bajo la dirección del Profesor Ben Zhao, Nightshade utiliza el marco de aprendizaje automático de código abierto PyTorch. Identifica el contenido de una imagen y lo altera sutilmente a nivel de píxel, generando una versión que parece inalterada a los ojos humanos pero que se ve completamente diferente para los programas de IA.
Construyendo sobre Innovaciones Previas
Nightshade sigue al lanzamiento de Glaze, una herramienta presentada hace casi un año que modifica obras digitales para confundir a los algoritmos de entrenamiento de IA respecto al estilo de la imagen. Mientras que Glaze es una herramienta defensiva—recomendada para que los artistas la utilicen junto a Nightshade—este último adopta un enfoque ofensivo.
Cuando un modelo de IA se entrena con imágenes modificadas con Nightshade, puede categorizar erróneamente futuras imágenes, resultando en salidas extrañas. Por ejemplo, una IA podría confundir una imagen de una vaca con un bolso.
Requisitos y Funcionalidad
Para utilizar Nightshade, los artistas necesitan un Mac con chip Apple (M1, M2 o M3) o una PC con Windows 10 o 11. Las descargas para ambos sistemas operativos están disponibles. Debido a la alta demanda, algunos usuarios han experimentado largos tiempos de descarga, con archivos de 255MB para Mac y 2.6GB para PC.
Antes de descargar, los usuarios deben aceptar el acuerdo de licencia de usuario final (EULA) del equipo, que restringe las modificaciones y la reproducción comercial del software.
Nightshade transforma imágenes en muestras "envenenadas", haciendo que los modelos de IA entrenados con ellas produzcan resultados impredecibles. Por ejemplo, una imagen alterada con Nightshade podría hacer que un modelo genere un bolso cuando se le pida una vaca en un entorno espacial.
La herramienta es resistente a transformaciones comunes de imágenes—recortes, resampling y compresión no disminuyen su eficacia. Las modificaciones del algoritmo no son simples marcas de agua, sino cambios sutiles que perduran a través de diversas alteraciones.
Reacciones Mixtas
Mientras que muchos artistas, incluida Kelly McKernan, una demandante principal en una demanda colectiva por derechos de autor contra empresas de arte de IA, han adoptado Nightshade, algunos críticos argumentan que se asemeja a un ciberataque contra modelos de IA. El equipo de Nightshade aclara su intención: aumentar el costo de entrenar con datos no licenciados, alentando a los desarrolladores de IA a obtener licencias de los artistas.
El Contexto del Scraping de Datos
El auge de Nightshade está relacionado con las crecientes preocupaciones sobre el scraping de datos, donde los generadores de imágenes de IA extraen información de internet sin el consentimiento de los artistas. Esta práctica pone en peligro los medios de vida de los artistas, obligándolos a buscar medidas de protección contra el uso no autorizado de sus obras.
La lucha contra el scraping de datos no es nueva; anteriormente se ha analizado por sus implicaciones para los derechos de autor y el uso justo. Aunque las empresas de IA ofrecen opciones de "exclusión", el equipo de Glaze/Nightshade argumenta que estas pueden ser fácilmente ignoradas, lo que hace que la aplicación de la ley sea casi imposible.
Nightshade busca nivelar el campo de juego al imponer costos a los esfuerzos de scraping no autorizados, lo que lleva a una reconsideración de las prácticas comerciales entre los desarrolladores de IA. Sin embargo, es importante señalar que Nightshade no puede borrar infracciones pasadas; su objetivo es mitigar las futuras.
En conclusión, Nightshade representa un paso crucial en la lucha continua por los derechos de los artistas en la era de la IA.
Clasificación
