Ferramenta de Envenenamento de IA Nightshade ultrapassa 250.000 downloads em apenas 5 dias: 'Superando nossas expectativas mais ousadas'

Nightshade: Uma Ferramenta Revolucionária para Artistas

Nightshade, uma ferramenta recém-lançada e disponível para download gratuito, desenvolvida por pesquisadores da Universidade de Chicago, capacita artistas a protegerem suas obras de arte contra o treinamento não autorizado de modelos de IA. Em apenas cinco dias após o lançamento, foram impressionantes 250.000 downloads.

Ben Zhao, líder do projeto e professor de ciência da computação, compartilhou em um e-mail: “Nightshade alcançou 250 mil downloads em 5 dias desde o lançamento. Eu esperava um alto nível de entusiasmo, mas essa resposta superou nossas expectativas.”

Esse forte início indica um grande interesse entre os artistas em proteger seu trabalho. Com mais de 2,67 milhões de artistas apenas nos EUA, conforme relatado pelo Bureau of Labor Statistics, Zhao acredita que a base de usuários da ferramenta pode ser ainda maior.

“Não realizamos verificações de geolocalização para esses downloads,” observou Zhao. “As reações nas redes sociais sugerem que os downloads estão vindo de todos os cantos do mundo.”

Como Nightshade Funciona e Sua Popularidade

Nightshade tem como objetivo “envenenar” modelos geradores de IA ao alterar obras de arte compartilhadas online. Essa manipulação, ou “sombreamento” em nível de pixel, faz com que as imagens pareçam completamente diferentes para os algoritmos de aprendizado de máquina — pense em uma bolsa que se apresenta como uma vaca. Uma vez treinado com alguns exemplos sombreados, um modelo de IA pode gerar imagens imprecisas com base nas solicitações dos usuários.

Na página do projeto Nightshade, Zhao e sua equipe — Shawn Shan, Wenxin Ding, Josephine Passananti e Heather Zheng — explicam sua missão: “aumentar o custo de treinamento em dados não licenciados, tornando a licença de imagens dos criadores uma alternativa viável.”

A demanda por Nightshade foi tão avassaladora após seu lançamento em 18 de janeiro de 2023, que os servidores da Universidade de Chicago tiveram dificuldades para acompanhar, levando à adição de links espelho para downloads.

Além disso, a ferramenta anterior da equipe, Glaze, projetada para evitar que a IA aprenda o estilo único de um artista por meio de sutis alterações de pixels, já alcançou 2,2 milhões de downloads desde seu lançamento em abril de 2023.

Desenvolvimentos Futuros do Projeto Glaze

Sob o abrigo do Projeto Glaze, Zhao e seus colegas anunciaram planos para desenvolver uma ferramenta que combine as capacidades defensivas do Glaze com os recursos ofensivos do Nightshade. Espera-se que essa ferramenta combinada leve pelo menos um mês para ser lançada, pois testes cuidadosos são essenciais.

“Temos muitas tarefas a completar,” afirmou Zhao. “Precisamos garantir que a versão combinada seja testada de forma completa para evitar surpresas. Espero que leve pelo menos um mês, possivelmente mais, para concluir os testes abrangentes.”

Os pesquisadores do Projeto Glaze recomendam que os artistas usem o Glaze antes do Nightshade para proteger seu estilo único enquanto interrompem o treinamento de modelos de IA. Essa abordagem em duas etapas tem mostrado sucesso entre os artistas, apesar de ser um pouco mais trabalhosa.

“Orientamos os usuários de que não realizamos testes completos para ver como as duas ferramentas funcionam juntas. Eles devem esperar antes de usar apenas o Nightshade,” explicou Zhao. "A comunidade artística respondeu: ‘Usaremos o Nightshade e o Glaze em duas etapas, mesmo que isso leve mais tempo e altere visivelmente a arte.’”

Uma versão de código aberto do Nightshade pode também estar em desenvolvimento. “Provavelmente lançaremos uma versão de código aberto no futuro; no entanto, isso requer mais tempo para produção.”

Zhao também indicou que ainda não receberam retorno dos criadores de tecnologias de geração de imagens por IA, como OpenAI (DALL-E 3), Midjourney e Stability AI (Stable Diffusion), apesar do uso ativo dessas ferramentas na criação de conteúdo.