L'outil de poisoning AI Nightshade dépasse les 250 000 téléchargements en seulement 5 jours : « Dépassant nos attentes les plus folles »

Nightshade : Un Outil Révolutionnaire pour les Artistes

Nightshade, un nouvel outil téléchargeable gratuitement, développé par des chercheurs de l'Université de Chicago, permet aux artistes de protéger leurs œuvres des entraînements non autorisés d'IA. En seulement cinq jours après son lancement, il a enregistré un impressionnant nombre de 250 000 téléchargements.

Ben Zhao, responsable du projet et professeur d'informatique, a partagé par email : « Nightshade a atteint 250 000 téléchargements en 5 jours depuis sa sortie. J'attendais un haut niveau d'engouement, mais cette réponse a dépassé nos attentes. »

Ce lancement réussi montre un vif intérêt des artistes pour la protection de leur travail. Avec plus de 2,67 millions d'artistes rien qu'aux États-Unis, selon le Bureau des statistiques du travail, Zhao estime que le nombre d'utilisateurs de l'outil pourrait s'élargir encore davantage.

« Nous n'avons pas effectué de recherches de géolocalisation pour ces téléchargements », a noté Zhao. « Les réactions sur les réseaux sociaux suggèrent que ces téléchargements proviennent des quatre coins du monde. »

Comment Fonctionne Nightshade et Sa Popularité

Nightshade vise à « empoisonner » les modèles d'IA générative en modifiant les œuvres partagées en ligne. Cette manipulation, ou « ombrage » au niveau des pixels, rend les images totalement différentes pour les algorithmes d'apprentissage automatique : imaginez un sac à main qui apparaît comme une vache. Une fois formé avec quelques exemples ombragés, un modèle d'IA peut générer des images inexactes basées sur les invites des utilisateurs.

Sur la page du projet Nightshade, Zhao et son équipe—Shawn Shan, Wenxin Ding, Josephine Passananti, et Heather Zheng—expliquent leur mission : « augmenter le coût de l’entraînement sur des données non licenciées, rendant le licenciement d'images des créateurs une alternative viable. »

La demande pour Nightshade a été si forte lors de sa sortie le 18 janvier 2023 que les serveurs de l’Université de Chicago ont eu du mal à suivre, entraînant l’ajout de liens miroirs pour les téléchargements.

De plus, l'outil précédent de l'équipe, Glaze, conçu pour empêcher l'IA d'apprendre le style unique d'un artiste grâce à des altérations subtiles des pixels, a déjà enregistré 2,2 millions de téléchargements depuis son lancement en avril 2023.

Développements futurs du Projet Glaze

Sous l'égide du Projet Glaze, Zhao et ses collègues ont annoncé leur intention de développer un outil qui combine les capacités défensives de Glaze avec les fonctionnalités offensives de Nightshade. Ce nouvel outil devrait prendre au moins un mois à être lancé, car des tests minutieux sont essentiels.

« Nous avons de nombreuses tâches à accomplir », a déclaré Zhao. « Nous devons nous assurer que la version combinée est bien testée pour éviter les surprises. Je m'attends à ce que cela prenne au moins un mois, peut-être plus, pour effectuer des tests complets. »

Les chercheurs du Projet Glaze recommandent aux artistes d'utiliser Glaze avant Nightshade pour protéger leur style unique tout en perturbant l'entraînement des modèles d'IA. Cette approche en deux étapes s'est avérée efficace parmi les artistes, même si elle est légèrement plus complexe.

« Nous avons conseillé aux utilisateurs que nous n'avons pas effectué de tests complets pour voir comment les deux outils fonctionnent ensemble. Ils devraient attendre avant d'utiliser uniquement Nightshade », a expliqué Zhao. « La communauté artistique a répondu : ‘Nous utiliserons Nightshade et Glaze en deux étapes, même si cela prend plus de temps et modifie visiblement l'art.’ »

Une version open-source de Nightshade pourrait également être en développement. « Nous prévoyons probablement de publier une version open-source à l'avenir, mais cela nécessite un temps supplémentaire de production. »

Zhao a également indiqué qu'ils n'ont pas encore eu de retour des créateurs de technologies génératives d'images comme OpenAI (DALL-E 3), Midjourney et Stability AI (Stable Diffusion), malgré leur utilisation active de ces outils dans la création de contenu.