Nightshade: Ein revolutionäres Werkzeug für Künstler
Nightshade, ein neu veröffentlichtes und kostenloses Download-Tool, entwickelt von Forschern der University of Chicago, ermöglicht es Künstlern, ihre Werke vor unbefugtem Training von KI-Modellen zu schützen. Nur fünf Tage nach der Veröffentlichung verzeichnete es beeindruckende 250.000 Downloads.
Ben Zhao, Projektleiter und Professor für Informatik, teilte in einer E-Mail mit: „Nightshade erreichte in fünf Tagen 250.000 Downloads. Ich erwartete eine hohe Begeisterung, aber diese Reaktion übertraf unsere Erwartungen.“
Dieses starke Debüt zeigt das erhebliche Interesse von Künstlern, ihre Arbeiten zu schützen. Mit über 2,67 Millionen Künstlern allein in den USA, laut dem Bureau of Labor Statistics, glaubt Zhao, dass die Nutzerbasis des Tools noch weiter wachsen könnte.
„Wir haben keine Geolokalisierungen für diese Downloads durchgeführt“, bemerkte Zhao. „Reaktionen in den sozialen Medien deuten darauf hin, dass die Downloads aus allen Teilen der Welt kommen.“
So funktioniert Nightshade und seine Beliebtheit
Nightshade hat das Ziel, generative KI-Bildmodelle durch die Veränderung von online geteilten Kunstwerken zu „vergiften“. Diese Manipulation oder „Schattierung“ auf Pixelebene lässt die Bilder für maschinelles Lernen völlig anders erscheinen – denken Sie an eine Handtasche, die wie eine Kuh aussieht. Nach dem Training mit einigen geschatteten Beispielen kann ein KI-Modell ungenaue Bilder basierend auf Nutzeranfragen erzeugen.
Auf der Projektseite von Nightshade erklären Zhao und sein Team – Shawn Shan, Wenxin Ding, Josephine Passananti und Heather Zheng – ihre Mission: die „Kosten des Trainings an unlizenzierter Daten zu erhöhen, sodass das Lizenzieren von Bildern bei Kreativen eine gangbare Alternative darstellt.“
Die Nachfrage nach Nightshade war bei der Veröffentlichung am 18. Januar 2023 so überwältigend, dass die Server der University of Chicago überlastet waren, was zur Bereitstellung von Spiegel-Links für Downloads führte.
Zusätzlich hat das frühere Tool des Teams, Glaze, das entwickelt wurde, um zu verhindern, dass KI den einzigartigen Stil eines Künstlers durch subtile Pixelveränderungen erlernt, seit seiner Veröffentlichung im April 2023 2,2 Millionen Downloads erreicht.
Zukünftige Entwicklungen des Glaze-Projekts
Im Rahmen des Glaze-Projekts haben Zhao und seine Kollegen Pläne angekündigt, ein Werkzeug zu entwickeln, das die defensiven Fähigkeiten von Glaze mit den offensiven Funktionen von Nightshade kombiniert. Dieses Kombi-Tool wird voraussichtlich mindestens einen Monat benötigen, da sorgfältige Tests unerlässlich sind.
„Wir haben viele Aufgaben zu erledigen“, sagte Zhao. „Wir müssen sicherstellen, dass die kombinierte Version gründlich getestet wird, um Überraschungen zu vermeiden. Ich erwarte, dass es mindestens einen Monat, möglicherweise länger, dauern wird, um umfassende Tests abzuschließen.“
Die Forscher des Glaze-Projekts empfehlen Künstlern, Glaze vor Nightshade zu verwenden, um ihren einzigartigen Stil zu schützen und gleichzeitig das Training von KI-Modellen zu stören. Dieser zweistufige Ansatz hat sich bei Künstlern bewährt, obwohl er etwas umständlicher ist.
„Wir haben den Nutzern geraten, dass wir keine vollständigen Tests durchgeführt haben, um zu sehen, wie die beiden Tools zusammenarbeiten. Sie sollten warten, bevor sie nur Nightshade verwenden“, erklärte Zhao. „Die Künstlergemeinschaft antwortete: ‚Wir werden Nightshade und Glaze in zwei Schritten verwenden, selbst wenn es mehr Zeit kostet und die Kunst sichtbar verändert.‘“
Eine Open-Source-Version von Nightshade könnte ebenfalls in Arbeit sein. „Wir werden wahrscheinlich in Zukunft eine Open-Source-Version veröffentlichen; allerdings benötigt dies zusätzliche Zeit zur Erstellung.“
Zhao wies auch darauf hin, dass sie noch keine Rückmeldungen von den Entwicklern von KI-Bilderzeugungstechnologien wie OpenAI (DALL-E 3), Midjourney und Stability AI (Stable Diffusion) erhalten haben, obwohl diese Tools aktiv in der Inhaltserstellung genutzt werden.
Rangliste
