Nachtshade: Das kostenlose Tool, das Künstler nutzen können, um KI-Modelle zu „vergiften“

Nightshade Startet: Ein Werkzeug für Künstler zum Schutz ihrer Arbeiten vor KI-Modellen

Monate nach ihrer Ankündigung ist Nightshade, ein kostenloses Software-Tool für Künstler, nun zum Download verfügbar. Diese innovative Anwendung ermöglicht es Künstlern, KI-Modelle, die versuchen, mit ihren Arbeiten zu trainieren, "zu vergiften".

Entwickelt von Informatikern des Glaze-Projekts der Universität Chicago unter Professor Ben Zhao, nutzt Nightshade das Open-Source-Maschinenlern-Framework PyTorch. Es identifiziert den Inhalt eines Bildes und verändert ihn subtil auf der Pixelebene, sodass die Version für das menschliche Auge unverändert, für KI-Programme jedoch völlig anders aussieht.

Aufbau auf Vorherigen Innovationen

Nightshade folgt auf die Einführung von Glaze, einem Werkzeug, das vor fast einem Jahr vorgestellt wurde und digitale Kunstwerke so verändert, dass KI-Trainingsalgorithmen über den Stil des Bildes in die Irre geführt werden. Während Glaze als defensive Maßnahme empfohlen wird, verfolgt Nightshade einen offensiven Ansatz.

Wenn ein KI-Modell mit Bildern trainiert wird, die mit Nightshade modifiziert wurden, kann es zukünftige Bilder falsch kategorisieren und bizarre Ergebnisse erzeugen. So könnte eine KI beispielsweise ein Bild einer Kuh als Handtasche missverstehen.

Anforderungen und Funktionalität

Für die Nutzung von Nightshade benötigen Künstler einen Mac mit Apple-Chips (M1, M2 oder M3) oder einen PC mit Windows 10 oder 11. Downloads für beide Betriebssysteme sind verfügbar. Aufgrund der hohen Nachfrage haben einige Nutzer lange Downloadzeiten erlebt, bei Dateigrößen von 255 MB für den Mac und 2,6 GB für den PC.

Bevor sie herunterladen, müssen die Nutzer der Endbenutzer-Lizenzvereinbarung (EULA) des Teams zustimmen, die Änderungen und die kommerzielle Vervielfältigung der Software einschränkt.

Nightshade verwandelt Bilder in "Giftproben", was dazu führt, dass KI-Modelle, die mit diesen Bildern trainiert wurden, unvorhersehbare Ergebnisse liefern. Ein mit Nightshade verändertes Bild könnte beispielsweise dazu führen, dass ein Modell bei der Anfrage nach einer Kuh in einem Weltraumsetting eine Handtasche generiert.

Das Tool ist resistent gegenüber gängigen Bildtransformationen – Zuschnitte, Resampling und Komprimierung beeinträchtigen seine Effektivität nicht. Die Modifikationen des Algorithmus sind keine einfachen Wasserzeichen, sondern subtil integrierte Änderungen, die durch verschiedene Alterungen hindurch bestehen bleiben.

Gemischte Reaktionen

Während viele Künstler, darunter Kelly McKernan, eine Hauptklägerin in einer Gruppenklage gegen KI-Kunstunternehmen, Nightshade begrüßen, argumentieren einige Kritiker, dass es wie ein Cyberangriff auf KI-Modelle wirke. Das Team von Nightshade klärt die Absicht: Die Kosten für das Training mit nicht lizenzierten Daten zu erhöhen und AI-Entwickler zu ermutigen, Lizenzen von Künstlern zu erwerben.

Der Kontext des Datenscrapings

Die Einführung von Nightshade ist mit wachsenden Bedenken über Datenscraping verbunden, bei dem KI-Bildgeneratoren Daten aus dem Internet ohne Zustimmung der Künstler extrahieren. Diese Praxis gefährdet die Existenzgrundlage der Künstler und zwingt sie, Schutzmaßnahmen gegen unbefugte Nutzung ihrer Werke zu finden.

Der Kampf gegen Datenscraping ist nicht neu; er hat zuvor wegen seiner Auswirkungen auf das Urheberrecht und die faire Nutzung Aufmerksamkeit erregt. Obwohl KI-Unternehmen "Opt-out"-Optionen anbieten, argumentiert das Glaze/Nightshade-Team, dass diese leicht ignoriert werden können, was die Durchsetzung nahezu unmöglich macht.

Nightshade zielt darauf ab, ein gerechteres Spielfeld zu schaffen, indem es Kosten für unbefugte Scraping-Versuche auferlegt und AI-Entwickler zum Umdenken in ihren Geschäftspraktiken anregt. Es ist jedoch wichtig zu beachten, dass Nightshade vergangene Verstöße nicht rückgängig machen kann; es zielt lediglich darauf ab, zukünftige zu mildern.

Zusammenfassend stellt Nightshade einen entscheidenden Schritt im fortwährenden Kampf um die Rechte der Künstler im KI-Zeitalter dar.