Erste dokumentierte Verhaftung des DOJ wegen KI-generierter Kinderpornografie (CSAM)

US-Justizministerium verhaftet Mann aus Wisconsin wegen KI-generierter Kinderpornografie

Letzte Woche verhaftete das US-Justizministerium (DOJ) Steven Anderegg, einen 42-jährigen Softwareingenieur aus Holmen, Wisconsin, wegen der Erstellung und Verbreitung von KI-generiertem Material für sexuellen Missbrauch von Kindern (CSAM). Dieser Fall setzt einen wichtigen rechtlichen Präzedenzfall, da das DOJ klarstellen möchte, dass ausbeuterisches Material illegal bleibt, selbst wenn keine echten Kinder an dessen Erstellung beteiligt waren. „Einfach gesagt, CSAM, das von KI generiert wird, bleibt CSAM“, erklärte stellvertretende Generalstaatsanwältin Lisa Monaco in einer Pressemitteilung.

Laut DOJ verwendete Anderegg eine modifizierte Version des Open-Source-Bildgenerators Stable Diffusion, um verstörende Bilder zu erstellen. Er soll versucht haben, einen 15-jährigen Jungen in sexuelle Situationen zu locken, indem er ihm diese Bilder über Direktnachrichten auf Instagram schickte. Das DOJ hat ihn wegen vier Straftaten angeklagt: „Herstellung, Verbreitung und Besitz obszöner visueller Darstellungen von Minderjährigen, die an sexuell eindeutigen Handlungen beteiligt sind, sowie der Übertragung obszönen Materials an einen Minderjährigen unter 16 Jahren“. Die expliziten Bilder zeigten „nackte oder teilweise bekleidete Minderjährige, die lasziv ihre Geschlechtsorgane zur Schau stellten oder mit Männern Geschlechtsverkehr hatten“.

Um diese Bilder zu erzeugen, soll Anderegg spezifische Eingabeaufforderungen verwendet haben, einschließlich negativer Eingaben, um die KI von ungewollten Ausgaben abzuhalten. Während cloudbasierte Bildgeneratoren wie Midjourney und DALL-E 3 über Sicherheitsvorkehrungen gegen solchen Missbrauch verfügen, nutzte Anderegg angeblich Stable Diffusion 1.5, eine Variante mit weniger Einschränkungen, die von Runway ML entwickelt wurde.

Der Fall verdeutlicht einen wichtigen Aspekt im laufenden Gespräch über CSAM: Die illegale Natur ist nicht ausschließlich an die Beteiligung lebender Kinder gebunden. Selbst KI-generiertes digitales CSAM kann schädliches Verhalten normalisieren und räuberische Handlungen erleichtern. Dieser Fall unterstreicht das Engagement des DOJ, sich mit diesen neuen Technologien auseinanderzusetzen. „Die Technologie mag sich ändern, aber unser Engagement zum Schutz von Kindern wird es nicht“, betonte Monaco. „Das Justizministerium wird entschieden gegen diejenigen vorgehen, die CSAM herstellen und verbreiten – unabhängig von der Methode der Erstellung.“

Sollte Anderegg in allen Anklagepunkten verurteilt werden, könnte ihn eine Haftstrafe von 5 bis 70 Jahren erwarten. Er befindet sich derzeit in federalem Gewahrsam und wartet auf eine Anhörung, die für den 22. Mai geplant ist. Angesichts der fortschreitenden Entwicklung der KI-Technologie wird dieser Fall als wichtiger Bezugspunkt für zukünftige rechtliche Auseinandersetzungen bezüglich Kindesmissbrauch in digitalen Räumen dienen.