EU KI-Verordnung tritt in Kraft: Ein wegweisendes Gesetz für eine umfassende globale KI-Regulierung

EU-Verordnung über Künstliche Intelligenz tritt in Kraft: Die erste umfassende KI-Regelung der Welt

Am 1. August 2023 trat die Europäische Union mit der Verabschiedung des Gesetzes über Künstliche Intelligenz (Artificial Intelligence Act) in eine neue Ära ein – es handelt sich um den weltweit ersten umfassenden Rechtsrahmen für Künstliche Intelligenz. Diese wegweisende Gesetzgebung soll die Zuverlässigkeit von KI-Technologien, die innerhalb der EU entwickelt und eingesetzt werden, gewährleisten und zugleich Maßnahmen zum Schutz grundlegender Menschenrechte einführen.

Thierry Breton, der EU-Kommissar für den Binnenmarkt, bezeichnete das Gesetz als „effektiven, ausgewogenen und global wegweisenden“ Rahmen, der einen einheitlichen KI-Markt schaffen soll, der technologische Innovation und Investitionen fördert.

Das Gesetz führt bisher unbekannte Strafen für die Nichteinhaltung ein. Unternehmen, die gegen die Vorschriften verstoßen, müssen mit Geldbußen von bis zu 7 % ihres weltweiten Jahresumsatzes rechnen, während bei anderen Verstößen Strafen von bis zu 3 % möglich sind. Die Bereitstellung irreführender Informationen kann mit Bußgeldern von bis zu 1,5 % geahndet werden. Diese strengen Maßnahmen zielen darauf ab, Verstöße abzuschrecken und die gesunde Entwicklung von KI zu fördern.

Die Gesetzgebung klassifiziert KI-Systeme nach ihren Risikostufen und legt entsprechende regulatorische Anforderungen fest. Für Systeme mit geringem Risiko, wie Empfehlungsalgorithmen und Spamfilter, die kaum Bedrohungen für Rechte und Sicherheit darstellen, gibt es keine speziellen Verpflichtungen; Unternehmen werden jedoch ermutigt, freiwillig zusätzliche bewährte Praktiken anzuwenden.

Bei Systemen mit identifizierbaren Transparenzrisiken, wie Chatbots, schreibt das Gesetz vor, dass Nutzer darüber informiert werden, wenn sie mit Maschinen interagieren. Zudem müssen KI-generierte Inhalte, wie Deepfakes, entsprechend gekennzeichnet werden. Unternehmen, die biometrische oder Emotionserkennungstechnologien einsetzen, müssen die Nutzer im Voraus informieren. Auch synthetische Audio-, Video- und Bildinhalte müssen als maschinell erzeugt gekennzeichnet werden, um Transparenz und Nachvollziehbarkeit zu erhöhen.

Hochrisiko-KI-Systeme, wie solche für Einstellungsbewertungen oder autonome Robotik, unterliegen strengen Anforderungen, einschließlich der Entwicklung von Risikominderungsstrategien, der Verwendung hochwertiger Datensätze, der Führung von Protokollen über die Aktivitäten, der Bereitstellung detaillierter Dokumentationen und Nutzerinformationen sowie der Gewährleistung von menschlicher Aufsicht zur Sicherstellung von Robustheit, Genauigkeit und Cybersicherheit.

Das Gesetz verbietet direkt KI-Systeme, die klare Bedrohungen für grundlegende Rechte darstellen, einschließlich Technologien, die das Nutzerverhalten manipulieren, Spielzeuge, die Minderjährige zu riskantem Verhalten anregen, soziale Bewertungssysteme und bestimmte prädiktive Polizeianwendungen. Strenge Beschränkungen gelten auch für Systeme zur Emotionserkennung am Arbeitsplatz und für Echtzeit-Biometriesysteme, die im Strafvollzug eingesetzt werden.

Die Umsetzung des Gesetzes über Künstliche Intelligenz stellt einen bedeutenden Fortschritt für die EU im Bereich der KI-Regulierung dar und bietet wertvolle Erkenntnisse und Referenzpunkte für die globale KI-Governance. Mit der Entwicklung des Gesetzes zielt die EU darauf ab, ein KI-Ökosystem zu schaffen, das Innovationen fördert und gleichzeitig Rechte schützt.