Kaliforniens Gouverneur Gavin Newsom hat SB 1047, ein Gesetz zur Verhinderung des Missbrauchs von Künstlicher Intelligenz (KI), das zu "kritischem Schaden" für Menschen führen könnte, abgelehnt. Die California State Assembly verabschiedete das Gesetz am 28. August mit 41 zu 9 Stimmen, doch Organisationen wie die Handelskammer forderten den Gouverneur auf, es zurückzuweisen.
In seiner Veto-Botschaft vom 29. September räumte Newsom ein, dass das Gesetz zwar "gut gemeint" sei, jedoch entscheidende Faktoren wie den Einsatz von KI in risikobehafteten Umgebungen und den Umgang mit sensitiven Daten nicht ausreichend berücksichtige. Stattdessen würden strenge Standards auch für grundlegende KI-Funktionen in großen Systemen auferlegt.
SB 1047 wollte Entwickler von KI-Modellen verantwortlich machen, Sicherheitsprotokolle zu implementieren, um katastrophale Folgen abzuwenden. Zu den erforderlichen Sicherheitsmaßnahmen gehörten umfassende Tests, externe Risikobewertungen und eine fehlersichere "Notaus-Funktion", wobei die Strafen bei Erstverstößen bei 10 Millionen Dollar begannen und bei weiteren Verstößen auf bis zu 30 Millionen Dollar anstiegen. In der überarbeiteten Fassung wurde jedoch die Möglichkeit, den Generalstaatsanwalt gegen KI-Unternehmen wegen Fahrlässigkeit zu verklagen, eingeschränkt, es sei denn, es trat ein katastrophales Ereignis ein, wodurch mögliche rechtliche Schritte auf Unterlassungsansprüche in solchen Fällen beschränkt wurden.
Das Gesetz zielte darauf ab, KI-Modelle mit minimalen Betriebskosten von 100 Millionen Dollar und Trainingskapazitäten von 10^26 FLOPS zu regulieren. Es hätte auch Projekte betroffen, die mit erheblichen Drittinvestitionen über 10 Millionen Dollar entwickelt wurden. Jedes Unternehmen, das in Kalifornien tätig ist und diese Kriterien erfüllt, müsste den Vorgaben des Gesetzes nachkommen.
Newsom äußerte Bedenken bezüglich des engen Fokus des Gesetzes auf großangelegte KI-Systeme und erklärte: "Ich glaube nicht, dass dies der beste Ansatz ist, um die Öffentlichkeit vor realen Bedrohungen durch diese Technologie zu schützen." Er warnte, dass dieser Schwerpunkt ein trügerisches Sicherheitsgefühl schaffen könnte, da kleinere, spezialisierte Modelle ebenso oder sogar größere Risiken darstellen könnten und gleichzeitig die für die Öffentlichkeit vorteilhafte Innovation behindern.
Die frühere Fassung von SB 1047 schlug die Einrichtung einer Frontier Model Division zur Regulierung von KI-Technologien vor. Das Gesetz wurde jedoch geändert, um die Aufsicht unter ein Board of Frontier Models innerhalb der Government Operations Agency zu stellen, dessen Mitglieder vom Gouverneur und der Legislative ernannt werden.
Der von Kaliforniens Senator Scott Wiener eingebrachte Gesetzentwurf stieß auf erhebliche Widerstände aus der Tech-Community. Prominente KI-Forscher wie Geoffrey Hinton und Yoshua Bengio unterstützten die Initiative und äußerten Bedenken hinsichtlich der Gefahren von KI. Wiener betonte die Bedeutung proaktiver Maßnahmen und sagte: "Lassen Sie uns nicht warten, bis etwas Schlimmes passiert."
In seiner Veto-Botschaft bekräftigte Newsom das Engagement des Staates für Sicherheit und bestand darauf: "Kalifornien wird seine Verantwortung nicht aufgeben. Sicherheitsprotokolle müssen übernommen werden, und klare Konsequenzen für Fehlverhalten müssen durchsetzbar sein." Er forderte einen regulatorischen Rahmen, der sich parallel zu den Fortschritten in der KI weiterentwickelt.
Der Gesetzentwurf erhielt erheblichen Widerstand von Führungspersönlichkeiten und Organisationen der Tech-Branche, darunter die Forscherin Fei-Fei Li und Meta-Chef-Wissenschaftler Yann LeCun, die ihn kritisierten, weil er möglicherweise die KI-Innovation behindere. Handelsgruppen der Tech-Branche, die große Unternehmen wie Amazon, Apple und Google vertreten, warnten, dass SB 1047 neue Entwicklungen im Technologiesektor Kaliforniens ersticken könnte. Zudem äußerte die Risikokapitalgesellschaft Andreessen Horowitz, zusammen mit verschiedenen Start-ups, Bedenken hinsichtlich der finanziellen Auswirkungen auf KI-Innovatoren, was zu Änderungen in der Fassung von SB 1047 führte, die am 15. August durch das kalifornische Appropriations Committee weiterverarbeitet wurde.
Rangliste
