Yann LeCun, Metas Chef-AI-Wissenschaftler, übte am Mittwoch öffentlich Kritik an den Unterstützern des umstrittenen kalifornischen AI-Sicherheitsgesetzes SB 1047. Diese Äußerung folgte auf Geoffrey Hintons Unterstützung für das Gesetz einen Tag zuvor. Dieses Missverständnis zwischen den KI-Pionieren verdeutlicht die erheblichen Spaltungen innerhalb der Gemeinschaft bezüglich der zukünftigen Regulierung von KI.
Der kalifornische Gesetzgeber hat SB 1047 verabschiedet, das auf die Unterschrift von Gouverneur Gavin Newsom wartet. Das Gesetz hat eine intensive Debatte über die Regulierung von KI ausgelöst und schlägt Haftung für Entwickler großer KI-Modelle vor, die katastrophale Schäden verursachen, sofern keine angemessenen Sicherheitsmaßnahmen vorhanden sind. Es richtet sich speziell gegen Modelle, deren Trainingskosten mindestens 100 Millionen US-Dollar betragen, und diejenigen, die in Kalifornien, der fünftgrößten Wirtschaft der Welt, betrieben werden.
Der Kampf der KI-Titanen: LeCun vs. Hinton über SB 1047
LeCun, eine Schlüsselperson im Bereich des Deep Learnings, argumentiert, dass viele Unterstützer des Gesetzentwurfs eine „verzerrte Sicht“ auf die Fähigkeiten von KI haben. „Diese Verzerrung rührt von ihrer Unerfahrenheit, ihrer Naivität hinsichtlich der bevorstehenden Herausforderungen und den übertriebenen Einschätzungen des Fortschritts ihrer Organisationen her“, schrieb er auf X (ehemals Twitter).
Seine Bemerkungen richteten sich direkt gegen Hintons Unterstützung eines offenen Briefes, der von über 100 aktuellen und ehemaligen Mitarbeitern führender KI-Firmen wie OpenAI und Google DeepMind unterzeichnet wurde. In diesem Brief, der am 9. September an Gouverneur Newsom übergeben wurde, wurde er aufgefordert, SB 1047 zu unterzeichnen, da ernsthafte Risiken durch mächtige KI-Modelle genannt wurden, einschließlich potenzieller Ausbeutung für biologische Waffen und Cyberangriffe auf kritische Infrastruktur.
Dieser öffentliche Bruch zwischen LeCun und Hinton verdeutlicht die Komplexität der Regulierung schnell entwickelnder Technologien. Hinton, der letztes Jahr Google verlassen hat, um Bedenken hinsichtlich der Risiken von KI zu äußern, steht für diejenigen, die glauben, dass KI-Systeme bald existenzielle Bedrohungen schaffen könnten. Im Gegensatz dazu argumentiert LeCun, dass solche Befürchtungen voreilig und schädlich für die offene Forschung sind.
Innerhalb von SB 1047: Das umstrittene Gesetz zur Neugestaltung der KI-Regulierung
Die Debatte über SB 1047 hat traditionelle politische Allianzen erschüttert. Zu den prominenten Unterstützern zählt Elon Musk, trotz früherer Kritik am Autoren des Gesetzes, Senator Scott Wiener. Gegner sind unter anderem Speaker Emerita Nancy Pelosi und San Franciscos Bürgermeisterin London Breed, sowie bedeutende Technologieunternehmen und Wagniskapitalgeber.
Anthropic, ein KI-Unternehmen, das zunächst gegen das Gesetz war, änderte seine Haltung nach Änderungen und erklärte, die „Vorteile des Gesetzes überwiegen wahrscheinlich die Kosten.“ Dieser Kurswechsel verdeutlicht die sich entwickelnde Natur der Gesetzgebung und die laufenden Verhandlungen zwischen den Gesetzgebern und dem Technologiesektor.
Kritiker behaupten, dass SB 1047 Innovationen ersticken und kleinere Unternehmen sowie Open-Source-Projekte benachteiligen könnte. Andrew Ng, Gründer von DeepLearning.AI, argumentierte in der TIME, das Gesetz mache „den grundlegenden Fehler, eine allgemeine Technologie statt ihrer Anwendungen zu regulieren.“
Befürworter hingegen sind der Ansicht, dass die potenziellen Risiken einer unregulierten KI-Entwicklung die Bedenken bei weitem überwiegen. Sie glauben, dass der Fokus auf Modelle mit Budgets über 100 Millionen US-Dollar sicherstellt, dass in erster Linie große, gut ausgestattete Firmen betroffen sind, die in der Lage sind, robuste Sicherheitsmaßnahmen zu etablieren.
Silicon Valley gespalten: Wie SB 1047 die Tech-Welt spaltet
Die Einbeziehung von aktuellen Mitarbeitern von Firmen, die gegen das Gesetz sind, zeigt interne Meinungsverschiedenheiten innerhalb dieser Organisationen in Bezug auf die Balance zwischen Innovation und Sicherheit.
Während Gouverneur Newsom die Entscheidung über die Unterzeichnung von SB 1047 abwägt, steht er vor einer Wahl, die die Entwicklung von KI in Kalifornien und möglicherweise auch in den USA prägen könnte. Mit dem Voranschreiten des KI-Gesetzes der Europäischen Union könnte Kaliforniens Entscheidung beeinflussen, ob die USA einen proaktiveren oder zurückhaltenden Ansatz zur föderalen KI-Regulierung übernehmen.
Der Konflikt zwischen LeCun und Hinton ist ein Mikrokosmos der größeren Debatte über KI-Sicherheit und -Regulierung. Er verdeutlicht die Herausforderung, vor der politische Entscheidungsträger stehen, Gesetze zu schaffen, die Sicherheitsbedenken effektiv angehen, ohne den technologischen Fortschritt zu behindern.
Da sich das KI-Feld schnell weiterentwickelt, könnte das Ergebnis dieses Gesetzesstreits in Kalifornien einen entscheidenden Präzedenzfall dafür schaffen, wie die Gesellschaft die Versprechen und Risiken fortschrittlicher künstlicher Intelligenzsysteme managt. Beobachter aus der Technologiebranche, politische Entscheidungsträger und die Öffentlichkeit werden in den kommenden Wochen die Entscheidung von Gouverneur Newsom genau verfolgen.
Rangliste
