Biden-Administration schlägt Überwachung für Open-Weight KI-Modelle vor: Auswirkungen auf zukünftige KI-Regulierung

Die Biden-Administration hat eine Initiative zur Überwachung öffentlicher Modelle mit offenen Gewichten gestartet, um wichtige Informationen für zukünftige Regelungen zu sammeln. Konkrete regulatorische Maßnahmen für diese Modelle stehen jedoch noch aus.

In einem aktuellen Bericht betonte die National Telecommunications and Information Administration (NTIA) die Notwendigkeit, die Risiken öffentlicher KI-Modelle zu bewerten, da diese bestehende Systeme potenziell stören könnten. Diese Bewertung ist entscheidend, um mögliche Katastrophen zu vermeiden.

Trotz des Bewusstseins für die Bedeutung der Überwachung erkannte die NTIA an, dass den USA derzeit die Kapazität fehlt, viele Risiken, die mit grundlegenden Modellen verbunden sind, effektiv anzugehen. Um diese Lücke zu schließen, schlug die NTIA vor, sich auf drei Schlüsselbereiche zu konzentrieren: das Sammeln von Beweisen über die Leistungsfähigkeit der Modelle zur Risikobeobachtung, die Bewertung und den Vergleich von Risikoeindikatoren sowie die Entwicklung gezielter Politiken zur Minderung dieser Risiken.

Die NTIA definiert offene Modelle mit Gewichten als grundlegende Modelle, deren Gewichte oder Parameter öffentlich zugänglich sind und heruntergeladen werden können. Diese unterscheiden sich von Open-Source-Modellen, die unter einer offenen Lizenz betrieben werden und eine Replikation ermöglichen, entgegen einiger Aussagen von Entwicklern von KI-Modellen.

„Die Berücksichtigung marginaler Risiken hilft, unnötig strenge Einschränkungen für dual-use Grundmodelle mit allgemein verfügbaren Gewichten zu vermeiden, insbesondere wenn man Nutzen und Risiken ähnlicher Systeme abwägt“, erklärte die NTIA.

Darüber hinaus erkannte die Behörde an, dass sowohl offene als auch geschlossene Modelle Risiken bergen, die gemanagt werden müssen. Offene Modelle könnten jedoch einzigartige Chancen und Herausforderungen bei der Risikominderung bieten.

Der Fokus der Biden-Administration auf offene Modelle deutet auf einen regulatorischen Ansatz hin, der dem KI-Gesetz der Europäischen Union ähnelt, das im März vom EU-Parlament angenommen wurde. Die EU-Gesetzgebung regelt KI basierend auf den Risiken, die mit Anwendungsfällen verbunden sind, nicht auf den Modellen selbst. Zum Beispiel wurden erhebliche Strafen für Unternehmen festgelegt, die KI zur Gesichtserkennung verwenden. Angesichts des EU-Ansatzes ist es wahrscheinlich, dass die USA ähnliche Maßnahmen in Erwägung ziehen, um die potenziellen Gefahren öffentlicher KI-Modelle zu adressieren.

Kevin Bankston, leitender Berater für KI-Governance beim Center for Democracy and Technology, lobte die NTIA für ihren umsichtigem Ansatz zur Regulierung von KI-Modellen. In einer E-Mail erklärte er: „Die NTIA kam zu dem richtigen Schluss, dass es nicht genügend Beweise für neuartige Risiken durch offene Grundmodelle gibt, um neue Einschränkungen für deren Verbreitung zu rechtfertigen.“

Für den Moment müssen sich Entwickler von KI-Modellen nicht übermäßig Sorgen machen, da die NTIA weiterhin eine umfassende Faktenerhebung durchführt.

Assaf Melochna, Mitgründer des KI-Unternehmens Aquant, stellte in einer E-Mail fest, dass die aktuellen Beobachtungen der NTIA die Landschaft für Entwickler von Modellen nicht wesentlich verändern. „Entwickler können weiterhin nach eigenem Ermessen ihre Modellsweights veröffentlichen, werden jedoch verstärkter Kontrolle ausgesetzt“, erklärte Melochna. „Der Sektor entwickelt sich schnell, was erfordert, dass staatliche Stellen sich basierend auf neuen Erkenntnissen anpassen.“