Schumer präsentiert 10 Millionen Dollar Fördermittel für das NIST AI Safety Institute trotz anhaltender finanzieller Herausforderungen.

Chuck Schumer, der Mehrheitsführer des US-Senats (D-NY), gab heute bekannt, dass das National Institute of Standards and Technology (NIST) bis zu 10 Millionen Dollar erhalten wird, um das U.S. Artificial Intelligence Safety Institute (USAISI) zu gründen. Diese Initiative wurde im November 2023 ins Leben gerufen, um die Aufgaben des Handelsministeriums gemäß dem AI-Executive Order zu unterstützen.

Details zu den Abläufen und Finanzen des Instituts waren bislang weitgehend unklar, da NIST mit rund 3.400 Mitarbeitern und einem Jahresbudget von über 1,6 Milliarden Dollar chronisch unterfinanziert ist. Kürzlich berichtete der Washington Post über die maroden Einrichtungen von NIST, die unter Problemen wie einem undichten Dach und Schimmelbefall leiden.

Schumer betonte die Bedeutung der Finanzierung von KI, die er als „starke Vorauszahlung“ für die Umsetzung des Executive Orders zur KI der Biden-Administration bezeichnete. Er erklärte: „Als Mehrheitsführer habe ich betont, dass unsere Regierung intelligente Leitplanken schaffen muss, um sicherzustellen, dass die USA ein führender Innovator bleiben, während wir auch potenzielle Risiken im Zusammenhang mit künstlicher Intelligenz angehen. Ich habe mich für diese Mittel eingesetzt, um Innovation, Sicherheit, Verantwortlichkeit und Transparenz zu priorisieren und die amerikanische Industrie sowie den Fortschritt zu unterstützen.“

Das NIST AI Institute wird sich auf die Entwicklung von Sicherheits-, Sicherheits- und Teststandards für KI-Modelle, die Authentifizierung von KI-generierten Inhalten und die Schaffung von Testumgebungen für Forscher konzentrieren, um aufkommende KI-Risiken zu bewerten. Das Institut wird mit einem Konsortium von 200 Unternehmen und Organisationen zusammenarbeiten, die sich der Verbesserung der Sicherheit und Verantwortung von KI-Systemen widmen.

Trotz dieser Fortschritte gab es Kritik an der Finanzierung und Transparenz von NIST. Im Februar äußerten Mitglieder des Wissenschaftsausschusses des Repräsentantenhauses Bedenken bezüglich der fehlenden Transparenz von NIST in einem Schreiben, das das Fehlen eines Wettbewerbsverfahrens für geplante Forschungsstipendien im Zusammenhang mit dem USAISI hervorhob. Diese Bedenken bezogen sich insbesondere auf eine vorgeschlagene KI-Forschungspartnerschaft zwischen NIST und der RAND Corporation, einem renommierten Thinktank mit Verbindungen zu Tech-Milliardären und der KI-Industrie.

Die Gesetzgeber bemerkten: „Der derzeitige Stand der KI-Sicherheitsforschung stellt Herausforderungen für NIST dar, da es eine Führungsrolle übernimmt“ und fügte hinzu, dass die Ergebnisse in diesem Bereich oft an externer Überprüfung mangeln und erhebliche Meinungsverschiedenheiten hinsichtlich Umfang und Definitionen aufweisen.

Rumman Chowdhury, die zuvor KI-Initiativen bei Accenture leitete und im META-Team von Twitter (jetzt X) tätig war, erkannte die Finanzierungsprobleme des USAISI an. Sie bemerkte: „Ein unterdiskutierter Aspekt ist, dass dies ein ungedecktes Mandat durch den Executive Order ist. Angesichts der aktuellen Polarisierung in der US-Politik ist es eine Herausforderung, irgendeinen Gesetzesentwurf durch den Kongress zu bringen, weshalb es über einen Executive Order kam. Das Problem bleibt, dass es dafür keine Finanzierung gibt.“