Heute hat die Biden-Administration Elizabeth Kelly, einen wichtigen Berater des Weißen Hauses, der maßgeblich an dem KI-Erlass des Präsidenten beteiligt war, zur Direktorin des neu gegründeten U.S. AI Safety Institute (USAISI) am National Institute of Standards and Technology (NIST) ernannt. Elham Tabassi wird zudem Chief Technology Officer.
NIST, eine Einrichtung des U.S. Ministeriums für Handel, veröffentlichte im Januar 2023 ein mit Spannung erwartetes Rahmenwerk für das Risikomanagement von KI und wurde mit der Evaluierung und Prüfung von KI-Technologien im Rahmen des KI-Erlass des Weißen Hauses beauftragt. Dazu gehört die Entwicklung von Richtlinien für KI-Red-Teaming-Tests, um die Einführung sicherer, geschützter und vertrauenswürdiger KI-Systeme zu gewährleisten.
Diese Führungswechsel markieren die erste bedeutende Ankündigung zum USAISI seit dessen Gründung im November 2023 zur Unterstützung der im KI-Erlass festgelegten Aufgaben. Dennoch sind Informationen über die Abläufe und die Finanzierung des Instituts nach wie vor rar, insbesondere da NIST, das etwa 3.400 Mitarbeiter und ein Jahresbudget von etwas über 1,6 Milliarden Dollar hat, mit Finanzierungsproblemen konfrontiert ist.
Eine parteiübergreifende Gruppe von Senatoren hat im Haushaltsgesetz für das Haushaltsjahr 2024 10 Millionen Dollar beantragt, um das USAISI innerhalb von NIST einzurichten, wobei der Status dieses Antrags unklar bleibt. Außerdem kritisierten im Dezember Mitglieder des House Science Committee NIST wegen mangelnder Transparenz und der versäumten Bekanntgabe eines Wettbewerbsverfahrens für geplante KI-Forschungsstipendien im Zusammenhang mit dem USAISI. Die Gesetzgeber äußerten Bedenken hinsichtlich einer vorgeschlagenen KI-Forschungspartnerschaft zwischen NIST und der RAND Corporation, einem Think Tank mit Verbindungen zur Technologiebranche und der kontroversen Bewegung des „effektiven Altruismus“.
In ihrem Schreiben führten die Gesetzgeber Herausforderungen im Bereich der KI-Sicherheitsforschung an und erklärten, dass „die Ergebnisse innerhalb der Community oft selbstreferenziell seien und die Qualität, die aus externen Kritiken resultiert, fehle.“ Sie hoben erhebliche Meinungsverschiedenheiten über den Umfang und die Definitionen in der KI-Sicherheitsforschung hervor.
Rumman Chowdhury, frühere Leiterin der KI-Initiativen bei Accenture und dem META-Team von Twitter, kommentierte die Ernennungen im USAISI und wies darauf hin, dass trotz der hohen Erwartungen an NIST und das USAISI das Tempo der Kommunikation angesichts des umfangreichen Prüfprozesses typisch sei. Chowdhury betonte, dass sie Vertrauen in die Unparteilichkeit von NIST habe und sagte: „Sie machen diese Art von Arbeit schon lange ... Sie sind nicht ernannt, daher geschieht dies nicht nach dem Ermessen derer, die an der Macht sind.“
Dennoch betonte sie, dass die Finanzierung ein kritisches Problem für das USAISI bleibt. „Dies ist ein nicht finanzierter Auftrag durch den Erlass“, erklärte Chowdhury und wies auf die Herausforderungen hin, in einem polarisierten politischen Umfeld gesetzliche Mittel zu sichern. Während das Vereinigte Königreich 100 Millionen Dollar für die KI-Sicherheit bereitgestellt hat, bleibt die Finanzierung in den USA ungewiss.
Hinsichtlich des jüngsten Finanzierungsantrags des Senats erwähnte sie, dass sie darüber informiert sei, jedoch keine Hinweise darauf gesehen habe, dass die Finanzierung erhalten wurde. Chowdhury hob auch das AI Safety Institute Consortium hervor, das Organisationen einlädt, ihre Expertise in den Bereichen KI-Governance, Sicherheit und verantwortungsvolle KI einzubringen. Die Mitgliedsbeiträge für das Konsortium belaufen sich auf 1.000 Dollar pro Jahr, obgleich sie nicht über NISTs Pläne in Bezug auf Forschungsstipendien informiert war.
Die Forderungen nach Finanzierung halten an, wobei Anthropic bereits im April 2023 15 Millionen Dollar zur Unterstützung von NISTs Initiativen zur KI-Messung und -Standards forderte. Dies wurde als einfache Lösung für politische Entscheidungsträger angesehen, die die Führungsposition der USA bei der Entwicklung kritischer Technologien aufrechterhalten wollen.
Trotz dieser Herausforderungen bleibt Chowdhury optimistisch hinsichtlich der Zukunft des USAISI innerhalb von NIST. „Ich denke, Elham ist eine der besonnensten Personen, die ich kenne ... Wir brauchen jemanden, der sich darauf konzentriert, die Arbeit zu erledigen“, sagte sie. Sie merkte außerdem an, dass die Positionierung des USAISI innerhalb von NIST eine positive Botschaft darüber sende, wissenschaftliche Integrität über politischen Einfluss zu priorisieren.
Rangliste
