Das National Institute of Standards and Technology (NIST) sieht sich einer erheblichen internen Krise gegenüber: Mitarbeiter und Wissenschaftler drohen mit Rücktritt angesichts der erwarteten Ernennung von Paul Christiano zu einer Schlüsselposition am neu gegründeten US AI Safety Institute (AISI). Zwei anonyme Quellen berichten, dass der Einstellungsprozess für Christiano, der für seine Verbindungen zur Effektiven Altruismusbewegung (EA) bekannt ist, ohne vorherige Information des Personals beschleunigt wurde.
NIST gehört zum US-Handelsministerium und setzt sich dafür ein, Innovation und industrielle Wettbewerbsfähigkeit durch fortschrittliche Messwissenschaft und Technologie zu fördern. Die Behörde entwickelt auch Standards und Rahmenwerke für Cybersicherheit, darunter ein im Januar 2023 veröffentlichtes Rahmenwerk für KI-Sicherheit.
Die mögliche Ernennung von Christiano, die Berichten zufolge von Handelsministerin Gina Raimondo beeinflusst wurde, hat unter NIST-Mitarbeitern beträchtlichen Widerstand ausgelöst. Es gibt Bedenken, dass seine Verbindungen zu EA und Longtermismus die Objektivität und Integrität des Instituts beeinträchtigen könnten.
Divyansh Kaushik, stellvertretender Direktor für aufkommende Technologien und nationale Sicherheit bei der Federation of American Scientists, betonte, dass Christiano für spezifische Aufgaben, die im KI-Erlass von Präsident Biden vom November 2023 umrissen sind, hochqualifiziert ist. Dieser Erlass fordert NIST und AISI auf, sich auf Bereiche wie chemische, biologische, radiologische und nukleare (CBRN) Sicherheit zu konzentrieren.
Kritiker argumentieren, dass EA, beschrieben vom Center for Effective Altruism als Bewegung, die Beweise nutzt, um altruistische Bemühungen zu maximieren, sich zu einer Fraktion mit überproportionalem Einfluss entwickelt hat, insbesondere im Bereich der KI-Sicherheit. Gegner behaupten, dass dieser Fokus auf existenzielle Risiken drängende, messbare Probleme wie Voreingenommenheit und Fehlinformationen in aktuellen KI-Anwendungen überschatten kann.
Das AISI wurde im November 2023 gegründet, um die im KI-Erlass des Handelsministeriums beschriebenen Verantwortlichkeiten zu erfüllen. Der Mehrheitsführer des US-Senats, Chuck Schumer, kündigte kürzlich eine Finanzierung von bis zu 10 Millionen US-Dollar für das AISI an und hob dessen Bedeutung hervor. Allerdings kritisieren aktuelle Berichte NIST wegen mangelnder Transparenz hinsichtlich der Eignung und des Wettbewerbsprozesses für Forschungsstipendien, die mit dem Institut verbunden sind. Zudem gibt es Bedenken gegenüber einer potenziellen Förderung der RAND Corporation, die mit einflussreichen Persönlichkeiten der Technologiebranche und des effektiven Altruismus verbunden ist.
Kaushik stellte fest, dass es unabhängig von der Ernennung entscheidend ist, dass NIST seiner Mission verpflichtet bleibt. Er sagte: „Wir navigieren in unbekanntem Terrain, wenn es darum geht, hypothetische Risiken durch allgemein einsetzbare Modelle zu bewerten.“ Er forderte die Führung des Handelsministeriums auf, wissenschaftliche Integrität bei ihren Ernennungen zu priorisieren.
Kaushik warnte, dass der Verlust von „Sternwissenschaftlern“ durch solche Ernennungen schädlich wäre. Er hofft, dass die Kongresskomitees, die die Arbeit des AISI überwachen, sicherstellen können, dass das Institut seine Stärken effektiv nutzt, ohne seine Kernmission zu gefährden. In einem aktuellen Post auf X äußerte er Optimismus über die Notwendigkeit zeitnaher Ernennungen und betonte, dass proaktive Einstellungen im Hinblick auf die Fristen des Erlasses positiv gesehen werden sollten.
Anfragen von Medien wurden an Handelsministerin Gina Raimondo, AISI-Direktorin Elizabeth Kelly und Paul Christiano gerichtet, und Aktualisierungen werden bereitgestellt, sobald Antworten eingehen.
Rangliste
