Biden-Administration startet Konsortium für US-AI-Sicherheit
Nach der Ernennung eines hochrangigen Beraters des Weißen Hauses zum Direktor des neu gegründeten US AI Safety Institute (USAISI) am National Institute of Standards and Technology (NIST) stellte die Biden-Administration das US AI Safety Institute Consortium (AISIC) vor, das als „erstes Konsortium, das der KI-Sicherheit gewidmet ist“, gefeiert wird.
Dieses Bündnis umfasst über 200 Mitgliedsorganisationen, darunter große Tech-Konzerne wie Google, Microsoft und Amazon sowie führende Unternehmen im Bereich großer Sprachmodelle (LLM) wie OpenAI, Cohere und Anthropic. Das Konsortium vereint zudem Forschungslabore, akademische Gruppen, Organisationen der Zivilgesellschaft, staatliche und lokale Regierungen sowie Nonprofits.
Laut einem Blogbeitrag des NIST repräsentiert das AISIC die größte Versammlung von Test- und Evaluierungsteams bisher und zielt darauf ab, grundlegende Messwissenschaften in der KI-Sicherheit zu etablieren. Unter der Schirmherrschaft des USAISI wird das Konsortium wichtige Initiativen unterstützen, die in der Exekutivverordnung von Präsident Biden skizziert sind, einschließlich der Entwicklung von Richtlinien für Red-Teaming, Fähigkeitsbewertungen, Risikomanagement, Sicherheitsprotokolle und die Wasserzeichen von synthetischem Inhalt.
Details zur Gründung
Die Bekanntgabe des Konsortiums erfolgte am 31. Oktober 2023, zeitgleich mit Präsident Bidens Exekutivverordnung zur KI. Auf der NIST-Website wurde bekannt gegeben, dass die Teilnahme für Organisationen offen ist, die Expertise, Produkte, Daten oder Modelle beisteuern können. Ausgewählte Teilnehmer müssen eine jährliche Gebühr von 1.000 US-Dollar zahlen und eine Konsortiums-Kooperations- und Entwicklungsvereinbarung (CRADA) mit NIST abschließen.
Richtlinien für KI-Sicherheit
Die Mitglieder des Konsortiums werden sich auf mehrere zentrale Richtlinien konzentrieren:
1. Entwicklung von Werkzeugen und Best Practices für eine sichere, zuverlässige und sichere KI-Entwicklung und -Bereitstellung.
2. Erstellung von Leitlinien zur Identifizierung und Bewertung potenziell schädlicher KI-Fähigkeiten.
3. Förderung sicherer Entwicklungspraktiken für generative KI und Berücksichtigung von Dual-Use-Modellen unter Wahrung der Privatsphäre.
4. Bereitstellung von Ressourcen zur Schaffung und Aufrechterhaltung von Testumgebungen.
5. Entwicklung von Praktiken für effektives Red-Teaming und privatheitserhaltende Techniken des maschinellen Lernens.
6. Design von Werkzeugen zur Authentifizierung digitaler Inhalte.
7. Definition von Kriterien für notwendige Fähigkeiten im KI-Arbeitskräfte, einschließlich Risikobewertung, Management, Test und Validierung.
8. Erforschung der Wechselwirkungen zwischen Gesellschaft und Technologie, insbesondere wie Menschen in unterschiedlichen Kontexten mit KI interagieren.
9. Bereitstellung von Leitlinien zum Management von Abhängigkeiten zwischen KI-Entitäten während ihres Lebenszyklus.
Finanzierungsunsicherheiten
Trotz dieser Ankündigung bleiben Fragen zur Finanzierung des USAISI offen. Berichte zeigen, dass seit der ersten Ankündigung des Weißen Hauses im November wenig Details zum operativen Rahmen oder den Finanzierungsquellen geteilt wurden, insbesondere angesichts des jährlichen Budgets von über 1,6 Milliarden US-Dollar des NIST und dessen bekannten Ressourcenschwierigkeiten.
Im Januar bat eine parteiübergreifende Gruppe von Senatoren die Senate Appropriations Committee um 10 Millionen US-Dollar zur Unterstützung der Gründung des USAISI, der Status dieses Finanzierungsantrags bleibt jedoch unklar. Zudem äußerten Gesetzgeber im House Science Committee Bedenken hinsichtlich der Transparenz des NIST und des Mangels an einem wettbewerbsorientierten Verfahren zur Vergabe von Forschungsfonds für das neue Institut.
In Bezug auf die Herausforderungen bei der Finanzierung hob Rumman Chowdhury, eine führende Persönlichkeit in der KI-Ethiszene, die zuvor für Accenture und Twitter tätig war, hervor, dass das USAISI auf einem nicht finanzierten Mandat durch eine Exekutivverordnung operiert. Sie äußerte Verständnis für die politischen Komplexitäten, die legislative Maßnahmen behindern, und wies gleichzeitig auf den erheblichen Mangel an Mitteln für die Initiative hin.
Rangliste
