Bericht des Außenministeriums skizziert Aktionsplan zur Minderung katastrophaler KI-Risiken

Ein Bericht des US-Außenministeriums hebt wichtige Strategien hervor, um die Risiken fortschrittlicher Künstlicher Intelligenz (KI) zu mindern, insbesondere im Hinblick auf potenzielle Waffenisierung und Kontrolleverlust. Der Bericht mit dem Titel „Defense in Depth: An Action Plan to Increase the Safety and Security of Advanced AI“ wurde von Gladstone AI, einem sicherheitsorientierten KI-Unternehmen, das von den Brüdern Jeremie und Edouard Harris gegründet wurde, erstellt.

Beginnend im Oktober 2022 – vor der Einführung von ChatGPT – integrierte der Aktionsplan Beiträge von über 200 Stakeholdern, darunter KI-Forscher, Cybersicherheitsexperten und nationale Sicherheitsbeamte aus mehreren Ländern.

Trotz der erheblichen Vorteile fortschrittlicher KI weist der Bericht auf neue, katastrophale Risiken hin, die mit Massenvernichtungswaffen vergleichbar sind. Es wird argumentiert, dass die rasante Entwicklung und Verbreitung von KI-Technologien sofortige staatliche Maßnahmen zur Bekämpfung dieser nationalen Sicherheitsbedenken erforderlich macht.

Der Aktionsplan skizziert die beiden Hauptgefahren: Waffenisierung und Kontrolleverlust. Die Waffenisierung könnte dazu führen, dass KI-Systeme autonom Schwachstellen ausnutzen, Desinformationskampagnen organisieren oder Biowaffen entwickeln. Aktuell kann keine KI solche Angriffe vollständig ausführen, aber zukünftige Entwicklungen stellen eine erhebliche Bedrohung dar. Der Bericht stellt fest: „Die Verbreitung solcher Modelle könnte extrem gefährlich sein, ohne wirksame Maßnahmen zur Überwachung und Kontrolle ihrer Ausgaben.“

Der Kontrolleverlust tritt auf, wenn fortschrittliche KI dem Niveau der allgemeinen künstlichen Intelligenz (AGI) nahekommt. Unkontrollierte KI-Systeme könnten Macht anstreben, indem sie beispielsweise Herunterfahren ablehnen oder menschliche Betreiber manipulieren. Die Diskrepanz zwischen den Zielen der KI und den Absichten der Menschen verstärkt diese Risiken, die weiterhin im Fokus der Forschung führender KI-Labore stehen.

Um diesen Herausforderungen zu begegnen, präsentiert der Bericht mehrere politische Vorschläge, die in "Linien der Anstrengung" (LOE) kategorisiert sind, mit dem Ziel, die nationale Sicherheit zu verbessern und gleichzeitig die vorteilhafte Nutzung von KI zu ermöglichen.

1. Stabilisierung aktueller Risiken: Einrichtung eines „KI-Observatoriums“ zur Bedrohungsbewertung und Informationsweitergabe, Implementierung von Sicherheitsvorkehrungen für US-KI-Entwickler und Nutzung von Kontrollmechanismen in der Lieferkette, um die sichere Einführung von KI-Technologien weltweit zu gewährleisten.

2. Vorbereitung auf KI-Vorfälle: Einrichten interministerieller Arbeitsgruppen und Schulungsprogramme zur Stärkung der Regierungsbereitschaft und zum Aufbau eines Rahmens für Frühwarnsysteme im Hinblick auf fortschrittliche KI-Vorfälle.

3. Unterstützung der KI-Sicherheitsforschung: Finanzierung von Alignierungsforschung, um sicherzustellen, dass Entwickler den Schwerpunkt auf Systemsicherheit legen, während sie um fortschrittliche KI-Fähigkeiten konkurrieren.

4. Langfristiger regulativer Rahmen: Schaffung einer speziellen Aufsichtsbehörde für KI und eines rechtlichen Haftungsrahmens, der das Risiko mindert und gleichzeitig Innovationen, insbesondere bei kleineren Unternehmen, fördert.

5. Diplomatische Maßnahmen: Sofortige und langfristige Maßnahmen zur Schaffung eines internationalen Sicherheitsregimes für KI und zur Sicherung der globalen KI-Lieferkette.

Die Autoren des Berichts betonen die Bedeutung flexibler Rahmenbedingungen, die sich an die sich schnell entwickelnde Landschaft der KI-Technologie anpassen können. Sie erkennen die Herausforderung an, die Vorteile offener Zugangsmodelle gegen das Potenzial für Missbrauch abzuwägen, da leistungsstarke Modelle leicht für schädliche Zwecke angepasst werden können.

Jeremie und Ed Harris begannen bereits in den Frühphasen von Modellen wie GPT-2, diese Risiken zu erkennen, und wurden durch die Skalierung in GPT-3 besonders alarmiert. Ihre wachsenden Bedenken führten dazu, dass sie ihre KI-Startups verließen, um sich auf die Sicherheit von KI zu konzentrieren, einschließlich Schulungsprogrammen für nationale Sicherheitsbeamte über generative KI und die damit verbundenen Risiken.

Seit der Gründung von Gladstone AI haben sie sich bemüht, die Lücke zwischen Technologie und Politik zu schließen und den Bedarf an unabhängigem, informierten Risikomanagement zu erkennen, frei von Vorurteilen, die in größeren Technologieorganisationen bestehen.

Da sich die Sichtweise der politischen Entscheidungsträger auf KI-Risiken, insbesondere nach ChatGPT, weiterentwickelt, betonen die Brüder Harris die Notwendigkeit realistischer regulatorischer Vorschläge. Ihre laufenden Bemühungen zielen darauf ab, Empfehlungen für das Handeln des Kongresses und der Exekutive zu verfeinern, während sie mit wichtigen Stakeholdern zusammenarbeiten, um die komplexen Herausforderungen fortschrittlicher KI-Technologien zu bewältigen.