Der britische Premierminister Rishi Sunak betonte die Notwendigkeit eines ausgewogenen Blicks auf Künstliche Intelligenz (KI), während er sich auf den bevorstehenden AI Safety Summit am 1. und 2. November vorbereitet. An der Royal Society, der führenden wissenschaftlichen Institution des Landes, räumte er die erheblichen Risiken der KI ein, insbesondere das Potenzial für Missbrauch durch böswillige Akteure. Gleichzeitig warnte er vor einer übermäßig alarmistischen Haltung.
„Derzeit sind die Unternehmen, die KI entwickeln, auch die, die für die Prüfung ihrer Sicherheit verantwortlich sind, und selbst sie haben oft kein vollständiges Verständnis der zukünftigen Fähigkeiten ihrer Modelle“, bemerkte Sunak. „Es gibt überzeugende Anreize, durch die schnelle Schaffung fortschrittlicher Modelle zu konkurrieren, was uns fragt, ob wir darauf vertrauen sollten, dass sie ihre eigenen Ergebnisse bewerten.“
Sunak lehnte hastige regulatorische Maßnahmen ab, die Innovationen behindern könnten, und erklärte: „Wie können wir Gesetze für etwas schaffen, das wir nicht vollständig verstehen? Stattdessen fördern wir in der Regierung weltweit führende Fähigkeiten, um die Sicherheit von KI-Modellen zu verstehen und zu bewerten.“ Der Ansatz der britischen Regierung zur KI-Gesetzgebung ist im Vergleich zur Europäischen Union bemerkenswert weniger streng; er wird in einem Weißbuch umrissen und delegiert die Regelsetzung an Regulierungsbehörden in bestimmten Bereichen.
Im Juni, während der AI Summit London-Konferenz, deutete der KI-Minister des Landes an, dass kommende Vorschriften technische Standards und Sicherstellungstechniken ergänzen würden, was auf mögliche Verbesserungen in der Aufsicht hindeutet.
Ein kollaborativer Ansatz zur KI-Sicherheit
Sunak äußerte die Absicht, gemeinsam mit anderen Nationen an der KI-Sicherheit zu arbeiten, anstatt eine konfrontative Haltung einzunehmen. Dieser kooperative Geist wird durch die Einladung an China zum Gipfel unterstrichen, trotz bestehender Spannungen mit den USA. Er betonte die Bedeutung, vielfältige Perspektiven einzubeziehen, und sagte: „Eine ernsthafte Strategie für KI muss Dialoge mit allen führenden KI-Mächten der Welt umfassen.“
China hat strenge Vorschriften für seine KI-Unternehmen implementiert, die eine Sicherheitsprüfung durch die nationale Datenschutzbehörde erfordern, bevor neue generative KI-Modelle der Öffentlichkeit zugänglich gemacht werden. Dennoch hat die chinesische Regierung ihre Bereitschaft signalisiert, an internationalen Diskussionen über die Aufsicht von KI teilzunehmen, obwohl Präsident Xi Jinping einen Fokus auf die nationale Sicherheit betonte.
Vizepremier Oliver Dowden bestätigte, dass China die Einladung zum Gipfel angenommen hat, wies jedoch darauf hin, dass es notwendig sei, auf die Bestätigung aller potenziellen Teilnehmer zu warten.
Sunak strebt an, dass der Gipfel ein gemeinsames Verständnis der KI-Risiken fördert und einen Konsens über die erste internationale Erklärung zu diesen Herausforderungen sucht. Er sieht die Einrichtung eines „wirklich globalen Expertengremiums“ zu KI vor, das aus Nominierungen der teilnehmenden Länder und Organisationen besteht und einen umfassenden Bericht über den „Stand der KI-Wissenschaft“ veröffentlicht.
„Unser Erfolg hängt von der Zusammenarbeit mit KI-Unternehmen ab. Während die Technologie voranschreitet, müssen wir sicherstellen, dass unser gemeinsames Verständnis der Risiken sich ebenfalls anpasst“, sagte er. Diese Initiative steht im Einklang mit Forderungen prominenter Persönlichkeiten, darunter U.N.-Generalsekretär António Guterres, einen globalen Regulierungsrahmen zur Überwachung der KI-Sicherheit zu schaffen, ähnlich der Internationalen Atomenergiebehörde (IAEA).
Perspektiven und Bedenken der Branche
Während Sunak die Vision des Vereinigten Königreichs als führende KI-Supermacht vorantreibt, hat die Regierung 120 Millionen Dollar für eine Gruppe bereitgestellt, die zu KI-Angelegenheiten berät, darunter der Turing-Preisträger Yoshua Bengio. Der Gipfel wird prominente Branchenführer wie OpenAI-CEO Sam Altman und Google DeepMind-CEO Demis Hassabis sowie hochrangige Politiker wie die US-Vizepräsidentin Kamala Harris beheimaten.
Maya Dillon, Leiterin für KI bei Cambridge Consultants, betonte die Notwendigkeit zur Zusammenarbeit inmitten der KI-Revolution: „Die Herausforderung besteht nicht nur darin, KI zu umarmen, sondern ihren Kurs durchdacht zu lenken. Diese Revolution sollte unternehmerischen Erfolg mit gesellschaftlichem Wohlergehen verknüpfen und erfordert echte Zusammenarbeit.“
Paul Henninger, Leiter der Abteilung für vernetzte Technologien bei KPMG U.K., stellte fest, dass der Gipfel zwar strategische Ansätze zur gemeinsamen Risikobewertung anstoßen könnte, Organisationen jedoch auch regelmäßige Aktualisierungen erwarten werden, während sich die Technologie weiterentwickelt.
Trotz der ambitionierten Ziele für den Gipfel betrachtete Chris Royles, EMEA Field CTO bei Cloudera, die Suche nach umfassenden Vorschriften als hochgestecktes Ziel. Er schlug vor, dass Unternehmen sich darauf konzentrieren sollten, ihre KI-Modelle mit vertrauenswürdigen Datenquellen zu trainieren. Ähnlich plädierte Fabien Rech, Geschäftsführer von Trellix, dafür, die Sicherheitsmaßnahmen in der KI-Entwicklung zu priorisieren, um das Vertrauen zu stärken und vor Cyberbedrohungen zu schützen.
Hervorhebung der KI-Risiken
Vor Suns Ansprache veröffentlichte die britische Regierung ein Dokument, das potenzielle KI-Risiken umreißt, darunter:
- Gesellschaftliche Schäden: Die Generierung von Fehlinformationen und Deepfakes, Arbeitsplatzverluste durch Automatisierung und algorithmische Voreingenommenheiten, die zu unfairen Ergebnissen führen können.
- Missbrauchsrisiken: Das Potenzial von KI-Technologien, die Erstellung von Waffen zu erleichtern oder die Effektivität von Cyberangriffen und Desinformationskampagnen zu steigern.
- Kontrollverlust-Risiken: Bedenken, dass Menschen Entscheidungsbefugnisse an nicht ausgerichtete KI-Systeme abgeben und fortgeschrittene Agenten versuchen, ihren Einfluss zu vergrößern.
Der Bericht skizzierte auch weit verbreitete Herausforderungen, die diese Risiken verstärken könnten, wie die Komplexität, sichere KI-Systeme zu gestalten, ihre Sicherheit zu bewerten und Verantwortung bei deren Einsatz sicherzustellen.
In Reaktion auf den Bericht lobte Sjuul van der Leeuw, CEO von Deployteq, den ernsthaften Ansatz der britischen Regierung zur KI-Sicherheit und erkannte die erheblichen Chancen an, die KI in verschiedenen Branchen bietet – vorausgesetzt, es gibt wirksame Vorschriften und Anleitungen vonseiten der Entscheidungsträger.
Rangliste
