Eine aktuelle Umfrage von PwC, an der 1.001 in den USA tätige Führungskräfte aus den Bereichen Wirtschaft und Technologie teilnahmen, zeigt, dass 73 % der Befragten derzeit generative KI nutzen oder planen, diese in ihren Organisationen zu implementieren. Trotz dieses wachsenden Interesses haben jedoch nur 58 % begonnen, die mit KI verbundenen Risiken zu bewerten. PwC betont, dass verantwortungsvolle KI auf Werte, Sicherheit und Vertrauen fokussiert sein sollte und diese Elemente in die Risikomanagementprozesse eines Unternehmens integriert werden müssen.
Jenn Kosar, US-Leiterin für KI-Qualitätssicherung bei PwC, hob hervor, dass es früher akzeptabel war, KI-Projekte ohne umfassende Strategien für verantwortungsvolle KI zu starten, diese Zeit jedoch vorbei ist. „Wir sind jetzt weiter im Zyklus, daher ist die Zeit, auf verantwortungsvolle KI zu setzen, jetzt“, erklärte Kosar. Sie merkte an, dass frühere KI-Projekte meist auf kleine Teams beschränkt waren, aber jetzt die breite Akzeptanz von generativer KI zu beobachten ist. Pilotprojekte für generative KI spielen eine entscheidende Rolle, um Strategien für verantwortungsvolle KI zu gestalten, da sie Einblicke in die effektive Teamintegration und Nutzung von KI-Systemen bieten.
Wachsende Bedenken
Die Bedeutung von verantwortungsvoller KI und Risikobewertung hat durch den Einsatz des xAI Grok-2 Modells von Elon Musk auf der sozialen Plattform X (ehemals Twitter) erheblich an Aufmerksamkeit gewonnen. Erste Rückmeldungen zeigen, dass dieser Bildgenerierungsdienst nicht ausreichende Einschränkungen aufweist, was die Erstellung von umstrittenen und irreführenden Inhalten, einschließlich Deepfakes öffentlicher Personen in sensiblen Szenarien, ermöglicht.
Wichtige Prioritäten für verantwortungsvolle KI
In der Umfrage wurden die Teilnehmenden gebeten, 11 von PwC identifizierte Fähigkeiten zu priorisieren, darunter:
- Weiterbildung
- Einbindung von KI-Risiko-Spezialisten
- Regelmäßige Schulungen
- Datenschutz
- Datenverwaltung
- Cybersicherheit
- Modelltests
- Modellmanagement
- Risikomanagement bei Drittanbietern
- Spezialisierte Software für das KI-Risikomanagement
- Überwachung und Prüfung
Über 80 % der Teilnehmer berichteten über Fortschritte in diesen Bereichen, jedoch gaben nur 11 % an, alle 11 Fähigkeiten vollständig implementiert zu haben. PwC warnte, dass viele Organisationen ihre Fortschritte möglicherweise überbewerten, da die Komplexität des Managements verantwortungsvoller KI eine vollständige Implementierung erschweren kann. Effektive Datenverwaltung ist beispielsweise entscheidend, um den Zugang von KI-Modellen zu internen Daten zu definieren und Schutzmaßnahmen zu etablieren. Außerdem sind traditionelle Ansätze der Cybersicherheit möglicherweise nicht genügend, um vor anspruchsvollen Angriffen wie Modellenvergiftung zu schützen.
Verantwortlichkeit in verantwortungsvoller KI
Um Unternehmen bei der Umsetzung ihrer KI-Transformation zu unterstützen, rät PwC, eine umfassende Strategie für verantwortungsvolle KI zu priorisieren. Eine zentrale Empfehlung besteht darin, klare Verantwortlichkeiten für die Praktiken verantwortungsvoller KI zu schaffen, idealerweise unter einer einzigen Führungskraft. Kosar betonte die Bedeutung, die Sicherheit von KI als organisatorische Priorität zu betrachten und die Ernennung eines Chief AI Officers oder eines speziellen Verantwortlichen für KI zu erwägen, der mit verschiedenen Interessengruppen zusammenarbeitet. „Vielleicht wird KI der Katalysator sein, der technologische und operationale Risiken vereinigt“, bemerkte Kosar.
PwC empfiehlt außerdem, dass Organisationen den gesamten Lebenszyklus von KI-Systemen in Betracht ziehen. Dies umfasst die Umsetzung von Sicherheits- und Vertrauensrichtlinien im gesamten Unternehmen über theoretische Überlegungen hinaus. Die Vorbereitung auf zukünftige Vorschriften erfordert ein Engagement für verantwortungsvolle KI-Praktiken, verbunden mit Transparenzplänen für Stakeholder. Kosar äußerte sich überrascht über die Umfrageergebnisse, die zeigen, dass viele Führungskräfte verantwortungsvolle KI als kommerziellen Vorteil betrachten. „Verantwortungsvolle KI geht nicht nur um Risikomanagement; sie sollte auch Wert schaffen. Organisationen sehen darin einen Wettbewerbsvorteil, der auf Vertrauen basiert“, schloss sie.
Rangliste
