Google-CEO spricht über die Kontroversen zur Gemini-Bilderzeugung: Nannte die Probleme „unacceptable“ und verpflichtet sich zur Lösung.

Kürzlich äußerte sich Google-CEO Sundar Pichai öffentlich zu Bedenken hinsichtlich des KI-gestützten Bildgenerierungstools Gemini. Das Tool wurde dafür kritisiert, dass es in seinen historischen Bildausgaben oft Menschen anderer Hautfarbe inkorrekt darstellt, etwa indem es sie fälschlicherweise als Wikinger oder indigene katholische Päpste abbildet. Pichai bezeichnete diese Situation als „inakzeptabel“ und versprach, dass das Unternehmen „unermüdlich“ daran arbeiten werde, diese Probleme zu lösen.

In einer Nachricht an die Mitarbeitenden betonte Pichai: „Keine künstliche Intelligenz ist perfekt, besonders in dieser aufstrebenden Branche. Wir erkennen jedoch die Notwendigkeit, hohe Standards zu erfüllen, und werden uns so lange engagieren, wie es nötig ist. Wir werden gründlich prüfen, was geschehen ist, um sicherzustellen, dass wir diese Probleme umfassend angehen.“

Er kündigte auch an, dass die Bildgenerierungsfunktionen von Google Gemini pausiert werden, bis die Probleme vollständig behoben sind, obwohl der Gemini-Chatbot (ehemals Bard) bei verschiedenen Eingaben erhebliche Fortschritte gemacht hat.

Prabhakar Raghavan, Googles Senior Vice President für Wissen und Information, erläuterte die Ursachen des Problems. Er stellte klar, dass nicht das Modell selbst das Problem sei, sondern eine Reihe von Fehlern während des Abstimmungsprozesses. Obwohl das Modell darauf abzielte, vielfältige Bevölkerungsgruppen in den Trainingsdaten zu berücksichtigen, „versäumte es, Situationen zu berücksichtigen, die nicht dargestellt werden sollten.“ Zudem wurde das Modell zunehmend vorsichtiger und weigerte sich manchmal, auf bestimmte Eingaben zu reagieren, um sensible oder absurde Fehler zu vermeiden.

Um ähnliche Probleme in Zukunft zu verhindern, hat Google sich zu umfassenden Korrekturen und Tests verpflichtet. Dazu gehören strukturelle Anpassungen, aktualisierte Produktleitlinien, verbesserte Veröffentlichungsprozesse, optimierte Bewertungsmechanismen sowie die Implementierung von „Red Teaming“ und technischen Empfehlungen. Pichai bleibt optimistisch hinsichtlich der Zukunft von Gemini und erwartet, dass der Bildgenerator bald wieder online sein wird.

Dieser Vorfall erinnert an die Herausforderungen, die bei der Entwicklung von KI-Technologien bestehen. Obwohl bereits erhebliche Fortschritte erzielt wurden, muss die Branche weiterhin nach Verbesserungen streben. Als führendes Unternehmen in diesem Sektor werden die Reaktionen von Google weitreichende Auswirkungen auf das gesamte Feld haben.