Metas Bilderzeuger hat Schwierigkeiten, mehrfarbige Paare und Freundschaften darzustellen.

Metas Bildgenerator hat Schwierigkeiten, interkulturelle Ehen genau darzustellen. In einem Bericht von Mia Sato für The Verge scheiterten ihre Versuche, ein Bild eines gemischtrassigen Paares – konkret eines ostasiatischen Mannes mit einer kaukasischen Frau – zu erstellen, wiederholt. Trotz “Dutzenden Versuchen” mit Eingaben wie “asiatischer Mann und weiße Frau” sowie “asiatischer Mann und kaukasische Frau am Hochzeitstag” erzeugte die KI konsequent Bilder von zwei asiatischen Personen. Nur einmal gelang es, ein einigermaßen genaues Bild zu generieren, das jedoch einen deutlich älteren Mann neben einer jungen, hellhäutigen Asiatin zeigte.

Dieses Problem steht im krassen Gegensatz zu einer kürzlichen Kontroverse um Google Gemini, dessen Chatbot kurz nach dem Start wegen historisch ungenauer Darstellungen, wie weiblicher katholischer Päpste und asiatischer Nazi-Soldaten, in der Kritik stand. Nach dem weitreichenden Aufschrei stellte Google die Funktionen zur Personenerstellung von Gemini ein und entschuldigte sich.

Sato bezeichnete ihre Ergebnisse als “gravierend” und betonte, wie generative KI Kreativität einschränken könne, indem sie sie innerhalb gesellschaftlicher Vorurteile “einsperrt.” Trotz Versuchen, Meta um einen Kommentar zu bitten, gab es keine Rückmeldung.

Stereotypen und Hautfarbbias

Satos Untersuchung zeigte, dass kleine Anpassungen an den Eingaben kaum zu besseren Ergebnissen führten – die Verwendung von “weiß” anstelle von “kaukasisch” resultierte in denselben Bildern. Der Generator zögerte zudem, platonische Beziehungen darzustellen. Bei Eingaben wie “asiatischer Mann mit kaukasischem Freund” oder “asiatische Frau mit schwarzem Freund” wurden wiederholt Bilder asiatischer Paare angezeigt.

Darüber hinaus verstärkte der Bot Vorurteile rund um Hautfarben. Die Eingabe “asiatische Frau” ergab überwiegend hellhäutige ostasiatische Gesichter. Interessanterweise fügte der Generator manchmal kulturell spezifische Kleidung ohne Aufforderung hinzu, was offensichtliche Stereotypen zeigte, wie das Tragen eines Bindi oder Sari. Zudem mischte er unverständlich unterschiedliche kulturelle Trachten, wie in einem Hochzeitsbild, das Stile aus Qipao und Kimono vereinte.

Sato bemerkte trocken: “Multikulturalismus ist erstaunlich.” Auch altersbedingte Vorurteile waren erkennbar, da der Bot häufig älteren asiatischen Männern überraschend junge asiatische Frauen zuordnete, ohne die Vielfalt der Eheschließungen innerhalb der asiatischen Gemeinschaft angemessen darzustellen.

Reflektion breiterer gesellschaftlicher Vorurteile

KI-Modelle spiegeln nicht nur die Daten wider, auf denen sie trainiert wurden, sondern auch die Vorurteile ihrer Entwickler. Dies wurde von vielen Nutzern auf Twitter hervorgehoben, die anmerkten, dass gemischtrassige Ehen keine neue Entwicklung sind; in den USA sind sie seit dem wegweisenden Urteil Loving v. Virginia vor über 50 Jahren legal.

Laut aktuellen Statistiken sind 17% der Ehen in den USA interethnisch, wobei 29% der asiatischen Neubeverdeten außerhalb ihrer Rasse heiraten. Ironischerweise ist Metas Gründer, Mark Zuckerberg, ein weißer Mann, der mit einer asiatischen Frau, Priscilla Chan, verheiratet ist.

Sato hebt hervor, dass in den westlichen Medien “asiatisch” oft als ein homogener Begriff behandelt wird, obwohl der Kontinent eine enorme kulturelle Vielfalt aufweist. Mit fast 5 Milliarden Menschen – 60% der Weltbevölkerung – besteht Asien aus einer Vielzahl unterschiedlicher Kulturen.

Sie schlussfolgert: “Vielleicht ist es nicht überraschend, dass Metas System annimmt, alle ‘asiatischen’ Menschen sähen gleich aus, wenn wir tatsächlich eine vielfältige Sammlung von Menschen sind, die oft wenig gemeinsam haben, abgesehen davon, dass wir dasselbe Kästchen im Zensus ankreuzen.”