Bumble fordert Nutzer auf, KI-generierte Bilder zur Sicherheit und Authentizität zu melden.

Bumble verbessert seine Plattform, um es Nutzern einfacher zu machen, KI-generierte Profile zu melden. In dem Menü zur Meldung gefälschter Profile wurde die Option "Verwendung von KI-generierten Fotos oder Videos" hinzugefügt.

„Das Entfernen irreführender oder gefährlicher Elemente ist entscheidend, um bedeutungsvolle Verbindungen zu fördern“, sagte Risa Stein, Vice President of Product bei Bumble. „Wir setzen uns dafür ein, unsere Technologie weiterzuentwickeln, um sicherzustellen, dass Bumble eine sichere und vertrauenswürdige Dating-Umgebung bleibt. Diese neue Reporting-Funktion hilft uns, zu verstehen, wie böswillige Akteure KI missbrauchen, wodurch unsere Community sicherere Verbindungen knüpfen kann.“

Eine aktuelle Umfrage von Bumble zeigte, dass 71 % der Gen Z- und Millennials-Nutzer Einschränkungen für KI-generierte Inhalte in Dating-Apps wünschen, wobei dieselbe Quote Bilder von Personen in unbekannten Situationen oder Aktivitäten als eine Form des Catfishings sieht.

Gefälschte Profile täuschen nicht nur die Nutzer, sondern können auch zu erheblichen finanziellen Verlusten führen. Im Jahr 2022 meldete die Federal Trade Commission nahezu 70.000 Fälle von Romantikbetrug, die zu Verlusten von 1,3 Milliarden Dollar führten. Um diese Bedrohungen zu bekämpfen, setzen Dating-Apps, einschließlich Bumble, umfassende Sicherheitsmaßnahmen um. Anfang dieses Jahres führte Bumble den Deception Detector ein, ein KI-gestütztes Tool zur Identifizierung gefälschter Profile, und startete eine Funktion, um Nutzer vor unerwünschtem, explizitem Inhalt zu schützen. Unterdessen hat Tinder ein eigenes Profilsystem zur Verifizierung in den USA und Großbritannien eingeführt.