Bumble Incentiva Usuários a Denunciar Imagens Geradas por IA por Segurança e Autenticidade

A Bumble está aprimorando sua plataforma para facilitar o relato de perfis gerados por IA. O aplicativo de encontros e conexões sociais adicionou uma opção chamada "Usando fotos ou vídeos gerados por IA" no menu de denúncia de Perfis Falsos.

"Remover elementos enganosos ou perigosos é essencial para promover conexões significativas", afirmou Risa Stein, Vice-Presidente de Produto da Bumble. "Estamos comprometidos em melhorar nossa tecnologia para garantir que a Bumble continue sendo um ambiente seguro e confiável para encontros. Este novo recurso de denúncia nos ajuda a entender como agentes mal-intencionados abusam da IA, permitindo que nossa comunidade faça conexões com confiança."

Uma pesquisa recente da Bumble revelou que 71% dos usuários da Geração Z e dos Millennials desejam restrições ao conteúdo gerado por IA em aplicativos de namoro, com a mesma porcentagem considerando imagens geradas por IA de indivíduos em contextos ou atividades desconhecidas como uma forma de catfishing.

Perfis falsos não apenas enganam os usuários, mas também podem resultar em perdas financeiras significativas. Em 2022, a Comissão Federal de Comércio relatou quase 70.000 casos de fraudes românticas, totalizando US$ 1,3 bilhão em perdas. Para combater essas ameaças, aplicativos de namoro, incluindo a Bumble, implementam medidas de segurança robustas. No início deste ano, a Bumble introduziu o Detector de Enganos, uma ferramenta impulsionada por IA projetada para identificar perfis falsos, e também lançou um recurso para proteger os usuários de conteúdo explícito indesejado. Enquanto isso, a Tinder lançou seu próprio sistema de verificação de perfis nos EUA e no Reino Unido.