Apple Remove Aplicativos que Usam IA Generativa para Criar Imagens Nudas

Recentemente, relatos sobre a função de “remoção de roupas” em smartphones da Huawei chamaram a atenção, revelando preocupações semelhantes sobre privacidade na App Store da Apple e reacendendo o debate público sobre proteção de privacidade e processos de revisão de aplicativos.

De acordo com o 404 Media, a Apple removeu três aplicativos intitulados “Art Generator” da App Store. Esses aplicativos eram promovidos no Instagram e em sites para adultos, alegando que poderiam "despir qualquer garota gratuitamente". Utilizando tecnologia de IA generativa, eles produziam imagens nuas falsas. Embora as imagens não sejam reais, a existência desses aplicativos levantou sérias preocupações sobre assédio, extorsão e violações de privacidade.

Notavelmente, esses aplicativos estavam disponíveis na App Store desde 2022, anunciando sua função de "despir". A Apple só tomou providências após a investigação do 404 Media ter gerado clamor público. Embora relatos indicassem que esses aplicativos tentaram contornar a remoção deletando anúncios em sites para adultos, um deles continuou exibindo anúncios até 2024, permanecendo disponível na Google Play Store até sua remoção final.

A decisão da Apple de eliminar esses aplicativos gerou discussões sobre o processo de revisão de aplicativos e a exploração de brechas por desenvolvedores. Esse tema ganha ainda mais relevância com a aproximação do evento WWDC 2024, onde são esperados grandes anúncios sobre o iOS 18 e avanços nas capacidades de IA da Siri.

No atual cenário digital, a importância da proteção da privacidade e de sistemas rigorosos de revisão de aplicativos não pode ser subestimada. Este incidente serve como um lembrete crucial de que, junto com os avanços tecnológicos, é necessário implementar regulamentações rigorosas e diretrizes éticas para proteger a privacidade e os direitos dos usuários.