Apple supprime les applications utilisant l'IA générative pour créer des images nues.

Récemment, des rapports concernant la fonctionnalité d'IA "suppression de vêtements" sur les smartphones Huawei ont suscité une attention considérable, mettant en lumière des préoccupations similaires en matière de confidentialité au sein de l'App Store d'Apple et ravivant le débat public sur la protection de la vie privée et les processus de révision des applications.

Selon 404 Media, Apple a retiré trois applications intitulées "Art Generator" de l'App Store. Ces applications, promues sur Instagram et des sites pour adultes, prétendaient pouvoir "dénuder n'importe quelle fille gratuitement". Utilisant la technologie d'IA générative, elles produisaient de fausses images nues. Bien que ces images ne soient pas réelles, la présence de ces applications a soulevé de sérieuses préoccupations concernant le harcèlement, l'extorsion et les violations de la vie privée.

Fait remarquable, ces applications étaient disponibles sur l'App Store depuis 2022, mettant en avant leur fonctionnalité de "dénudement". Apple n'a réagi qu'après qu'une enquête de 404 Media ait suscité un tollé public. Bien que des rapports aient indiqué que ces applications avaient tenté d'échapper à leur retrait en supprimant les publicités sur les sites pour adultes, une application a continué à diffuser des annonces jusqu'en 2024, restant accessible sur le Google Play Store jusqu'à son retrait final.

La décision d'Apple d'éliminer ces applications a déclenché des discussions sur le processus de révision des applications et l'exploitation des failles par les développeurs. Cette question revêt une importance particulière alors qu'Apple se prépare pour son prochain événement WWDC 2024, où de grandes annonces concernant iOS 18 et les avancées des capacités d'IA de Siri sont attendues.

Dans le paysage numérique d'aujourd'hui, l'importance de la protection de la vie privée et de systèmes de révision d'applications rigoureux ne saurait être sous-estimée. Cet incident rappelle de manière cruciale qu'en parallèle des avancées technologiques, des réglementations strictes et des lignes directrices éthiques sont nécessaires pour sauvegarder la confidentialité et les droits des utilisateurs.