Apple Elimina Aplicaciones que Usan IA Generativa para Crear Imágenes Desnudas

Recientemente, los informes sobre la función de inteligencia artificial de "eliminación de ropa" en los teléfonos inteligentes de Huawei han atraído una atención considerable, revelando preocupaciones similares sobre la privacidad dentro de la App Store de Apple y reavivando el debate público sobre la protección de la privacidad y los procesos de revisión de aplicaciones.

Según 404 Media, Apple ha eliminado tres aplicaciones tituladas “Art Generator” de la App Store. Estas aplicaciones, promovidas en Instagram y sitios web para adultos, afirmaban que podían "desnudar a cualquier chica gratis". Utilizando tecnología de IA generativa, producían imágenes falsas de desnudos. Aunque las imágenes no eran reales, la existencia de estas aplicaciones generó serias preocupaciones sobre acoso, extorsión y violaciones de la privacidad.

Notablemente, estas aplicaciones habían estado disponibles en la App Store desde 2022, publicitando su función de "desnudo". Apple solo respondió tras la investigación de 404 Media que provocó una protesta pública. Aunque se informó que estas aplicaciones intentaron eludir la eliminación al borrar anuncios en sitios web para adultos, una de ellas continuó mostrando anuncios hasta 2024, permaneciendo disponible en Google Play hasta su eventual eliminación.

La decisión de Apple de eliminar estas aplicaciones ha desencadenado discusiones sobre el proceso de revisión de aplicaciones y la explotación de vacíos legales por parte de los desarrolladores. Este tema cobra mayor relevancia mientras Apple se prepara para su próximo evento WWDC 2024, donde se esperan anuncios importantes sobre iOS 18 y avances en las capacidades de IA de Siri.

En el paisaje digital actual, la importancia de la protección de la privacidad y de sistemas de revisión de aplicaciones rigurosos no puede subestimarse. Este incidente sirve como un recordatorio crucial de que junto con los avances tecnológicos, deben existir regulaciones estrictas y directrices éticas para salvaguardar la privacidad y los derechos de los usuarios.