Apple удаляет приложения, использующие генеративный ИИ для создания обнаженных изображений.

Недавние сообщения о функции искусственного интеллекта «удаление одежды» в смартфонах Huawei привлекли значительное внимание, выявив аналогичные проблемы с конфиденциальностью в App Store Apple и вновь разжигая общественные дискуссии о защите частной жизни и процессах проверки приложений.

Согласно 404 Media, Apple удалила три приложения с названием «Art Generator» из App Store. Эти приложения рекламировались в Instagram и на сайтах для взрослых, утверждая, что могут «бесплатно раздеть любую девушку». Используя технологии генеративного ИИ, они создавали фальшивые обнаженные изображения. Несмотря на то что эти изображения не являются настоящими, существование таких приложений вызвало серьезные опасения по поводу преследования, шантажа и нарушений конфиденциальности.

Примечательно, что эти приложения были доступны в App Store с 2022 года и рекламировали свою функцию «раздевания». Apple отреагировала только после того, как расследование 404 Media вызвало общественный резонанс. Хотя сообщалось, что эти приложения пытались избежать удаления, удаляя объявления на сайтах для взрослых, одно из них продолжало показывать рекламу до 2024 года, оставаясь доступным в Google Play Store до своего окончательного удаления.

Решение Apple об удалении этих приложений спровоцировало обсуждения о процессе проверки приложений и использовании лазеек со стороны разработчиков. Этот вопрос приобретает особую значимость на фоне подготовки Apple к предстоящему мероприятию WWDC 2024, где ожидаются важные анонсы по iOS 18 и усовершенствованиям в возможностях ИИ Siri.

В современном цифровом пространстве нельзя недооценивать важность защиты конфиденциальности и строгих систем проверки приложений. Этот инцидент служит важным напоминанием о том, что наряду с технологическими достижениями должны быть установлены строгие регламенты и этические нормы для защиты конфиденциальности и прав пользователей.