Если вы заходили на X, социальную сеть, ранее известную как Twitter, в последние 24-48 часов, вы, вероятно, столкнулись с созданными ИИ дипфейками с изображениями и видео Тейлор Свифт. Эти откровенные материалы изображали её в неконсенсуальных ситуациях с фанатами её бойфренда, игрока НФЛ Трэвиса Келси, играющего за Kansas City Chiefs.
Эти недопустимые изображения вызвали возмущение среди поклонников Свифт, и хештег #ProtectTaylorSwift быстро стал трендом рядом с “Taylor Swift AI”, в то время как новостные агентства по всему миру освещали этот инцидент. Тем временем X испытывала трудности с удалением контента и защитой от его повторных публикаций, что напоминало игру "бить мишек".
Ситуация вновь разожгла обсуждения среди американских законодателей о необходимости регулирования быстро развивающегося рынка генеративного ИИ. Однако остаются важные вопросы о том, как применять регулирование, не задушив инновации и не нарушив Первую поправку, защищающую пародию, фан-арт и другие формы выражения, связанные с публичными фигурами.
Какие инструменты использовались для создания дипфейков с участием Тейлор Свифт?
Неясно, какие именно инструменты ИИ использовались для генерации дипфейков Свифт. Ведущие платформы, такие как Midjourney и DALL-E 3 от OpenAI, строго запрещают создание откровенного или провокационного контента. Согласно Newsweek, аккаунт @Zvbear на X взял на себя ответственность за публикацию некоторых дипфейков, но вскоре закрыл свою учетную запись.
Расследование независимого технологического издания 404 Media выявило, что изображения связаны с группой в Telegram, которая, по сообщениям, использовала "ИИ-инструменты Microsoft", в частности, Microsoft Designer, работающий на базе DALL-E 3 и обладающий аналогичными ограничениями контента.
Несмотря на строгие правила, открытую ИИ-модель Stable Diffusion от Stability AI позволяет пользователям создавать разнообразный контент, включая материалы сексуального характера. Это вызывает опасения, так как платформы, такие как Civitai, были помечены за содействие созданию неконсенсуальных ИИ-изображений. Хотя Civitai объявила о усилиях по борьбе с этим законом, она не была напрямую связана с дипфейками Свифт.
Реализация Stable Diffusion на Clipdrop также запрещает откровенный контент. Тем не менее, пользователи продолжали находить способы обойти эти меры, что привело к недавнему наплыву изображений дипфейков Свифт.
Даже на фоне растущего принятия ИИ для согласованных творческих проектов, таких как HBO’s True Detective: Night Country, неправомерное использование технологий для вредных целей может нанести ущерб их публичному имиджу и спровоцировать более строгие правила.
Потенциальные действия
Сообщение от The Daily Mail указывает на то, что Тейлор Свифт "разгневана" распространением откровенных изображений и рассматривает возможность судебного иска. Неясно, будет ли иск направлен против платформы Celeb Jihad, разместившей изображения, ИИ инструментов, облегчающих их создание, или же против ответственных за создание материалов.
Этот инцидент усилил обеспокоенность по поводу инструментов генеративного ИИ и их возможности создавать разрушительные изображения реальных людей, подстегивая призывы американских законодателей к более строгому регулированию.
Республиканец Том Кин, младший, недавно представил два законопроекта: Закон о маркировке ИИ и Закон о предотвращении дипфейков интимных изображений. Оба законопроекта направлены на усиление регулирования в области ИИ.
Закон о маркировке ИИ обязал бы ИИ-сгенерированные материалы содержать ясное уведомление о их искусственном создании, хотя эффективность такой маркировки в предотвращении распространения откровенного контента остается под вопросом. Meta и OpenAI уже внедрили аналогичные меры маркировки для информирования пользователей о ИИ-сгенерированном изображении.
Второй законопроект, соавтором которого является демократ Джо Мореэлле, направлен на изменение Закона о насилии в отношении женщин. Он наделит жертв неконсенсуальных дипфейков правом подавать иски против создателей и платформ, что может привести к выплате ущерба в размере 150,000 долларов и тюремному заключению правонарушителей на срок до 10 лет.
Хотя эти законопроекты не окажут непосредственной помощи Свифт в её деле, они могут заложить основу для лучшей защиты будущих жертв ИИ-сгенерированных дипфейков.
Для того чтобы оба законопроекта стали законом, они должны пройти через соответствующие комитеты, получить голосование в полном составе Палаты представителей и пройти аналогичный законопроект в Сенате. В настоящее время оба законопроекта находятся на начальной стадии.
Заявление Конгрессмена Кина о инциденте
В ответ на инцидент с дипфейками конгрессмен Кин заявил: “Технологии ИИ развиваются быстрее, чем необходимы меры предосторожности. Независимо от того, является ли жертвой Тейлор Свифт или любой молодой человек в нашей стране, нам нужно установить защитные механизмы, чтобы бороться с этой тревожной тенденцией. Мой законопроект, Закон о маркировке ИИ, станет значительным шагом вперед.”
Этот инцидент наряду с аналогичными событиями подчеркивает срочную необходимость законодательных действий, чтобы решить растущие проблемы, связанные с ИИ-сгенерированным контентом, и его последствиями для конфиденциальности и личной безопасности.
Рейтинг
