Ночнойshade: Бесплатный инструмент, который художники могут использовать, чтобы «отравить» модели ИИ

Nightshade Запускается: Инструмент для Защиты Работ Художников от Моделей ИИ

Спустя несколько месяцев с момента анонса, Nightshade, бесплатный инструмент для художников, теперь доступен для загрузки. Это инновационное приложение позволяет артистам "отравлять" модели ИИ, пытающиеся обучаться на их произведениях.

Разработанный учеными из Университета Чикаго в рамках проекта Glaze под руководством профессора Бена Чжао, Nightshade использует открытый фреймворк машинного обучения PyTorch. Он распознает содержимое изображения и тонко изменяет его на уровне пикселей, создавая версию, которая для человеческого глаза остается неизменной, но выглядит совершенно иначе для программ ИИ.

Основываясь на предшествующих Новшествах

Nightshade следует за запуском Glaze, инструмента, представленном почти год назад, который изменяет цифровые произведения, вводя алгоритмы обучения ИИ в заблуждение относительно стиля изображения. В то время как Glaze является защитным инструментом, рекомендованным для совместного использования с Nightshade, последний принимает агрессивный подход.

Когда модель ИИ обучается на изображениях, измененных с помощью Nightshade, она может ошибочно классифицировать будущие изображения, приводя к странным результатам. Например, ИИ может интерпретировать изображение коровы как женскую сумочку.

Требования и Функциональность

Чтобы использовать Nightshade, художникам требуется Mac с чипами Apple (M1, M2 или M3) или ПК с Windows 10 или 11. Доступны загрузки для обеих операционных систем. Из-за высокого спроса некоторые пользователи сталкиваются с длительными временами загрузки: файлы размером 255 МБ для Mac и 2,6 ГБ для ПК.

Перед загрузкой пользователи должны принять соглашение об использовании (EULA), в котором ограничиваются модификации и коммерческое воспроизведение программного обеспечения.

Nightshade преобразует изображения в "отравленные" образцы, заставляя модели ИИ, обученные на них, генерировать непредсказуемые результаты. Например, изображение, измененное с помощью Nightshade, может привести к тому, что модель сгенерирует сумочку, когда её попросят об изображении коровы в космической обстановке.

Инструмент устойчива к распространенным преобразованиям изображений — обрезка, повторная выборка и сжатие не снижают его эффективности. Модификации алгоритма — это не просто водяные знаки, а тонко интегрированные изменения, которые сохраняются при различных преобразованиях.

Смешанные Реакции

Хотя многие художники, включая Келли Маккернан, одного из основных истцов в коллективном иске против компаний ИИ-искусства, поддержали Nightshade, некоторые критики утверждают, что это похоже на кибератаку на модели ИИ. Команда Nightshade разъясняет свою цель: повысить стоимость обучения на нелицензионных данных, в конечном итоге побуждая разработчиков ИИ получать лицензии от художников.

Контекст Сбора Данных

Появление Nightshade связано с растущими опасениями по поводу сбора данных, когда генераторы изображений ИИ извлекают данные из интернета без согласия художников. Эта практика угрожает существованию артистов, побуждая их искать средства защиты от несанкционированного использования их произведений.

Борьба со сбором данных не нова; ранее она привлекала внимание из-за своих последствий для авторского права и добросовестного использования. Несмотря на то что компании ИИ предлагают опции "отказа", команда Glaze/Nightshade утверждает, что их легко игнорировать, что делает соблюдение почти невозможным.

Nightshade нацелен на выравнивание условий, создавая расходы на несанкционированные сборы, что побуждает переосмыслить бизнес-практики среди разработчиков ИИ. Однако необходимо отметить, что Nightshade не может стереть прошлые нарушения; его цель — смягчить будущие.

В заключение, Nightshade представляет собой важный шаг в продолжающейся борьбе за права артистов в эпоху ИИ.