Инструмент для отравления ИИ Nightshade преодолел отметку в 250 000 загрузок всего за 5 дней: «Превзошли все наши ожидания»

Найтшейд: Революционный Инструмент для Художников

Найтшейд — это новый бесплатный инструмент, разработанный исследователями Чикагского университета, который позволяет художникам защищать свои произведения от несанкционированного обучения AI-моделей. Всего за пять дней после запуска он набрал впечатляющие 250,000 скачиваний.

Бен Чжао, руководитель проекта и профессор компьютерных наук, поделился по электронной почте: «Найтшейд достиг 250,000 скачиваний всего за 5 дней с момента выхода. Я ожидал высокий уровень интереса, но эта реакция превзошла наши ожидания».

Успешный старт свидетельствует о значительном интересе со стороны художников к защите своих работ. По данным Бюро статистики труда США, только в этой стране насчитывается более 2,67 миллиона художников, и Чжао предполагает, что число пользователей инструмента может вырасти еще больше.

«Мы не проводили геолокационные проверки этих загрузок», — отметил Чжао. «Реакции в соцсетях показывают, что скачивания происходят со всех уголков мира».

Как Работает Найтшейд и Почему Он Так Популярен

Найтшейд предназначен для "отравления" генеративных AI-моделей изображений путем изменения произведений, размещенных в сети. Это манипуляция, или "шейдинг", на уровне пикселей, делает изображения совершенно другими для алгоритмов машинного обучения — представьте себе сумочку, которая выглядит как корова. Обучившись на нескольких измененных примерах, AI-модель может генерировать недостоверные изображения по запросам пользователей.

На странице проекта Найтшейд Чжао и его команда — Шон Шан, Уэнсин Динг, Жозефина Пасснанти и Хизер Чжен — объясняют свою миссию: «увеличить стоимость обучения на несанкционированных данных, предлагая лицензионные изображения от авторов в качестве разумной альтернативы».

С момента своего релиза 18 января 2023 года Найтшейд вызвал настолько высокий спрос, что серверы Чикагского университета не справлялись с наплывом пользователей, что привело к добавлению зеркальных ссылок для скачивания.

Кроме того, предыдущий инструмент команды, Глейз, который предотвращает обучение AI уникальному стилю художника через тонкие изменения пикселей, уже был скачан 2,2 миллиона раз с момента своего выхода в апреле 2023 года.

Будущие Разработки Проекта Глейз

Работая в рамках Проекта Глейз, Чжао и его коллеги объявили о планах по разработке инструмента, который объединит защитные возможности Глейз с наступательными функциями Найтшейд. Ожидается, что этот комбинированный инструмент потребует как минимум месяца для выпуска, поскольку важно провести тщательное тестирование.

«У нас много задач для завершения», — заявил Чжао. «Мы должны удостовериться, что комбинированная версия тщательно протестирована, чтобы избежать неожиданностей. Я ожидаю, что это займет как минимум месяц, возможно, и больше».

Исследователи Проекта Глейз рекомендуют художникам сначала использовать Глейз, а затем Найтшейд для защиты своего уникального стиля и прекращения обучения AI на их работах. Этот двухшаговый подход оказался успешным среди художников, несмотря на небольшие неудобства.

«Мы посоветовали пользователям, что не проводили полные тесты, чтобы увидеть, как два инструмента работают вместе. Им стоит дождаться перед использованием только Найтшейд», — объяснил Чжао. «Сообщество художников ответило: ‘Мы будем использовать Найтшейд и Глейз в два этапа, даже если это займет больше времени и заметно изменит искусство’».

Возможно, также идет разработка версии Найтшейд с открытым исходным кодом. «Вероятно, в будущем мы выпустим версию с открытым исходным кодом; однако это требует дополнительного времени для разработки».

Чжао также отметил, что они еще не получили ответа от создателей технологий генерации изображений AI, таких как OpenAI (DALL-E 3), Midjourney и Stability AI (Stable Diffusion), несмотря на их активное использование этих инструментов в создании контента.