AI中毒工具Nightshade在短短5天内下载量超过25万：‘超出了我们所有的期待’

Home AI News CN AI中毒工具Nightshade在短短5天内下载量超过25万：‘超出了我们所有的期待’

Nightshade：艺术家的革命性工具

Nightshade是芝加哥大学研究人员开发的一款新工具，现已免费提供下载。这款工具旨在帮助艺术家保护他们的作品，防止未经授权的AI模型训练。自发布以来，仅五天内，下载量就达到了25万个，获得了广泛关注。

项目负责人、计算机科学教授Ben Zhao在邮件中表示：“Nightshade在发布五天内便达到了25万次下载。我预期会有较高的热情，但这一反应超出了我们的预期。”这一强劲的开局表明，艺术家们对保护自己作品的需求很旺盛。据美国劳动统计局的数据显示，单在美国就有超过267万名艺术家，Zhao认为该工具的用户群体可能更为广泛。

“我们并没有对这些下载进行地理位置查询，”Zhao指出。“社交媒体上的反应表明，下载来源于全球各地。”

Nightshade的工作原理及其受欢迎程度

Nightshade的目的是通过处理在线分享的艺术作品来“毒化”生成式AI图像模型。这种处理，即像素级别的“阴影处理”，使得图像在机器学习算法眼中呈现出截然不同的样貌——想象一下，一个包包看起来像是一头牛。AI模型在训练了一些经过阴影处理的示例后，就能够生成基于用户提示的不准确信息。

在Nightshade项目页面上，Zhao和他的团队（Shawn Shan、Wenxin Ding、Josephine Passananti及Heather Zheng）阐述了他们的使命：提高在未经授权的数据上进行训练的成本，从而使创作者授权图像成为可行的替代方案。

Nightshade于2023年1月18日发布时，需求之大以至于芝加哥大学的服务器负荷过重，因此增设了镜像下载链接。此外，团队之前推出的工具Glaze，旨在通过微妙的像素变化防止AI学习艺术家的独特风格，自2023年4月发布以来已累计下载220万次。

Glaze项目的未来发展

在Glaze项目的框架下，Zhao及其同事宣布将开发一款新工具，结合Glaze的防御能力与Nightshade的攻击特性。这个综合工具预计需要至少一个月的测试时间，以确保其安全可靠。

Zhao表示：“我们还有许多任务需要完成。需要确保综合版本经过全面测试，以避免意外情况。我预计至少需要一个月，可能更长的时间来完成详尽的测试。”

研究团队建议艺术家首先使用Glaze来保护他们独特的风格，同时干扰AI模型训练。尽管这一双重流程略显繁琐，但在艺术家中已被证明是有效的。

“我们提醒用户，尚未对这两种工具的协同工作进行全面测试，他们在仅使用Nightshade之前应该等待一下，”Zhao解释道。“艺术界的反馈是：‘我们将一步步使用Nightshade和Glaze，即使这需要更多时间并会明显改变作品。’”

未来，Nightshade也可能推出一个开源版本。“我们很可能会在未来发布开源版本，但这需要更多的时间来制作。”

Zhao还提到，尽管他们积极使用如OpenAI（DALL-E 3）、Midjourney和Stability AI（Stable Diffusion）等AI图像生成技术进行内容创作，但尚未收到这些技术创作者的反馈。

Meta的OK-Robot在未训练环境中实现零-shot拣选和投放能力

Meta发布开源巨作‘Code Llama 70B’：挑战私有AI开发的强大工具

Most people like

Carepatron

585.4K

提升客户成果、效率与生产力，借助可定制的工具和灵活的工作流程。

实践管理软件医疗健康工具

AI Face Swap Video Online Free

176.7K

引入AI技术，视频面部交换工具正在革新数字媒体创作。通过先进的深度学习算法，这些工具使用户能够轻松地将一个人的面孔替换为另一个人的面孔，创造出引人入胜且富有创意的视觉效果。从娱乐行业到社交媒体，AI驱动的视频面部交换技术正越来越普及，吸引着广大受众的注意力。探索这一前沿工具如何改变视频创作的方式，开启无限可能！

AI视频编辑工具 AI面部交换生成器

漫游四方

56.5K

漫游四方是一款创新的人工智能旅行助手，专注于提供个性化行程和优化旅行规划，帮助用户轻松实现理想旅行体验。

旅行 AI旅行规划师

Sku Fetch

13.3K

一项旨在从供应商那里获取和整理产品信息，以便顺利编辑并转发给上市服务的高效解决方案。

产品获取 AI产品描述生成器

Find AI tools in YBX