夜影：藝術家可用來“毒害” AI 模型的免費工具

Home AI新聞夜影：藝術家可用來“毒害” AI 模型的免費工具

Nightshade 推出：為藝術家保護作品的工具

在宣布幾個月後，免費藝術家專用軟體 Nightshade 現已可供下載。這款創新應用程式使藝術家能夠「毒化」試圖以其作品進行訓練的 AI 模型。

Nightshade 由芝加哥大學 Glaze 專案下的計算機科學家在 Ben Zhao 教授的指導下開發，採用開源機器學習框架 PyTorch。該工具能識別圖像內容，並在像素級別上微調，使其對人眼來說未改變，但對 AI 程式則完全不同。

建立在以往創新之上

Nightshade 是在 Glaze 推出近一年後的產物，後者調整數位藝術以誤導 AI 訓練演算法關於圖像風格的理解。雖然 Glaze 是一種防禦工具，建議藝術家與 Nightshade 一同使用，但 Nightshade 則採取進攻策略。

當 AI 模型基於 Nightshade 修改過的圖像進行訓練時，未來的圖像可能被錯誤分類，導致奇怪的輸出。例如，AI 可能將牛的圖像誤解為手袋。

使用要求與功能

藝術家需擁有搭載 Apple 芯片（M1、M2 或 M3）的 Mac，或運行 Windows 10 或 11 的 PC 才能使用 Nightshade。兩種操作系統的下載皆已可用。由於需求量大，一些用戶在下載時遇到較長的時間，Mac 文件大小為 255MB，而 PC 則為 2.6GB。

下載前，用戶必須接受團隊的最終用戶許可協議（EULA），該協議限制對軟體的修改及商業複製。

Nightshade 將圖像轉換為「毒化」樣本，導致以其訓練的 AI 模型產生不可預測的結果。例如，當要求 AI 在空間背景下生成牛時，經 Nightshade 修改的圖像可能導致模型生成手袋。

該工具對常見的圖像變形具抵抗力—裁剪、重取樣這些處理不會降低其效能。算法的修改不是簡單的水印，而是融合的變更，能抵抗各種改動。

反應不一

許多藝術家，如在針對 AI 藝術公司集體訴訟中的主要原告 Kelly McKernan，都已擁抱 Nightshade，但一些批評者認為其類似於對 AI 模型的網路攻擊。Nightshade 團隊澄清其意圖：提高以未授權數據進行訓練的成本，最終鼓勵 AI 開發者向藝術家獲取許可。

數據抓取的背景

Nightshade 的興起與對數據抓取的擔憂有關，此行為使 AI 圖像生成器在未徵得藝術家同意的情況下從互聯網提取數據。這種做法危及藝術家的生計，迫使他們尋找保護手段以抵禦未經授權的作品使用。

數據抓取的爭議並不新鮮；此前其對著作權和合理使用的影響曾受到關注。儘管 AI 公司提供「選擇退出」選項，但 Glaze/Nightshade 團隊認為這些選項易於忽視，使執行幾乎不可能。

Nightshade 旨在對未經授權的抓取行為施加成本，促使 AI 開發者重新考慮商業慣例。然而，需注意的是，Nightshade 不能抹去過去的侵權行為；其僅旨在減輕未來的侵權風險。

總之，Nightshade 在 AI 時代為藝術家權益的奮鬥中，代表了一個關鍵的進展。

Stability AI 推出高效緊湊的 16 億語言模型：創新新時代的開端

Forrester 研究揭示零售商在高度熱衷於人工智能的同時，卻面臨著採用挑戰的困境

Most people like

NSFWChatAI

歡迎來到 NSFWChatAI.ai，終極 AI 虛擬女友聊天機器人平台，在這裡你可以與虛擬伴侶展開無限制的對話。體驗在安全且互動的環境中無拘無束聊天的自由！

虛擬女友 AI Photo & Image Generator

Thetawise

395K

探索AI驅動的數學輔導帶來的好處，這是一種旨在增強數學學習和理解的創新方法。通過利用先進技術，這些智能系統提供個性化的支持，以滿足個別學習風格和進度。不論您是在代數、幾何還是高級微積分方面遇到困難，AI數學輔導可以改變您的學習體驗，使其更加高效有效。擁抱未來的學習，利用AI驅動的解決方案提升數學技能！

數學輔導 AI Education Assistant

face swapper online

31.5K

體驗無縫的面孔交換，透過Face Swap Online的先進AI技術，帶來驚人且高品質的效果。

其他 AI Face Swap Generator

Enhancer App

99.3K

發現一款旨在輕鬆提升和放大圖像的AI工具。利用尖端技術轉變您的照片，改善質量和細節，使您的視覺效果輕鬆脫穎而出。非常適合設計師、攝影師或任何希望輕鬆提升圖像的人士。

AI影像增強 AI Photo Enhancer

Find AI tools in YBX