나이트쉐이드: 아티스트가 AI 모델을 '중독'시키는 데 사용할 수 있는 무료 도구

나이트쉐이드 출시: 예술가들이 AI 모델로부터 작품을 보호할 수 있는 도구

수개월간의 발표 이후, 예술가를 위해 설계된 무료 소프트웨어 도구인 나이트쉐이드가 이제 다운로드 가능합니다. 이 혁신적인 애플리케이션은 예술가들이 자신의 작품으로 훈련하려는 AI 모델을 '독살'할 수 있도록 돕습니다.

시카고 대학교의 글레이즈 프로젝트에서 벤 자오 교수와 함께 개발된 나이트쉐이드는 오픈 소스 기계 학습 프레임워크인 PyTorch를 사용합니다. 이 도구는 이미지 내용을 식별하고 픽셀 수준에서 미세하게 변경하여, 인간의 눈에는 변하지 않은 듯 보이지만 AI 프로그램에는 전혀 다른 모습으로 인식되도록 합니다.

이전 혁신의 발전

나이트쉐이드는 거의 1년 전에 출시된 글레이즈의 후속으로, 디지털 아트를 변경하여 AI 훈련 알고리즘이 이미지의 스타일을 오해하도록 만듭니다. 글레이즈는 방어 도구로, 나이트쉐이드와 함께 사용할 것을 권장하지만, 나이트쉐이드는 공격적인 접근 방식을 취합니다.

나이트쉐이드로 수정된 이미지를 기반으로 훈련된 AI 모델은 향후 이미지를 잘못 분류할 수 있으며, 이로 인해 기괴한 결과물이 발생할 수 있습니다. 예를 들어, AI는 소의 이미지를 핸드백으로 오해할 수 있습니다.

요구사항 및 기능

나이트쉐이드를 사용하려면, 예술가는 Apple 칩(M1, M2 또는 M3)이 탑재된 Mac 또는 Windows 10 또는 11을 운영 체제로 사용하는 PC가 필요합니다. 두 운영 체제의 다운로드가 가능합니다. 높은 수요로 인해 일부 사용자는 Mac 파일(255MB)과 PC 파일(2.6GB)의 다운로드 시간이 길어지는 경우가 있습니다.

다운로드하기 전에 사용자는 팀의 최종 사용자 라이선스 계약(EULA)에 동의해야 하며, 이는 소프트웨어 수정 및 상업적 재생산을 제한합니다.

나이트쉐이드는 이미지를 '독' 샘플로 변형하여, 이를 기반으로 훈련된 AI 모델이 예측할 수 없는 결과를 생성하도록 만듭니다. 예를 들어, 나이트쉐이드로 수정된 이미지를 기반으로 AI 모델이 우주 설정에서 소를 요청받았을 때 핸드백을 생성할 수 있습니다.

이 도구는 일반적인 이미지 변형에 저항력이 있으며, 크롭, 리샘플링 및 압축이 효과를 감소시키지 않습니다. 알고리즘의 수정은 단순한 워터마크가 아니라 다양한 변경을 견뎌내는 미세하게 통합된 변화입니다.

복합적인 반응

많은 예술가들, 특히 AI 아트 기업에 대한 집단 소송의 주요 원고인 켈리 맥케르넌과 같은 사람들은 나이트쉐이드를 환영하고 있지만, 일부 비평가들은 이 도구가 AI 모델에 대한 사이버 공격처럼 보인다고 주장합니다. 나이트쉐이드 팀은 이 도구의 목적이 무단 데이터 훈련 비용을 증가시켜 궁극적으로 AI 개발자들이 예술가로부터 라이선스를 받도록 유도하는 것임을 명확히 합니다.

데이터 스크래핑의 맥락

나이트쉐이드의 출현은 예술가의 동의 없이 인터넷에서 데이터를 추출하는 데이터 스크래핑에 대한 우려와 관련이 있습니다. 이 관행은 예술가들의 생계를 위협하며, 그들의 작품에 대한 무단 사용을 방지할 수 있는 보호책을 찾아야 합니다.

데이터 스크래핑에 대한 싸움은 새로운 것이 아니며, 저작권과 공정 사용에 대한 함의로 인해 이전에도 많은 논란이 있었습니다. AI 기업들이 '옵트 아웃' 옵션을 제공하지만, 글레이즈/나이트쉐이드 팀은 이러한 옵션이 쉽게 무시될 수 있어 시행이 거의 불가능하다고 주장합니다.

나이트쉐이드는 무단 스크래핑에 비용을 부과하여 AI 개발자들의 비즈니스 관행을 재고하도록 유도하는 역할을 목표로 합니다. 하지만 나이트쉐이드가 과거의 침해를 지울 수는 없으며, 미래의 침해를 완화하는 데 초점을 맞추고 있다는 점은 주목할 필요가 있습니다.

결론적으로, 나이트쉐이드는 AI 시대의 예술가 권리를 위한 지속적인 투쟁에서 중요한 이정표로 자리잡고 있습니다.