AI 중독 도구 나이트 Shade, 단 5일 만에 25만 다운로드 초과: '우리의 기대를 뛰어넘다'

나이트셰이드: 아티스트를 위한 혁신적인 도구

시카고 대학교 연구진이 개발한 무료 다운로드 도구 나이트셰이드가 아티스트들이 무단 AI 모델 학습으로부터 자신의 작품을 보호할 수 있도록 지원합니다. 출시 5일 만에 250,000회의 다운로드를 기록하며 큰 인기를 얻었습니다.

프로젝트 책임자이자 컴퓨터 과학 교수인 벤 자오는 “나이트셰이드가 출시 후 5일 만에 25만 회 다운로드를 기록했습니다. 높은 관심을 예상했지만 이렇게 많은 반응이 올 줄은 몰랐습니다”라고 전했습니다.

이런 강력한 출발은 아티스트들이 자신의 작업을 보호하려는 높은 관심을 보여줍니다. 노동통계국에 따르면, 미국에는 267만 명 이상의 아티스트가 있어, 자오는 이 도구의 사용자 기반이 더욱 확장될 가능성이 있다고 믿고 있습니다.

“지리적 위치 조회를 하지 않았습니다만, 소셜 미디어 반응을 보면 다운로드는 전 세계에서 이루어지고 있는 것 같습니다”라고 자오는 덧붙였습니다.

나이트셰이드의 작동 원리와 인기

나이트셰이드는 온라인에서 공유된 작품을 조작해 생성적 AI 이미지 모델을 “중독”시키는 데 목적이 있습니다. 이 픽셀 수준의 조작은 이미지가 머신러닝 알고리즘에 전혀 다르게 인식되도록 만들어, 예를 들면 가방이 소로 보이게 합니다. 몇 개의 조작된 예시로 훈련된 AI 모델은 사용자 프롬프트에 따라 부정확한 이미지를 생성할 수 있습니다.

나이트셰이드 프로젝트 페이지에서 자오와 그의 팀(숀 샨, 웬신 딩, 조세핀 파사난티, 헤더 정)은 그들의 사명을 이렇게 설명합니다: “비공식 데이터로 훈련하는 비용을 높여, 창작자로부터 이미지를 라이선스받는 것이 실현 가능한 대안이 되도록 합니다.”

2023년 1월 18일 출시와 함께 나이트셰이드에 대한 수요가 폭발적으로 증가하여 시카고 대학교의 서버가 과부하에 걸린 결과, 다운로드를 위한 미러 링크가 추가되었습니다.

또한, 팀의 초기 도구인 글레이즈는 아티스트의 독특한 스타일을 미세한 픽셀 조작으로 AI가 학습하는 것을 방지하기 위해 설계된 도구로, 2023년 4월 출시 이후 220만 회 다운로드를 기록했습니다.

글레이즈 프로젝트의 향후 개발

글레이즈 프로젝트의 일환으로, 자오와 그의 동료들은 글레이즈의 방어 능력과 나이트셰이드의 공격 기능을 결합한 도구 개발 계획을 발표했습니다. 이 통합 도구는 신중한 테스트가 필요해 최소 한 달 이상 소요될 것으로 예상하고 있습니다.

“많은 작업이 남아 있습니다. 통합 버전이 철저히 테스트되어 예기치 않은 문제가 발생하지 않도록 해야 합니다. 결론적으로 최소한 한 달, 더 오랜 시간이 필요할 것으로 예상합니다”라고 자오는 설명했습니다.

글레이즈 프로젝트 연구자들은 아티스트들이 AI 모델 학습 방해를 위해 나이트셰이드 사용 전에 글레이즈를 사용할 것을 권장합니다. 이 두 단계 접근법은 약간 번거로움에도 불구하고 아티스트들 사이에서 성공적으로 자리 잡았습니다.

“두 도구가 어떻게 함께 작동하는지에 대한 충분한 테스트는 진행하지 않았습니다. 나이트셰이드만 사용하기 전에 기다리기를 권장합니다”라고 자오가 설명했습니다. “아티스트 커뮤니티의 반응은 ‘시간이 더 걸리더라도 예술이 눈에 띄게 달라지더라도, 우리는 나이트셰이드와 글레이즈를 두 단계로 사용할 것’이라는 것이었습니다.”

나이트셰이드의 오픈 소스 버전 개발 가능성도 제기되고 있습니다. “앞으로 오픈 소스 버전을 출시할 가능성이 있지만, 제작에는 추가 시간이 필요합니다.”

자오는 또한 OpenAI(DALL-E 3), Midjourney, Stability AI(Stable Diffusion)와 같은 AI 이미지 생성 기술의 제작자들로부터는 아직 연락을 받지 못했다고 밝혔습니다.