FTC, AI 교육을 위한 '조용한' 서비스 약관 변경 경고: 이는 충분하지 않을 수 있는 이유.

이번 주, 미국 연방 거래 위원회(FTC)는 기업들에게 이용자 데이터를 AI 훈련에 활용하기 위해 서비스 약관(TOS)을 미묘하게 변경하는 것의 위험성에 대해 경고했습니다. 해당 기관은 이러한 행위가 불공정하고 기만적인 관행으로 간주될 수 있다고 주의를 촉구했습니다.

“기업들은 고객 데이터 사용을 확대하기 위해 개인정보 보호정책을 변경하고 싶을 수 있습니다.”라고 FTC는 블로그 게시물에서 언급했습니다. “프라이버시 우려로 인해 반발을 피하고자 이러한 변경이 명확한 통지 없이 이루어질 수 있습니다. 그러나 기업들은 이용자 개인정보 약속을 위반할 경우 법적 결과를 초래할 수 있음을 유의해야 합니다.”

FTC의 경고는 중요하지만, 최근 몇 가지 산업 변화가 잇따른 후에 나온 것입니다. 2023년 7월, 구글은 AI 모델 개선을 위해 공공 데이터를 사용할 수 있도록 개인정보 보호정책을 수정했습니다. 비슷한 맥락에서 2023년 8월, 줌이 사용자 데이터에 대한 AI 훈련을 허용하는 서비스 약관을 조용히 업데이트한 사실이 보도되었습니다. 사용자가 선택하지 않을 옵션 없이 진행된 것입니다.

2023년 6월, 어도비 스톡의 제작자들은 어도비가 Firefly AI 모델에 대해 자신의 업로드된 작품을 사전 통지 없이 사용하고 있다는 사실에 불만을 표출했습니다. 한 영국 제작자는 “서비스 약관 변경에 대한 이메일이나 통지를 받은 기억이 없습니다.”라고 말했습니다.

사실 대부분의 사용자들은 서비스 약관의 세부 사항을 읽거나 완전히 이해하지 않습니다. 2019년의 한 연구에 따르면, 구글과 페이스북을 포함한 500개의 인기 미국 웹사이트의 서비스 약관이 대부분 성인이 일반적으로 읽는 수준을 초과했다고 합니다. 또한, 2017년 딜로이트 조사에서는 미국 소비자의 91%가 법적 조건을 읽지 않고 동의하며, 18-34세의 응답자 중 97%가 같은 행동을 보였다고 합니다.

소프트웨어 자유 보존 센터의 정책 연구원인 브래들리 쿤은 2023년 10월 FTC 원탁회의에서 서비스 약관을 읽는 것의 중요성을 강조했습니다. “하나만 기억하신다면, 조건을 주의 깊게 읽는 것입니다. 무심코 당신의 창작물이 기업의 머신러닝 데이터셋에 포함되도록 동의했을 수도 있습니다. 시간이 걸리더라도 당신이 포기한 권리를 이해하는 유일한 방법입니다.”

흥미롭게도 최근의 많은 서비스 약관 업데이트는 기존 조항을 명확히 하는 것에 불과합니다. Gunderson Dettmer 법률사무소의 파트너인 케이티 가드너는 업데이트가 일반적으로 진화하는 관행을 반영하며, CCPA와 같은 규정이 연간 개인정보 보호정책 수정을 의무화한다고 설명했습니다. “기업은 법적 구속력이 있는 중요한 변경 사항에 대해 사용자를 통지해야 합니다.”라고 그녀는 전했습니다. “줌의 경우, 변경 사항이 기존 권리를 재확인한 것일 뿐이라 크게 중요해 보이지 않을 수 있습니다.”

또한, 가드너는 많은 업데이트가 규제 감시에 대한 반응이라고 덧붙였습니다. “기업들이 AI 훈련에서 데이터 사용에 대한 동의를 얻는 방법은 더욱 면밀히 검토되고 있습니다.”라고 그녀는 말하며, FTC가 링과 아마존을 상대로 사용자 데이터 사용의 투명성에 관련하여 조치를 취한 사례를 언급했습니다.

이용자들은 앞으로 몇 달 동안 추가적인 서비스 약관 변화에 직면할 것으로 예상할 수 있습니다. 최근 독립 작가를 위한 스포티파이 오디오북 플랫폼인 Findaway Voices의 예정된 업데이트는 오디오 내레이션이 AI 훈련에 재사용될 가능성에 대한 우려를 불러일으켰습니다. 온라인 피드백에 대응하여, 스포티파이는 혼란을 인정하고 2024년 3월 15일 업데이트가 시행되기 전에 설명을 준비하고 있다고 밝혔습니다.