메타, 페이스북, 인스타그램, 그리고 스레드에서 AI 생성 콘텐츠 태그 지정 예정

메타는 오늘 발표에서 Facebook, Instagram, Threads에서 AI 생성 콘텐츠를 식별하고 라벨링하기 위한 계획을 발표했습니다. 그러나 "모든 AI 생성 콘텐츠를 식별하는 것은 아직 불가능하다"고 경고했습니다. 이 조치는 최근 트위터에서 가수 테일러 스위프트의 음란 AI 딥페이크가 퍼지면서 팬들과 법률 제정자, 글로벌 미디어의 반발을 일으킨 사건을 계기로 진행됩니다. 특히, 메타는 2024년 미국 대선을 앞두고 AI 생성 이미지와 조작된 비디오 관리에 대한 scrutiny가 증가하는 시점에 있습니다.

메타의 글로벌 정책 담당 사장 닉 클레그는 "AI 생성 콘텐츠의 확산은 아직 초기 단계에 있다"고 선언했습니다. 그는 AI 사용이 증가함에 따라 "사회가 합성 및 비합성 콘텐츠를 식별하는 방법에 대한 논의에 참여하게 될 것"이라고 언급했습니다. 클레그는 메타가 발전 상황을 지속적으로 모니터링하고, 업계 동료들과 협력하며, 정부 및 시민 사회와 논의할 것이라고 강조했습니다.

메타의 이러한 이니셔티브는 AI 생성 콘텐츠 식별 기준을 정립하기 위한 Partnership on AI(PAI)와의 협력 등 업계 모범 사례와 일치합니다. 메타는 AI 생성 표준 지표를 감지할 경우 사용자 업로드 이미지에 라벨을 붙일 계획입니다. AI 이미지 서비스 출시 이후, 메타 AI로 생성된 포토리얼리스틱 이미지는 "AI로 상상된"으로 라벨이 붙었습니다.

클레그는 메타의 현재 방법이 기술적 역량의 최전선에 있다고 강조하며, "우리는 보이지 않는 마커가 없더라도 AI 생성 콘텐츠를 자동으로 탐지하는 분류기를 개발하기 위해 열심히 작업하고 있다"고 덧붙였습니다. 그는 또한 제거나 변형을 막기 위한 보이지 않는 워터마크 확보를 위해 노력하고 있다고 밝혔습니다.

이번 발표는 메타가 AI 생성 콘텐츠를 효과적으로 식별하고 라벨링하기 위한 광범위한 노력의 일환으로, 보이지 않는 워터마크와 같은 기술을 활용하고 있습니다. 2023년 7월, 7개의 기술 기업은 워터마킹을 포함하여 AI 안전성을 강화하기 위한 구체적인 조치를 약속했으며, Google DeepMind는 이미지에 직접 보이지 않는 디지털 워터마크를 임베드하는 SynthID의 베타 버전을 출시했습니다.

그럼에도 불구하고 전문가들은 디지털 워터마킹, 가시적이든 숨겨진 것이든, 완벽하지 않다고 경고합니다. 메릴랜드 대학교 컴퓨터 과학 교수는 "현재 신뢰할 수 있는 워터마킹이 없다 — 우리는 모든 것을 무너뜨렸다"고 지적했습니다. 페이즈와 그의 팀은 악의적인 행위자가 워터마크를 쉽게 제거하거나 인간이 만든 이미지에 잘못 추가할 수 있음을 입증했습니다.

Hugging Face의 수석 윤리 과학자 마가렛 미첼은 보이지 않는 워터마크가 AI 생성 콘텐츠 식별에 대한 결정적인 해결책은 아니지만, 합법적인 창작자들이 AI 콘텐츠에 대한 "영양 라벨" 형태의 가치를 찾는 데 유용한 도구라고 강조했습니다. 그녀는 콘텐츠 출처의 중요성을 언급하며 "콘텐츠의 출처와 발전 과정을 아는 것은 동의 및 보상 추적에 중요하다"고 강조했습니다.

미첼은 워터마킹 기술의 잠재력에 대한 기대감을 표현하며, AI의 단점이 존재하지만 전체 기술은 희망을 가지고 있다고 인정했습니다. "AI 기능과 관련된 최근 논의 속에서 큰 그림을 인식하는 것이 중요하다"고 결론지었습니다.