구글은 생성형 AI(GAI) 도구로 생성되거나 수정된 콘텐츠에 대한 투명성을 강화하고 있습니다. 구글은 콘텐츠 출처와 진위 인증을 위한 연합(C2PA)의 회원으로서, 해당 그룹의 디지털 워터마크 표준을 구현할 예정입니다. 아마존, 메타, 오픈AI와 같은 산업 리더들과 협력하여, 구글은 GAI로 생성된 콘텐츠의 워터마킹 기술을 몇 달 동안 다듬어왔습니다.
최신 버전인 콘텐츠 자격 증명(Content Credentials)은 콘텐츠 생성 및 수정에 대한 메타데이터를 보호하고 있으며, 향상된 검증 방법 덕분에 보안성과 변조 저항력이 개선되었습니다. 구글은 향후 몇 달 안에 이 업데이트된 표준을 주요 제품에 통합하여 사용자가 구글 검색 결과에서 GAI에 영향을 받은 이미지를 쉽게 식별할 수 있도록 할 계획입니다. 이미지에 C2PA 메타데이터가 포함되어 있으면, 사용자는 곧 구글 이미지, 렌즈, 서치의 "이 이미지에 관하여" 도구를 통해 GAI의 영향을 탐색할 수 있게 됩니다.
또한, 구글은 YouTube에서 C2PA 적용을 검토 중이며, 관객에게 촬영된 영상의 카메라 사용 시점을 알릴 계획입니다. 이 이니셔티브에 대한 더 많은 정보는 올해 후반에 공개될 예정입니다. 구글은 광고 시스템에도 C2PA 메타데이터를 통합할 계획이지만, 구체적인 구현 세부사항은 알려지지 않았습니다. 구글은 C2PA 신호가 주요 정책을 점진적으로 시행하는 데 도움이 될 것이라고 밝혔습니다.
하지만 이 시스템의 효율성은 카메라 제조사와 GAI 도구 개발자의 C2PA 워터마킹 표준 채택에 달려 있습니다. 메타데이터 제거가 이미지에서 수행될 수 있다는 점은 구글의 GAI 사용 탐지에 복잡성을 더할 수 있습니다.
한편, 메타는 Facebook, Instagram 및 Threads와 같은 플랫폼에서 GAI 콘텐츠 공개 방식을 개선하고 있습니다. 최근 메타는 AI 도구로 수정된 이미지의 라벨 가시성을 줄이기 위한 정책을 업데이트했습니다. 이번 주부터 C2PA 메타데이터가 Photoshop의 GAI 기능을 사용해 이미지가 조정된 것을 보여줄 경우, "AI 정보" 라벨이 눈에 덜 띄게 배치되며, 게시물 메뉴에 등장하게 됩니다.