OpenAI, C2PA 그룹의 리더로서 콘텐츠 인증을 추진하며 Sora 비디오를 AI 생성으로 라벨링하다.

오픈AI, 콘텐츠 출처 및 진위 연합에 가입

오픈AI는 Microsoft와 Adobe가 2021년 2월에 설립한 콘텐츠 출처 및 진위 연합(C2PA)의 운영위원회 회원으로 가입했다고 발표했습니다. 이 연합에는 Arm, BBC, Intel, Truepic 등 다른 저명한 기업들도 함께 참여하고 있습니다.

C2PA 가입의 목적

오픈AI는 디지털 콘텐츠의 생성 또는 편집에 사용된 도구를 확인하고, 자신의 도구로 생성된 콘텐츠를 식별하는 기술을 개발하는 데 기여하고자 합니다. 경쟁업체를 포함한 다른 산업 참여자들과의 협력은 AI가 생성한 이미지, 비디오 및 기타 미디어에 라벨을 부여할 수 있는 자원을 만드는 것을 목표로 합니다. 이를 통해 사용자는 콘텐츠의 출처를 추적하고 진본 footage 및 사진과 구별할 수 있게 됩니다.

C2PA의 역할

비영리 단체인 조인트 개발 재단의 보조를 받는 C2PA는 "콘텐츠 출처 및 진위의 기술 규격"을 설정하는 데 집중하고 있습니다. 설립 이후, Google과 같은 다른 기술 대기업도 위원회에 참여하고 있습니다. C2PA는 AI로 생성된 콘텐츠의 출처를 명확히 하는 여러 오픈 소스 표준을 개발했습니다.

주요 표준 중 하나는 C2PA 아키텍처로, 암호학적으로 검증 가능한 정보를 저장하고 접근할 수 있도록 하여 사용자가 정의된 신뢰 모델에 따라 콘텐츠의 신뢰성을 평가할 수 있도록 돕습니다.

콘텐츠 인증서 구현

C2PA의 회원들은 이 아키텍처를 활용하여 "콘텐츠 인증서"라는 작은 "CR" 워터마크를 생성하였습니다. 이 기능은 사용자가 이미지의 제작자와 사용된 도구를 식별하는 데 도움을 줍니다. 사용자는 마우스 오버 또는 탭을 통해 자세한 정보를 확인할 수 있습니다.

C2PA 아키텍처는 디지털 미디어 파일의 메타데이터에 통합될 수 있어 오프라인에서도 접근이 가능합니다. 오픈AI는 2023년 2월부터 DALL-E 3 모델로 생성된 이미지에 이 표준을 적용해왔으며, Meta 역시 C2PA 표준을 사용해 AI가 생성한 이미지를 라벨링하기 시작했습니다.

산업 협력에 대한 발언

오픈AI의 글로벌 업무 담당 부사장인 안나 마칸주(Anna Makanju)는 C2PA 보도 자료에서 디지털 출처에 대한 공동 표준을 촉진하는 조직의 역할을 강조했습니다. 그녀는 이러한 노력에 기여하는 것이 온라인에서 소비자들이 접하는 디지털 콘텐츠에 대한 신뢰 구축에 중요하다고 강조했습니다.

소라(Sora)의 미래 개발

아직 공개되지 않은 오픈AI의 고급 비디오 생성 AI 모델인 소라는 C2PA 메타데이터를 적용하여 신뢰할 수 있는 파트너에게 배포될 시 AI 생성임을 라벨링할 예정입니다.

DALL-E 탐지 분류기 프로그램

오픈AI는 DALL-E 탐지 분류기 연구자 접근 프로그램을 시작했습니다. 이 프로그램은 이미지를 DALL-E 3 모델에서 파생된 것인지 예측하는 이진 분류기를 포함하고 있습니다. 오픈AI는 연구실과 언론 비영리 단체의 참여를 7월 31일까지 신청할 것을 초대합니다.

사회적 회복력 기금 조성

Microsoft와 함께 오픈AI는 노인 및 기술에 익숙하지 않은 사람들을 위한 AI 교육을 강화하기 위해 200만 달러 규모의 사회적 회복력 기금을 설립하고 있습니다. 이 이니셔티브는 AARP, 국제 IDEA, Partnership on AI와 같은 조직과 협력하고 있습니다.

이 발표들은 Facebook과 같은 소셜 미디어 플랫폼에서 AI가 생성한 이미지가 사용자에게 오해를 일으키는 것에 대한 우려가 커지는 시점에 이루어졌습니다. 오픈AI의 이중 접근법은 콘텐츠 생성과 교육 모두를 해결하는 것을 목표로 하고 있습니다.

그러나 오픈 소스 AI 도구의 확산과 이미지 변조 가능성으로 인해 AI가 생성한 콘텐츠를 신뢰성 있게 라벨링하는 것은 계속해서 도전 과제가 되고 있습니다. 그럼에도 불구하고 오픈AI의 선제적 조치는 디지털 콘텐츠의 발전하는 환경 속에서 사회적 책임을 다하겠다는 의지를 나타냅니다.