OpenAI와 Meta가 협력하여 AI 생성 이미지의 투명성을 위한 라벨링 진행

Home AI 뉴스 OpenAI와 Meta가 협력하여 AI 생성 이미지의 투명성을 위한 라벨링 진행

OpenAI는 자사의 대표 앱인 ChatGPT와 통합 AI 이미지 생성기 DALL-E 3의 업데이트를 발표했습니다. 이번 업데이트는 사용자가 AI로 생성된 이미지를 식별할 수 있도록 새로운 메타데이터 태깅 기능을 도입했습니다.

이 발표는 Meta의 유사한 이니셔티브와 밀접하게 연결되어 있으며, Meta는 Instagram, Facebook, Threads와 같은 플랫폼에서 사용할 수 있는 별도의 이미지 생성기인 Imagine으로 생성된 AI 이미지를 라벨링하려고 합니다. OpenAI에 따르면, C2PA 사양에 기반한 이 새로운 메타데이터는 콘텐츠 플랫폼과 분배자가 자사의 제품으로 생성된 이미지를 인식할 수 있도록 합니다. 웹 사용자는 이미 업데이트를 적용받았으며, 모든 모바일 사용자는 2월 12일까지 적용될 예정입니다.

또한 OpenAI는 사용자들이 이미지를 업로드하여 AI 생성 상태를 검증할 수 있는 ‘Content Credentials’ 사이트를 개설했습니다. 단, 이 기능은 오늘 이후에 생성된 이미지에만 적용되며, 이전에 생성된 이미지는 새로운 메타데이터를 포함하지 않습니다.

C2PA란?

C2PA는 미디어 콘텐츠의 출처와 역사 인증을 위한 기술 표준 개발을 목표로 2021년 2월에 설립된 협업 이니셔티브입니다. Adobe, Microsoft, The New York Times와 같은 저명한 기업들이 자금을 지원하고 있으며, 허위 정보와 온라인 콘텐츠 사기를 방지하는 임무를 가지고 있습니다. C2PA는 2022년 1월에 AI 생성 이미지에 메타데이터를 삽입하기 위한 초기 기술 표준을 발표하여 특정 상황에서 그 기원을 공개했습니다. 최근 유명인 및 소셜 미디어 사용자와 관련된 비합의 딥페이크 콘텐츠의 확산은 C2PA 작업의 긴급성을 강조하고 있습니다. OpenAI는 2024년 선거를 앞두고 허위 정보를 줄이기 위해 C2PA 표준을 적용하겠다고 밝힌 바 있습니다.

OpenAI의 C2PA 적용 방법

OpenAI는 AI 생성 이미지 파일에 전자 '서명' 형태로 메타데이터를 삽입하고 있습니다. 하지만 이 메타데이터는 의도치 않게 또는 고의적으로 제거될 수 있다는 점을 회사의 도움 사이트에서 인정하고 있습니다. 예를 들어, 대부분의 소셜 미디어 플랫폼은 업로드된 이미지에서 메타데이터를 제거하며, 스크린샷을 촬영하는 것과 같은 행동도 이를 없앨 수 있습니다. 따라서 메타데이터가 없다고 해서 해당 이미지가 ChatGPT 또는 DALL-E 3로 생성된 것인지 확실하게 판단할 수는 없습니다.

더불어, 이 메타데이터는 파일 설명에 접근하지 않는 한 사용자에게 보이지 않습니다. 반면 Meta는 AI 생성 이미지를 명확하게 표시하기 위해 스파클 이모지와 같은 시각적 식별자를 포함하는 공개용 AI 라벨링 시스템을 개발하고 있습니다. Meta의 기능은 아직 설계 중이며, 향후 몇 달 내에 C2PA 표준과 IPTC Photo Metadata Standard를 기반으로 출시될 예정입니다.

이 이니셔티브는 AI 생성 콘텐츠의 투명성과 진정성에 대한 두 회사의 의지를 강조하며, 허위 정보와 디지털 무결성 문제에 대한 관심이 높아지고 있음을 반영합니다.

'Smaug-72B': 오픈소스 AI 솔루션의 새로운 챔피언 소개

애플, ‘MGIE’ 공개: 교육 기반 이미지 편집을 혁신하는 획기적인 AI 모델

Most people like

Dice la cancion

25.8K

가장 좋아하는 노래 가사의 의미를 풀어내고 음악 속 이야기들을 발견해 보세요. 단어에 깊이를 부여하는 주제, 감정, 영감을 깊이 탐구하며 예술성에 대한 이해를 높여보세요. 우리의 통찰을 통해 사랑하는 노래와 더 깊은 연결을 느낄 수 있습니다. 오늘 우리와 함께 노래 가사의 의미를 탐험하는 여정에 참여하세요!

노래 가사 AI Lyrics Generator

RSIP Vision

15.1K

오늘날 빠르게 변화하는 의료 환경에서, 의료 이미지 분석과 인공지능(AI)의 융합은 진단 및 치료 계획에 혁신을 가져오고 있습니다. 이 분야의 선두주자로서 우리는 정교한 이미징 기법과 AI 기반 통찰력을 통해 환자 결과를 향상시키는 데 전념하고 있습니다. 우리의 선구적인 노력은 기술을 발전시키는 것에 그치지 않고, 의학의 치료 기준을 재정의하며, 정밀 의료의 추구에서 중요한 초석이 되고 있습니다. 우리의 획기적인 혁신이 의료 이미징의 미래를 어떻게 형성하고 있으며, 의료 시스템 전반의 효율성을 어떻게 향상시키고 있는지 알아보세요.

의료 이미지 분석 Healthcare

Potions

Potions는 쿠키 없이도 방문객을 위한 맞춤형 전자상거래 경험을 제공합니다.

전자상거래 개인화 E-commerce Assistant

Zebracat

283.1K

오늘날의 디지털 환경에서 효과적인 마케팅은 관객과 공감하는 매력적인 비주얼을 요구합니다. AI 기반 마케팅 동영상 제작은 고품질 콘텐츠 제작 과정을 간소화하여 브랜드가 시청자와 더 효과적으로 소통할 수 있도록 합니다. 정교한 알고리즘과 머신 러닝을 활용함으로써 기업은 주목을 끌 뿐만 아니라 전환도 이끌어내는 맞춤형 동영상을 제작할 수 있게 되었습니다. AI 기술이 어떻게 비디오 마케팅을 브랜드 성장과 관객 연결을 위한 역동적인 도구로 변화시키는지 탐색해 보십시오.

AI 비디오 제작기 AI Video Generator

Find AI tools in YBX