OpenAI, 2024년 글로벌 선거를 앞두고 AI 인용 및 이미지 안전 조치를 공개하다.

Home AI 뉴스 OpenAI, 2024년 글로벌 선거를 앞두고 AI 인용 및 이미지 안전 조치를 공개하다.

지난주 OpenAI는 GPT Store를 출시하여 제3자 제작자들이 맞춤형 챗봇(GPTs)을 선보이고 수익화할 수 있는 플랫폼을 제공했습니다. 그러나 2024년 1월에 들어서면서 OpenAI의 혁신은 계속되고 있습니다.

월요일, OpenAI는 AI 도구에 대한 새로운 안전장치를 설명하는 블로그 포스트를 발표했으며, 특히 이미지 생성 모델 DALL-E와 ChatGPT의 인용 관행에 중점을 두었습니다. 이 이니셔티브는 올해 남은 여러 선거를 앞두고 잘못된 정보와 싸우는 것을 목표로 하고 있습니다. 블로그에서는 “선거의 무결성을 보호하기 위해서는 민주적 과정의 모든 분야에서 협력해야 하며, 우리의 기술이 이 과정에 해를 끼치지 않도록 하려 합니다.”라고 설명했습니다.

현재의 안전장치 중 하나는 사용자가 맞춤형 GPT와 관련된 잠재적 위반 사항을 신고할 수 있는 “신고” 기능입니다. 여기에는 실제 인물이나 기관을 가장하는 경우가 포함되며, 이는 OpenAI의 사용 정책을 위반하게 됩니다.

예상되는 새로운 조치

OpenAI의 블로그에 따르면, 사용자는 곧 전 세계의 실시간 뉴스 보도를 이용할 수 있게 되며, 이는 출처 표시와 링크를 포함하여 ChatGPT를 통해 얻는 정보의 신뢰성을 높일 것입니다. 이 개선은 Associated Press 및 Politico와 Business Insider의 모회사 Axel Springer와 같은 신뢰할 수 있는 매체와의 파트너십에 부합합니다.

특히 OpenAI는 콘텐츠 출처와 진위 인증을 위한 연합(C2PA)에서 이미지 증명서를 도입할 예정입니다. 이 이니셔티브는 AI로 생성된 콘텐츠에 암호화된 디지털 워터마크를 적용하여 미래에 이를 감지할 수 있도록 보장하는 것입니다. OpenAI는 DALL-E 3 이미지에 C2PA 증명서를 통합할 계획이며, 구체적인 날짜는 아직 발표되지 않았습니다.

또한 OpenAI는 DALL-E가 생성한 이미지를 탐지하기 위한 “출처 분류기” 도구를 미리 공개했습니다. 이 도구는 사용자가 이미지를 업로드하여 AI 출처를 확인할 수 있게 합니다. 블로그에서는 “우리의 내부 테스트에서 일반적인 수정 작업을 거친 이미지에서조차 긍정적인 결과가 나타났습니다.”라고 언급하며, “이 도구를 기자, 플랫폼, 연구자 등 최초의 테스트 그룹에 조만간 출시할 계획입니다.”라고 밝혔습니다.

정치 캠페인에서 AI의 역할

미국의 공화당 전국위원회(RNC)와 같은 정치 조직들이 상대방을 가장하는 메시징에 AI를 점점 더 많이 사용하는 가운데, OpenAI의 안전장치가 예상되는 디지털 잘못된 정보를 억제하는 데 얼마나 효과적일지는 불확실합니다. 그럼에도 불구하고 OpenAI는 도구의 남용에 대한 우려 속에서 진실과 정확성을 지지하는 입장을 분명히 하고 있습니다.

WEF 2024 보고서: 사이버 보안 우선순위—디지털 시대 신뢰 회복을 위한 제로 트러스트 필수

파인콘, AI 환각 방지를 위한 혁신적인 벡터 데이터베이스 아키텍처 공개

Most people like

QuizMate

41.1K

학습 경험을 향상시키세요. QuizMate는 학습 과정을 효율적으로 관리하도록 설계된 AI 기반 도구입니다.

퀴즈 도우미 Homework Helper

Luma AI video Generator Free Online

485.3K

오늘날의 디지털 환경에서는 주목받는 것이 그 어느 때보다 중요합니다. 텍스트와 사진을 위한 AI 비디오 생성기를 사용하면 작성된 내용과 이미지를 매력적인 비디오로 쉽게 변환할 수 있습니다. 이 혁신적인 도구는 창작 과정을 간소화하여 청중을 사로잡는 멋진 시각적 내러티브를 만들어냅니다. 콘텐츠 제작자이든 마케팅 전문가이든 사업자이든, AI 비디오 생성기를 활용하면 스토리텔링을 강화하고 온라인 존재감을 높일 수 있습니다. 텍스트와 사진을 활용해 시청자와 공감할 수 있는 매력적인 비디오로 전환하여 참여를 증대시키는 방법을 알아보세요.

AI 비디오 생성기 Text to Video

BuildShip

125.8K

원활한 API 생성, 효율적인 예약 작업, 그리고 간소화된 백엔드 작업을 지원하는 비주얼 로우코드 플랫폼을 만나보세요. 복잡한 워크플로우를 간단하게 만들어주는 직관적인 도구로 개발 프로세스의 잠재력을 열어보세요.

로우코드 AI API Design

CouponGPTs

61.1K

최고의 쿠폰과 프로모션 코드를 손쉽게 찾아주는 AI 기반 도구를 만나보세요. 번거로운 할인 검색 없이 오늘 바로 우리의 혁신적인 솔루션으로 간편하게 절약하세요.

쿠폰 찾기 AI Advertising Assistant

Find AI tools in YBX