OpenAI, ChatGPT의 텍스트 워터마킹으로 학생들 사이의 부정행위 식별 탐색

Home AI 뉴스 OpenAI, ChatGPT의 텍스트 워터마킹으로 학생들 사이의 부정행위 식별 탐색

월스트리트 저널의 보고서에 따르면, OpenAI가 ChatGPT가 생성한 에세이를 정확하게 식별할 수 있는 도구를 개발했다는 내용이 있습니다. 이에 OpenAI는 자사의 텍스트 워터마킹 연구에 대한 통찰을 제공했습니다. 이 보고서는 도구의 출시를 둘러싼 논의가 공개 가능성을 지연시켰다고 전하고 있으며, 도구는 이미 “준비 완료” 상태라고 합니다.

OpenAI는 “우리 팀은 다양한 대안을 탐색하며 지속적으로 평가 중인 텍스트 워터마킹 방법을 개발했습니다.”라고 밝혔습니다. 회사는 워터마킹이 텍스트 출처에 대한 광범위한 연구의 일환으로 검토 중인 여러 접근 방식 중 하나일 뿐이라고 설명했습니다.

OpenAI는 특정 상황에서 워터마킹 방법이 높은 정확성을 보였지만, 번역 시스템 사용, 다른 생성 모델을 통한 재표현, 단어 사이에 특수 문자를 삽입한 후 제거하는 등의 조작에는 어려움을 겪고 있다고 강조했습니다. 또한 OpenAI는 워터마킹이 특정 사용자 그룹에 불균형한 영향을 미칠 수 있다는 우려를 제기하며, “예를 들어, 이는 비원어민 영어 사용자가 AI를 유용한 글쓰기 도구로 활용하는 데 사회적 낙인을 초래할 수 있습니다.”라고 언급했습니다.

OpenAI는 블로그 포스트에서 이러한 잠재적 위험을 신중히 고려하고 있다고 강조했습니다. 회사는 시청각 콘텐츠 인증 도구의 출시도 우선시하고 있습니다. OpenAI 대변인은 복잡성 및 자사 운영 외의 넓은 생태계에 미칠 잠재적 영향을 감안하여 텍스트 출처에 대한 “신중한 접근”을 채택하고 있다고 설명했습니다.

NVIDIA AI 팀, 무단으로 YouTube 및 Netflix 영상 수집했다 주장

구글, AI로 팬레터 쓰는 아이 등장한 올림픽 광고 취소

Most people like

Misgif

309.6K

AI의 힘으로 좋아하는 쇼에 맞춤형 콘텐츠를 생성하세요! 전례 없는 방식으로 시청 경험을 맞춤 설정하세요!

지프스 AI GIF Generator

AdNabu

61.3K

AdNabu는 Shopify 사용자에 맞춰 특별히 설계된 제품 피드 관리 소프트웨어입니다. 다양한 온라인 채널에서 제품 데이터 피드의 최적화 및 관리를 간소화하여 전자상거래의 효과성과 가시성을 향상시킵니다.

제품 피드 관리 AI Advertising Assistant

Muah.AI

1.8M

AI 기반 동반자 RPG로 향상된 가상 상호작용을 소개합니다! 지능형 상호작용을 통해 온라인 경험을 한 단계 끌어올리기 위해 설계된 혁신적인 롤플레잉 게임을 만나보세요. 여러분의 선택과 선호에 맞춘 다채로운 캐릭터와 몰입감 있는 이야기에 참여해 보세요. 가상 세계에서의 연결 방식을 변화시키는 경험을 제공합니다. 오늘날 게임과 사회적 상호작용의 미래를 체험해 보세요!

AI 기반 AI Girlfriend

Face26

203.7K

Face26의 무료 AI 사진 향상기로 사진을 손쉽게 개선하세요. 몇 번의 클릭만으로 이미지 품질을 높이고, 세부 사항을 선명하게 하며, 사진의 생기를 되살립니다.

사진 향상기 AI Photo Enhancer

Find AI tools in YBX