OpenAI признает разработку технологии векторизации текста ChatGPT несмотря на серьезные трудности.

OpenAI Разрабатывает Технологию Водяных Знаков для Идентификации Контента, Генерируемого ChatGPT

Согласно отчету The Wall Street Journal, компания OpenAI подтвердила, что работает над инструментом высокой точности для идентификации текста, созданного с помощью ChatGPT, хотя он еще не представлен официально. Компания признает, что разработка технологии водяных знаков для текста сталкивается с множеством трудностей, однако она продолжает свои исследования в этой области.

Суть технологии водяных знаков заключается в способности точно выявлять текст, который можно отнести к ChatGPT, в отличие от контента, созданного другими моделями. OpenAI планирует добиться этого, тонко корректируя выбор слов, генерируемых ChatGPT, чтобы внедрить невидимый водяной знак, который затем можно будет обнаружить с помощью специализированных инструментов.

Компания отметила, что водяные знаки для текста являются лишь одним из нескольких решений, которые они исследуют наряду с классификаторами и метаданными для определения происхождения текста. Однако эффективность технологии водяных знаков может значительно снизиться в случае перевода, переработки или вставки специальных символов. Кроме того, эта технология может disproportionately затрагивать определенные группы, особенно неанглоязычных пользователей.

Учитывая эти сложности и возможные последствия для широкой экосистемы, OpenAI заявила, что будет осторожно подходить к разработке технологий отслеживания текста, сосредоточив внимание на совершенствовании инструментов проверки для аудиовизуального контента.