Может ли существовать точный инструмент для водяных знаков в ChatGPT? Объяснение решения OpenAI не раскрывать его

Плагиаторы ChatGPT, обратите внимание: OpenAI разработала инструмент, который может обнаружить текст, созданный с использованием GPT-4, с впечатляющей точностью 99,99%. Тем не менее, компания уже более года обсуждает, стоит ли делать его доступным для широкой публики. Согласно информации TechCrunch, OpenAI применяет «преднамеренный подход» из-за сложностей и возможных последствий, которые этот инструмент может повлечь для всей экосистемы. Представитель OpenAI отметил, что «метод водяных знаков, который мы разрабатываем, демонстрирует технический потенциал, но мы взвешиваем значительные риски. К ним относятся возможность обхода инструмента злоумышленниками и необходимость учёта интересов таких групп, как носители других языков».

Система водяных знаков внедряет специфический шаблон в выводы модели, что делает его обнаружимым для инструмента OpenAI, но невидимым для пользователей. Она эффективно идентифицирует текст, созданный с помощью GPT-4, но не может различать результаты от других AI-моделей, таких как Gemini или Claude. Более того, водяной знак можно легко удалить, переведя текст на другой язык, а затем обратно на оригинал.

Это не первая попытка OpenAI создать инструмент для обнаружения текста. В прошлом году компания тихо прекратила подобный проект из-за неудовлетворительной точности обнаружения и частых ложноположительных результатов. Запущенный в январе 2023 года, тот инструмент требовал от пользователей ввода не менее 1000 символов текста для анализа. С точностью лишь 26% в правильной идентификации AI-сгенерированного контента, он ошибочно классифицировал 9% текстов, написанных людьми, как произведенные AI. Это даже привело к тому, что профессор Texas A&M неправильно исключил целый класс из-за предполагаемого использования ChatGPT в финальных заданиях. Кроме того, OpenAI насторожена в отношении возможной реакции пользователей; согласно Wall Street Journal, 69% пользователей ChatGPT считают такой инструмент ненадежным, опасаясь ложных обвинений в мошенничестве. Еще 30% заявили, что перейдут на альтернативные модели, если OpenAI запустит данную функцию. Также существуют опасения, что разработчики могут обратным методом создать контр-инструменты для водяного знака. Пока OpenAI продолжает взвешивать плюсы и минусы запуска своей системы водяных знаков, другие стартапы AI спешат представить инструменты для обнаружения текста, такие как GPTZero, ZeroGPT, Scribbr и Writer AI Content Detector. Однако общая неточность этих инструментов означает, что человеческий глаз остается нашим самым надежным методом для выявления AI-сгенерированного контента, что не радует.