ChatGPT уходит в 'беспорядок': отвечает путаным бредом вместо ясных ответов

Несколько дней спустя после демонстрации впечатляющих фотореалистичных примеров нового ИИ-модели генерации видео Sora, OpenAI столкнулась с серьезной проблемой.

20 февраля 2024 года ChatGPT начал выдавать неразборчивые и абсурдные ответы, что побудило пользователей выразить недовольство на платформе X (ранее Twitter). Некоторые пользователи поделились примерами, в которых ответы ChatGPT странным образом смешивали английский и испанский языки, создавая бессмысленные фразы с вымышленными словами и повторяющимися выражениями, что отходило от заданных пользователем тем.

Один внимательный пользователь сравнил эти случайные словосочетания с тревожным «странным ужасом» инопланетного граффити из романа Джеффа Вандермеера 2014 года «Уничтожение». Это сравнение отозвалось у читателей, которые уловили зловещую атмосферу, напоминающую несинхронизированный, нечеловеческий интеллект.

Некоторые пользователи в шутку предположили о возможном «восстании роботов», отсылая к популярным научно-фантастическим сюжетам, таким как «Терминатор» и «Матрица», в то время как другие считали произошедшее лишь сбоями. Многие предупредили, что такие ошибки подрывают доверие к инструментам генеративного ИИ в письменной и кодировочной деятельности.

К 15:40 по тихоокеанскому времени 20 февраля OpenAI признала проблему на своем публичном статус-дашборде. Вскоре, в 15:47, компания сообщила о том, что идентифицировала проблему и активно работает над её решением. К почти 17:00 они подтвердили, что продолжают мониторить ситуацию.

На следующий день, в 10:30 по тихоокеанскому времени, проверенный аккаунт ChatGPT в X успокоил пользователей: «Вчера немного сбились с курса, но теперь всё снова работает!» Позже аккаунт ChatGPT опубликовал итоги с сайта OpenAI, пояснив, что «оптимизация пользовательского опыта привела к ошибке в обработке языка моделью», но подтвердил, что исправление было реализовано.

Несмотря на быстрое разрешение ситуации, инцидент вызвал обеспокоенность по поводу надежности и целостности ChatGPT и других продуктов OpenAI, таких как GPT-4 и GPT-3.5, особенно для критически важных задач в таких отраслях, как транспорт, здравоохранение и инженерия.

Непрерывным остается вопрос: как предотвратить подобные проблемы в будущем?