Официальная демонстрация OpenAI SearchGPT раскрывает уязвимость: разоблачение секретов исходного кода и механизма поиска.

Заголовок: Проблемы SearchGPT: Битва между Иллюзией и Реальностью

Всего через два дня после запуска SearchGPT демонстрация пользователя Kesku вызвала значительный интерес в интернете благодаря поразительно быстрой выдаче результатов. Однако официальная демонстрация от OpenAI была подвергнута критике в отчете The Atlantic, выявившему серьезные неточности. Когда SearchGPT спросили о «музыкальном фестивале в Бун, Северная Каролина, в августе», он неожиданно предоставил неверную дату, что вызвало сомнения в его надежности.

Представитель OpenAI Кайла Вуд подтвердила ошибку в интервью The Atlantic, указав, что это был первоначальный прототип и в настоящее время ведутся работы по его улучшению. Этот инцидент напоминает о крупной ошибке, допущенной Google с Bard, который тоже столкнулся с критикой из-за неточностей после своего запуска. В феврале 2023 года Bard ошибочно заявил, что телескоп Джеймса Уэбба запечатлел первое изображение экзопланеты, на самом деле это достижение принадлежит Европейской южной обсерватории и её VLT. Эта ошибка привела к падению акций Alphabet на 9%, что обернулось потерями в 100 миллиардов долларов рыночной стоимости.

В отличие от этого, OpenAI выбрала более осторожный подход, ограничив доступ к внутренним тестированиям, извлекая уроки из неудачи Google. Учитывая широкий доступ, даже если OpenAI удастся снизить уровень «галлюцинаций» в SearchGPT, ошибка всего лишь в 1% может привести к миллионам неточных ответов ежедневно. Более того, в настоящее время не существует надежных методов, позволяющих полностью исключить галлюцинации и ошибки в больших языковых моделях (БЯМ).

Андрей Карпаты отметил в Twitter, что галлюцинации — это не простые ошибки, а характерная черта БЯМ. Он сравнивает БЯМ с «машинами снов», которые, когда их запрашивают, создают контент, часто полезный, но иногда попадающий в фактические ошибки, что приводит к «галлюцинациям». Этот механизм принципиально отличается от традиционных поисковых систем, которые возвращают наиболее релевантные документы из своих баз данных, не создавая совершенно новых ответов.

Карпаты считает, что современные модели AI поиска на основе БЯМ не могут гарантировать 100% точность результатов. Это поднимает интересный вопрос: в процессе трансформации поисковых систем будет ли креативность БЯМ сосуществовать с надежностью традиционных методов поиска, или одно в конечном итоге заменит другое? Этот вопрос требует внимательного рассмотрения.