«По-настоящему опасно»: неточные обзоры ИИ от Google вызывают насмешки и тревогу

Стоит ли добавлять клей в пиццу? Смотреть на солнце 30 минут? Есть камни? Лечить укусы змей льдом?

Согласно новой функции «AI Overview» от Google, эти опасные предложения появляются среди топовых результатов при поиске информации.

Что такое Google AI Overview?

В мае 2023 года Google запустил «Search Generative Experience», чтобы конкурировать с ChatGPT от OpenAI. Этот интеллектуальный обзор ключевой информации отображается под строкой поиска, перед традиционным списком синих ссылок. Изначально это была функция по выбору, но позже она стала стандартной для всех пользователей в США после ребрендинга на конференции I/O. Пользователи могут отключить эту функцию, переключившись на вкладку «Веб» во время поиска.

Почему Google AI Overview вызывает споры?

После запуска многие стали обращаться в X (ранее Twitter), чтобы указать на тревожные, зачастую недостоверные результаты, генерируемые AI Overview. Некоторые из запутанных результатов могут быть даже вредными или провокационными, что вызвало критику со стороны знаменитостей и пользователей. Низкое качество ответов, сгенерированных ИИ, породило мемы и шутки, высмеивающие надежность Google.

В ответ на эти опасения Google обозначил функцию AI Overview как «экспериментальную», что подразумевает возможные вариации в точности результатов. Компания утверждает, что отзывы пользователей и человеческие проверки помогут улучшить систему.

Удалит ли Google AI Overview?

Появились призывы к Google пересмотреть функцию AI Overview, особенно после прошлых инцидентов, когда компания приостанавливала ИИ-инструменты за создание проблемных результатов. Представитель компании отметил, что наиболее тревожные примеры, опубликованные в Интернете, касались «очень необычных запросов», и они отреагировали на единичные случаи, доработав функцию. Однако некоторые пользователи рассматривают это как предлог, ставя под сомнение целостность системы, основанной на генерации контента из ранее индексируемых источников, включая дезинформацию и сатиру.

Заключение

Хотя неясно, сколько поисков приводит к неточным данным, AI Overview кажется более уязвимым к ненадежным источникам, чем традиционный поиск Google. Пользователи должны быть осторожны и проверять информацию из надежных источников, прежде чем делать выводы на основе сгенерированных ИИ результатов. Альтернативы, такие как Perplexity, зарекомендовали себя как более точные в предоставлении достоверной информации, что подчеркивает ироничный поворот для Google, который стал пионером технологий современного генеративного ИИ.