Google приостановил функцию генерации людей в Gemini после нескольких случаев "пробуждения" с неверной информацией.

На фоне разгорающейсяcontroversy на этой неделе вокруг нового AI-чат-бота Google, Gemini, который создал исторически неточные изображения — таких как изображение основателей США как чернокожих и основателей Google как азиатских — компания объявила о временной приостановке функции генерации изображений людей.

Google подтвердила, что реагирует на озабоченность пользователей и планирует восстановить эту функцию в будущем. Скриншоты, которые поделились технические эксперты, писатели и пользователи Gemini, показывают, что ИИ часто создает изображения людей с различным этническим фоном, не учитывая историческую точность. К примеру, были сгенерированы чернокожие католические папы (хотя таких никогда не было), викинги с тёмной кожей (что не соответствует действительности) и немецкие солдаты нацистов в азиатской интерпретации (хотя большинство из них не были таковыми).

Хотя модели генерации изображений стремятся устранить предвзятость и продвигать разнообразие, стандартные выходные данные Gemini вызвали дебаты о подходе Google к репрезентации, что привело к широкой насмешке и критике. В ответ на негативные отзывы старший директор продукта Google, Джек Кравчик, подтвердил проблему и отметил, что компания работает над улучшением модели, чтобы лучше учитывать исторический контекст, сохраняя при этом приверженность разнообразию в более широких записях, например, при изображении человека с собакой. "В рамках наших принципов ИИ мы разрабатываем возможности генерации изображений, чтобы отразить нашу глобальную пользовательскую базу, и мы серьезно относимся к репрезентации и предвзятости", — заявил Кравчик.

Ситуация вызвала значительную критику со стороны пользователей и влиятельных личностей, включая венчурных капиталистов Марка Андриссена и Пола Грэма, разжигнув более широкую дискуссию о надежности ИИ-чат-ботов, таких как Gemini, в соблюдении баланса между разнообразием и фактической точностью. Эта контроверсия даже привлекла внимание общественности, попав в заголовки The New York Post.

Пока Google работает над решением, стоит отметить, что это не первый случай, когда Gemini сталкивается с критикой. С момента запуска модели Gemini в декабре 2023 года, которая была представлена как сопоставимая, а иногда и превосходящая GPT-4 от OpenAI, Google сталкивается с постоянными проблемами.

Первоначальный запуск вызвал недовольство из-за постановочного видео, которое преувеличивало возможности Gemini как цифрового ассистента. Кроме того, обзор независимых исследователей показал, что Gemini уступает в производительности более старой модели OpenAI, GPT-3.5.

В этом месяце Google переименовала свой чат-бот Bard в Gemini и представила продвинутые версии для подписчиков, а также продвигала обновленный Duet AI под брендом Gemini для Workspace. Несмотря на обещания улучшенных функций с Gemini 1.5 и Advanced — особенно в области видеоанализа и обработки документов — эти преимущества могут быть затенены продолжающимися спорами.

Кравчик подчеркнул, что сообщение о проблемах, таких как неточная генерация изображений, имеет важное значение для улучшения. Однако если проблемы продолжатся, это может подорвать усилия Google по позиционированию Gemini в качестве лидера в конкурентной сфере генеративного ИИ.