Генеральный директор Google прокомментировалcontroversy с генерацией изображений в Gemini: назвал проблемы «неприемлемыми» и обязался к решению ситуации.

Недавно генеральный директор Google Сундар Пичаи публично высказался о проблемах, связанных с инструментом генерации изображений Gemini, основанным на ИИ. Этот инструмент подвергся критике за свои исторические изображения, которые неадекватно представляют людей с цветом кожи, например, показывая их как викингов или коренных католических пап. Пичаи назвал эту ситуацию «неприемлемой» и пообещал, что компания будет «неустанно работать» над их устранением.

В сообщении сотрудникам Пичаи подчеркнул: «Никакой искусственный интеллект не идеален, особенно в этой развивающейся отрасли. Тем не менее, мы осознаем необходимость достижения высоких стандартов и будем нацелены на это столько, сколько потребуется. Мы тщательно проанализируем произошедшее, чтобы решить эти проблемы в широком масштабе».

Он также объявил, что, хотя чат-бот Gemini (ранее известный как Bard) достиг значительного прогресса в различных запросах, возможности генерации изображений Google Gemini будут приостановлены до полного решения выявленных проблем.

Прабхакар Рагаван, старший вице-президент Google по знаниям и информации, объяснил корень проблемы. Он уточнил, что дело не в самой модели, а в ряде ошибок во время процесса настройки. Хотя модель стремилась учесть разнообразные группы населения в своих обучающих данных, она «не учла ситуации, которые не следует представлять». Более того, модель стала более осторожной, иногда отклоняясь от ответов на определенные запросы, чтобы избежать создания чувствительных или абсурдных ошибок.

Чтобы предотвратить подобные проблемы в будущем, Google обязался к комплексной серии исправлений и тестов. Эти меры включают структурные изменения, обновленные руководства по продуктам, улучшенные процессы релиза, усовершенствованные оценочные механизмы и внедрение «красной команды» и технических рекомендаций. Пичаи остаётся оптимистом относительно будущего Gemini и ожидает, что генератор изображений вскоре вновь заработает.

Этот инцидент служит напоминанием о тех вызовах, с которыми сталкиваются технологии ИИ. Несмотря на значительный прогресс, отрасли необходимо продолжать стремиться к улучшению. Как лидер в секторе, реакция Google окажет широкое влияние на всю сферу.