Google: Мобильные модели ИИ потребляют значительные объемы оперативной памяти

Спор вокруг AI-модели Google Pixel 8 и Pixel 8 Pro "Gemini"

31 марта Google объявила, что только Pixel 8 Pro среди новых смартфонов способен работать с продвинутой AI-моделью "Google Gemini". Несмотря на схожие характеристики устройств, Google объяснила исключение Pixel 8 "аппаратными ограничениями". Это заявление вызвало недоумение, так как Pixel 8 рекламировался как устройство, ориентированное на AI, и для него была разработана модель "Gemini Nano", но они оказались несовместимы.

Через несколько недель Google предложила компромисс, объявив, что Pixel 8 получит функции “Gemini Nano” в обновлении в июне, но с оговоркой: пользователи Pixel 8 Pro смогут использовать эту функцию напрямую, тогда как пользователям Pixel 8 придется активировать ее через скрытые настройки разработчика, что сделает ее менее доступной для большинства. Сеанг Чау, вице-президент Google по программному обеспечению для устройств и сервисов, объяснил в своем подкасте “Made by Google”, что это решение связано с аппаратными различиями. Он отметил, что 12 ГБ ОЗУ в Pixel 8 Pro прекрасно подходят для работы с "Gemini Nano", в то время как 8 ГБ в Pixel 8 могут затруднить использование.

Чау также рассказал о трудностях запуска крупных языковых моделей (LLM) на смартфонах. Некоторые AI-модели требуют "постоянной памяти" для мгновенного доступа. Например, функция "умного ответа" требует этой постоянной памяти для обеспечения быстродействия при использовании Gboard. Поэтому функция "умного ответа" на основе Gemini на обоих устройствах скрыта в настройках для разработчиков и недоступна в обычных настройках клавиатуры.

Это вызывает опасения, что Gemini Nano может значительно потреблять системную память без простого освобождения. Хотя минимальное требование по ОЗУ для большинства Android-устройств в настоящее время составляет 8 ГБ, в будущем этот стандарт может увеличиться. Флагманские устройства уже оснащены до 24 ГБ ОЗУ, а популярные модели обычно имеют 12 ГБ или 16 ГБ.

Интересно, что базовая версия серии Galaxy S24 от Samsung также имеет только 8 ГБ ОЗУ, но способна запускать модель Gemini Nano, что ставит под сомнение первоначальные утверждения Google о "аппаратных ограничениях" Pixel 8. В конечном итоге вопрос заключается в том, насколько пользователи готовы жертвовать доступной памятью ради этой функции.

Тем не менее, остается основной вопрос: действительно ли обычным пользователям нужны такие функции? Генеративный AI сейчас является горячей темой, и стремление Google к AI-технологиям тесно связано с ее бизнес-интересами. В то время как приложения как ChatGPT приносят пользу, практические функции генеративного AI на уровне операционной системы остаются ограниченными. Хотя автоматическая генерация ответов может помочь некоторым пользователям, требования к памяти могут заставить многих отключить эту функцию совсем.