Intel представил свой новый AI-процессор следующего поколения, Gaudi 3, предназначенный для оптимизации разработки ИИ, упрощения инфраструктуры и ускорения корпоративных нагрузок. Gaudi 3 сохраняет архитектуру своего предшественника, но предлагает значительно улучшенные характеристики: в четыре раза больше вычислительной мощности, в два раза большую пропускную способность сети и в 1,5 раза большую емкость памяти HBM, что позволяет справляться с растущими требованиями крупных языковых моделей без потери производительности.
Основываясь на технологии графических процессоров (GPU), Gaudi 3 обладает параллельной обработкой и многоплиточной архитектурой, что делает его идеальным для роли AI-ускорителя. Этот запуск — часть стратегии Intel по конкуренции с Nvidia и AMD на рынке AI-ускорителей.
Генеральный директор Intel Патрик Гелсингер представил Gaudi 3 на мероприятии AI Everywhere и сообщил, что хотя чип официально запускается сегодня, его широкая доступность намечена на третий квартал 2024 года, с предварительной выдачей образцов некоторым клиентам.
По словам Джени Баровиан, вице-президента Intel по решениям для AI в дата-центрах: «Генеративный ИИ представляет собой основополагающую трансформацию вычислений». Она подчеркнула, что Gaudi 3 обеспечит необходимую производительность, масштабируемость и эффективность для создания будущих AI-систем.
Intel Gaudi 3: Характеристики и Производительность
Эйтан Медин, операционный директор Habana Labs Intel, описывает Gaudi 3 как имеющий гетерогенную компьютерную архитектуру, включающую 64 ядра Tensor (5-го поколения), 8 матричных математических движков, 128 ГБ HBM и пропускную способность 3,7 ТБ/с, а также 24 порта Ethernet 200 GbE RoCE.
Создание решений на базе Gaudi 3 задумано так же просто, как и с Gaudi 2. Intel удвоила пропускную способность сети на один ускоритель, что позволяет эффективно настраивать кластеры в зависимости от потребностей нагрузки — будь то инференс, дообучение или обучение.
Сравнение с Nvidia GPUs
По сравнению с H100 от Nvidia, который является ведущим GPU для обучения крупных языковых моделей, таких как Llama 2 и GPT-3, Gaudi 3, как ожидается, будет в 1,7 раза быстрее в задачах обучения. В тестах инференса с использованием моделей, таких как Llama-7B и Falcon 180B, Gaudi 3 reportedly демонстрирует производительность в 1,5 раза быстрее, чем H100, и в 1,3 раза быстрее, чем новая модель H200. Особо стоит отметить, что Gaudi 3 показывает эффективность потребления энергии в 2,3 раза выше, чем у H100 в задачах инференса.
Разнообразие Продуктов
Intel запускает не только чип Gaudi 3, но и три дополнительных продукта:
1. Карта AI-ускорителя Gaudi 3 (HL-325L): соответствует OAM стандартам, с 1,835 TFLOPs и 128 ГБ HBM2e.
2. Универсальная базовая плата (HLB-325): предлагает 14,6 PFLOPS и более 1 ТБ HBM2e.
3. Карта расширения PCI Express: имеет двухслотовый, пассивный дизайн охлаждения с сопоставимыми характеристиками производительности.
Будущее ИИ в Корпорациях
Gaudi 3 от Intel решает проблемы на уровне корпоративного сектора. Сачин Катти, старший вице-президент группы сетей и границ, утверждает, что мы вступаем в эпоху ИИ-агентов, которые могут автономно обрабатывать сложные рабочие процессы. Следующий этап развития ИИ увидит, как эти агенты используют собственные данные, что подготовит почву для значительных преобразований в различных отраслях.
Катти подчеркивает вызовы интеграции неструктурированных данных в AI-системы, которые зачастую зависят от CPU и распределены по различным форматам. Он выступает за создание модульной и безопасной экосистемы, где компании могут выбирать среди широкого спектра совместимых AI-решений, сосредоточиваясь на ответственной реализации для гарантии доверия и снижения предвзятости.
Intel стремится использовать улучшенные возможности Gaudi, чтобы привлечь клиентов от экосистемы Nvidia, особенно на фоне растущих затрат на ИИ. С прогнозируемым существенным ростом рынка AI-чипов, Intel позиционирует себя как жизнеспособную альтернативу, подчеркивая открытый и совместный подход к AI-решениям.
Заключение
Поскольку генеративный ИИ становится ключевым моментом в вычислениях, Intel Gaudi 3 предлагает конкурентоспособную производительность и эффективность, направленные на трансформацию развертывания AI в корпоративном секторе. Обязательство компании к открытым стандартам и совместимости систем подчеркивает ее стремление поддерживать развивающийся ландшафт ИИ, обещая удовлетворить потребности разнообразных предприятий, стремящихся использовать мощь ИИ.
Рейтинг
