Самые быстрые суперкомпьютеры в мире быстро эволюционируют, и Nvidia с Intel стоят во главе этой революции, улучшая вычислительные возможности, особенно для приложений в области ИИ.
На конференции Supercomputing 2023 (SC23) в Денвере были представлены последние рейтинги 500 лучших суперкомпьютеров. Все эти системы используют компоненты от Nvidia или Intel, часто применяя обе технологии. Конференция также служит платформой для обсуждения следующего поколения суперкомпьютеров, подчеркивая используемые технологии и их предназначение.
Nvidia демонстрирует суперкомпьютер JUPITER, расположенный в Forschungszentrum Jülich в Германии. Оснащенный 24,000 чипами Nvidia GH200, он стремится стать самым мощным суперкомпьютером для ИИ, достигая более 90 экзафлопс в производительности для обучения ИИ. Компания также представляет новые технологии для ускорения работы ИИ, включая H200 и усовершенствованную квадроконфигурацию суперчипа Grace Hopper GH200.
Intel, в свою очередь, продвигает свой суперкомпьютер Aurora, разработанный в национальной лаборатории Аргон при Министерстве энергетики США, который поддержит создание прорывной языковой модели (LLM) на 1 триллион параметров. Intel также раскрывает достижения в области ускорения ИИ и технологий GPU, укрепляя свои позиции на рынке против Nvidia.
Суперчип Grace Hopper от Nvidia: Революция в ИИ
Суперчип Grace Hopper от Nvidia, объединяющий функции CPU и GPU, вышел в полное производство в мае. Эти чипы теперь являются неотъемлемой частью самых мощных суперкомпьютеров. «С введением Grace Hopper появляется новая волна суперкомпьютеров для ИИ», — заявил Дион Харрис, директор по решениям продуктов в центрах обработки данных Nvidia.
GH200 обеспечивает работу суперкомпьютера JUPITER, предназначенного для приложений в области предсказания погоды, открытия лекарств и промышленного проектирования. Созданный в сотрудничестве с ParTec, Eviden и SiPearl, JUPITER использует квадроконфигурацию GH200, значительно повышая производительность благодаря использованию четырех чипов GH200 в одном узле.
«Квад GH200 обладает инновационной архитектурой узла с 288 ядрами Neoverse ARM, достигая 16 петафлопс производительности ИИ и 2,5 терабайтов в секунду высокоскоростной памяти», — объяснил Харрис. Эта система соединяет 24,000 чипов GH200 с использованием сетевого решения Nvidia Quantum-2 InfiniBand. Nvidia планирует расширить квадроконфигурацию GH200 на другие суперкомпьютеры.
Nvidia также представляет самостоятельный чип H200, дискретный GPU, который будет доступен на серверах Nvidia HGX H200. «Платформа HGX H200, оснащенная более быстрой высокоскоростной памятью, обеспечит выдающуюся производительность для высокопроизводительных вычислений и задач вывода ИИ», — добавил Харрис.
Достижения Intel в области суперкомпьютинговых технологий
Intel делает впечатляющие шаги на SC23, представляя свои технологии высокопроизводительных вычислений и ИИ. Оги Бркич, вице-президент и управляющий директор решений для центров обработки данных и ИИ/HPC Intel, обсудил инициативы компании в области ускорения ИИ и HPC.
Бркич выделил серию GPU Intel Data Center GPU Max и ускоритель Intel Habana Gaudi 2 как ключевые компоненты для крупных суперкомпьютерных проектов, таких как суперкомпьютер Dawn Phase 1 в Университете Кембриджа, который в настоящее время является самым быстрым ИИ суперкомпьютером в Великобритании. Он оснащен 512 процессорами Intel Xeon и 1,024 GPU серии Intel Data Center GPU Max.
Aurora, еще один амбициозный проект, строится в США с участием Intel, HP Enterprise и Министерства энергетики. Этот суперкомпьютер должен разработать одну из самых больших языковых моделей, AuroraGPT, состоящую из 1 триллиона параметров для научных исследований. В настоящее время она обучается на 64 узлах, а целью является увеличение до более чем 10,000 узлов.
«Мы сотрудничали с Microsoft для оптимизации Deepspeed, чтобы эта 1 триллионовая языковая модель была доступна для всех», — отметил Бркич. «Потенциальные применения этой модели охватывают все научные дисциплины, включая биологию, химию, исследование лекарств и космологию».