Arm объявила о том, что её экосистема Total Design удвоилась всего за год после запуска, что значительно продвинуло глобальные инновации в области кремния для устойчивого развития.
Центры обработки данных сталкиваются с постоянными трудностями в балансировке потребления энергии и ростом нагрузок от ИИ, а также с повышающимися затратами и сложностями разработки чипов. В недавнем блоге Эдди Рамиреса, вице-президента по коммерциализации инфраструктурного направления Arm, подчеркивается, что инициатива Arm Total Design была создана для решения этих проблем путем создания экосистемы партнеров, стремящихся ускорить разработку специализированного кремния. Это сотрудничество направлено на создание решений для будущего центров обработки данных с использованием подсистем вычислений Arm (CSS).
Экосистема быстро эволюционировала в многопоставщицкую среду на основе Arm, которая сейчас включает более 30 компаний, среди которых Alcor Micro, Egis, PUF Security и SemiFive.
Новые решения на базе Arm, которые устойчиво обеспечивают ИИ-ЦОДы
Arm Total Design содействует глобальному сотрудничеству, что приводит к созданию реальных решений на основе CSS, ориентированных на GenAI вычисления. В частности, Arm, Samsung Foundry, ADTechnology и Rebellions объединили усилия для запуска платформы чиплетов ИИ CPU, разработанной для облачных, высокопроизводительных и ИИ/ML нагрузок. Эта платформа объединяет ускоритель Rebel AI от Rebellions с вычислительным чиплетом на основе CSS V3 от ADTechnology, используя передовую технологию производства Samsung Foundry с транзисторами 2 нм Gate-All-Around (GAA).
Сотрудничество обещает исключительную производительность и оптимальную энергоэффективность, с предполагаемым преимуществом в 2-3 раза по эффективности для нагрузок GenAI с использованием Llama3.1 405B параметрических моделей.
«Дизайны ИИ и HPC требуют технологических решений, обеспечивающих максимальную производительность, высокую плотность транзисторов и энергоэффективность», — заявил Тэджун Сон, руководитель развития бизнеса Samsung Electronics. Он выразил энтузиазм по поводу использования гибкости Arm CSS совместно с экосистемой Arm Total Design для повышения внедрения передовых технологий для гипермасштабных компаний и поставщиков облачных услуг.
Эта инициатива показывает, как Arm Total Design и её стандартизированные подсистемы вычислений ускоряют разработку ИИ-кремния, интегрируя оптимизированные инструменты EDA от Arm, глобальный дизайнерский опыт и партнерство с фабриками, облегчая интеграцию для проектировщиков ускорителей ИИ.
С развитием нагрузок ИИ становится необходимостью плотно интегрированные вычисления CPU для поддержки полного стека ИИ. Задачи, такие как предварительная обработка данных, оркестрация и методы дополнения баз данных, такие как Retrieval-augmented Generation (RAG), могут извлечь пользу из эффективности производительности процессоров Arm Neoverse. Эти возможности являются неотъемлемой частью CSS, уже приносящей выгоды экосистеме.
Установка нового стандарта для специализированной ИИ-инфраструктуры
Arm Total Design устанавливает прочную аппаратную основу для устойчивых ИИ-ЦОДов. Она ускоряет создание тестовых чипов на базе Arm и продуктов чиплетов, работающих на Neoverse N-серии или V-серии CSS. Широкий спектр решений с чиплетами, от облака до периферии, быстро растет благодаря снижению барьеров для входа и более широкому доступу к последним инструментам CSS.
Недавно Alcor Micro объявила о планах разработки чиплета на базе CSS, ориентированного на обучение и вывод ИИ/ML. Аналогично, Alphawave представила свой продвинутый вычислительный чиплет, построенный на CSS, предназначенный для ИИ/ML, HPC, центра обработки данных и приложений 5G/6G. Эти чиплеты на базе Arm демонстрируют гибкость, разнообразие и возможности глобальной цепочки поставок, которые может предложить только партнерство с Arm.
Кроме того, такие партнеры, как Alphawave, Cadence и proteanTecs, проверяют свои сторонние IP-продукты с использованием CSS на современных узлах для обеспечения соответствия спецификациям Arm. Это означает, что партнеры могут создавать индивидуальный кремний на базе CSS на передовых узлах и наслаждаться бесшовным программным обеспечением.
Готовность программного обеспечения остается ключевой для раскрытия потенциала ИИ. На протяжении более 30 лет Arm обязуется обеспечивать надежную работу программного обеспечения на платформах Arm. Сегодня все основные фреймворки и операционные системы совместимы с Arm, что позволяет разнообразным кремниевым решениям из экосистемы Arm Total Design извлекать выгоду из динамичной программной среды.
Ярким примером этой инвестиции является внедрение технологии Arm Kleidi, которая оптимизирует вывод на базе CPU для проектов с открытым исходным кодом, таких как PyTorch и Llama.cpp. Эта оптимизация особенно ценна для партнеров Arm Total Design, разрабатывающих чиплеты на основе CSS для вычислений на краю без необходимости в ускорителе.
Рейтинг
