Cerebras Systems и Core42 запустили второй этап своего новаторского проекта по созданию крупнейших в мире взаимосвязанных AI-суперкомпьютеров под названием Condor Galaxy 2. Эти суперкомпьютеры предназначены для ускорения генеративного ИИ и способны достигать до 36 экзаFLOPS в сотрудничестве с Core42, дочерней компанией технологической группа G42, расположенной в Абу-Даби, ОАЭ.
Партнеры объявили о начале этого амбициозного второго этапа, который включает девять взаимосвязанных суперкомпьютеров с общей вычислительной мощностью 36 экзаFLOPS. После успешного завершения Condor Galaxy 1, Condor Galaxy 2 (CG-2) должен обеспечить четыре экзаFLOPS и 54 миллиона оптимизированных для ИИ вычислительных ядер. В итоге сеть достигнет восьми экзаFLOPS и 108 миллионов ядер, что подчеркивает стремление Cerebras и Core42 установить новые стандарты в области AI-суперкомпьютинга.
Cerebras применяет уникальный подход, производя целые кремниевые пластины размером с пиццу, насыщенные сотнями чипов. Этот метод позволяет реализовать впечатляющие 54 миллиона ядер в одном суперкомпьютере.
Талал Алкаисси, директор по продуктам и глобальным партнерствам Core42, отметил: «Наше партнерство с Cerebras ведет нас к общей цели создания крупнейших и быстрых AI-суперкомпьютеров. Имея в распоряжении обширные наборы данных в области здравоохранения, энергетики и исследований климата, мы расширяем границы текущих возможностей ИИ и способствуем продвинутым исследованиям в различных секторах».
Данное сотрудничество решает три важные задачи для обучения больших AI-моделей: мощные вычисления, разнообразные наборы данных и специализированные знания в области ИИ. Вместе они демонстрируют доступ к передовым возможностям AI вычислений, позволяя пользователям разрабатывать новейшие базовые модели.
Генеральный директор Cerebras Эндрю Фельдман подчеркнул успех партнерства, отметив, что достижения привели к удвоению вычислительной мощности Condor Galaxy 1 и улучшению производительности обучения на 50% благодаря обновлениям программного обеспечения.
«Мы рады сообщить о продолжении этого выдающегося партнерства», — сказал Фельдман. «Запустив девять суперкомпьютеров и начав второй этап, мы обучаем модели, которые продвигают всю область, включая разработку генеративной рекламной модели для 400 миллионов носителей арабского языка».
Директор по ИИ Core42 Эндрю Джексон отметил повышенную эффективность и инновации, достигнутые благодаря сотрудничеству с системами CS-2 от Cerebras.
Применения сети Condor Galaxy охватывают важнейшие сектора, такие как здравоохранение, энергетика, изменение климата и исследования в области ИИ. К числу значительных разработок относятся Med42, генеративный ИИ медицинский ассистент, и Jais 30B, ведущая модель арабского языка, которые демонстрируют значительный прогресс, достигнутый с CG-1.
Хотя Cerebras еще не попала в список 500 крупнейших суперкомпьютеров, который использует стандарт, не оптимизированный для ИИ, Фельдман подчеркнул, что их машины входят в число крупнейших в мире. «По flops мы находимся среди крупнейших, и по мере подключения этих систем наша мощность продолжает расти», — заявил Фельдман. «Мы стремимся исследовать инновационные возможности, которые открывают эти машины».
Компания в настоящее время обучает AI-модели, которые привлекли значительное внимание, включая модель с более чем миллиардом загрузок на Hugging Face и приложения в области медицинской помощи и сейсмической обработки в одном из университетов Саудовской Аравии.
Кроме того, Фельдман отметил, что их достижения не ограничиваются лишь вычислительной мощностью; они продемонстрировали замечательную скорость, утверждая, что их системы в некоторых тестах работают в 130 раз быстрее, чем GPU Nvidia.
Core42 планирует ввести семь дополнительных суперкомпьютеров — CG-3 по CG-9 — в 2024 году, что добавит к ожидаемой общей вычислительной мощности 36 экзаFLOPS. Эта обширная констелляция, состоящая из 576 систем Cerebras CS-2 и более 654,000 ядер AMD, готова преобразовать глобальные исследования и разработки в области ИИ.
«С завершением CG-1 мы наблюдаем ощутимые результаты нашего партнерства», — подтвердил Фельдман. «Совместно с Core42 мы меняем облик вычислений в области ИИ и стремительно развиваем наши способности в обучении ведущих моделей».
Эта инициатива является первой, когда Cerebras сотрудничает не только для создания специализированного AI-суперкомпьютера, но и для его управления и эксплуатации. Condor Galaxy создан для того, чтобы помочь Core42 и его облачным клиентам развивать комплексные и новаторские модели, ускоряя темпы инноваций.
Сотрудничество Cerebras и Core42 значительно продвинуло AI-приложения в здравоохранении с помощью Med42 и сделало генеративные модели доступными для более чем 400 миллионов носителей арабского языка с помощью Jais 30B. Пионерские усилия по CG-1 также включали инновационные исследования изменений климата и достижения в области высокопроизводительных вычислений.
Планы по CG-3–CG-9 идут вперед, с ожидаемой общей вычислительной мощностью в 36 экзаFLOPS после завершения. Доступ к CG-1 уже доступен.
Фельдман также затронул экспортные регламенты, подчеркивая необходимость работы с Министерством торговли США для отправки оборудования на Ближний Восток, отметив, что компания в настоящее время не экспортирует в Китай.