Os supercomputadores mais rápidos do mundo estão evoluindo rapidamente, com a Nvidia e a Intel liderando os esforços para aprimorar as capacidades computacionais, especialmente para aplicações de inteligência artificial (IA).
Durante a conferência Supercomputing 2023 (SC23) em Denver, foram revelados os últimos rankings dos 500 principais supercomputadores. Notavelmente, todos esses sistemas incorporam componentes da Nvidia ou da Intel, muitas vezes utilizando ambas as tecnologias. Esta conferência também serve como plataforma para discutir a próxima geração de supercomputadores, destacando as tecnologias que utilizam e suas aplicações planejadas.
A Nvidia apresenta o supercomputador JUPITER, hospedado no centro de pesquisa Forschungszentrum Jülich, na Alemanha. Equipado com 24.000 chips Nvidia GH200, o objetivo é se tornar o supercomputador de IA mais poderoso, alcançando mais de 90 exaflops de desempenho para treinamento de IA. A empresa está introduzindo novas tecnologias para acelerar a IA, incluindo o H200 e uma configuração avançada de quatro do superchip Grace Hopper GH200.
Por outro lado, a Intel promove seu supercomputador Aurora, desenvolvido no Laboratório Nacional Argonne do Departamento de Energia, que apoiará a criação de um inovador modelo de linguagem com 1 trilhão de parâmetros (LLM). A Intel também revela avanços em aceleração de IA e tecnologia de GPU, posicionando-se firmemente contra a Nvidia.
Superchip Grace Hopper da Nvidia: Um Divisor de Águas para a IA
O superchip Grace Hopper da Nvidia, que combina funcionalidades de CPU e GPU, entrou em produção plena em maio. Esses chips agora são fundamentais para os supercomputadores mais poderosos. “Com a introdução do Grace Hopper, uma nova onda de supercomputadores de IA está surgindo”, afirmou Dion Harris, diretor de soluções de produtos de data center acelerados da Nvidia.
O Grace Hopper GH200 alimenta o supercomputador JUPITER, projetado para aplicações em previsão do tempo, descoberta de medicamentos e engenharia industrial. Construído em colaboração com ParTec, Eviden e SiPearl, o JUPITER emprega uma arquitetura quad GH200 que aprimora significativamente o desempenho ao utilizar quatro chips GH200 em um único nó.
“O quad GH200 apresenta uma arquitetura de nó inovadora com 288 núcleos Neoverse ARM, alcançando 16 petaflops de desempenho em IA e 2,5 terabytes por segundo de memória de alta velocidade”, explicou Harris. Este sistema interconecta 24.000 chips GH200 usando a rede Quantum-2 InfiniBand da Nvidia. A Nvidia planeja estender a arquitetura quad GH200 para outros supercomputadores também.
A Nvidia também revela o silício autônomo H200, uma GPU discreta que estará disponível nas placas de servidor Nvidia HGX H200. “A plataforma HGX H200, equipada com memória de alta velocidade mais rápida, proporcionará desempenho excepcional para cargas de trabalho de HPC e inferência de IA”, acrescentou Harris.
Avanços da Intel em Supercomputação
A Intel está fazendo avanços impressionantes na SC23 com suas tecnologias de computação de alto desempenho e IA. Ogi Brkic, VP e Gerente Geral de soluções para data center e IA/HPC da Intel, discutiu as iniciativas da empresa em aceleração de IA e HPC.
Brkic destacou a série de GPUs para data center Intel Max e o acelerador Intel Habana Gaudi 2 como componentes-chave para grandes projetos de supercomputação, como o supercomputador Dawn Phase 1 na Universidade de Cambridge, atualmente o supercomputador de IA mais rápido do Reino Unido. Ele possui 512 CPUs Intel Xeon e 1.024 GPUs da série Intel Max.
Aurora, outro projeto ambicioso, está sendo desenvolvido nos EUA pela Intel, HP Enterprise e o Departamento de Energia. Este supercomputador está projetado para desenvolver um dos maiores modelos de linguagem, AuroraGPT, que terá 1 trilhão de parâmetros para pesquisa científica. Atualmente, está sendo treinado em 64 nós, e o objetivo é escalar para mais de 10.000 nós.
“Colaboramos com as otimizações da Microsoft Deepspeed para garantir que este LLM de 1 trilhão de parâmetros esteja acessível a todos”, observou Brkic. “As aplicações potenciais para este modelo abrangem todas as disciplinas científicas, incluindo biologia, química, pesquisa de medicamentos e cosmologia.”