일론 머스크, 세계에서 가장 강력한 AI 훈련 클러스터 공개

일론 머스크는 테슬라, 스페이스X, 스타링크, X(구 트위터), 뉴럴링크, xAI 등 최소 여섯 개의 혁신적인 회사를 이끌고 있습니다. 하지만 그는 더 많은 목표를 가지고 있습니다.

오늘 X에서 머스크는 대규모 언어 모델(LLM)인 Grok과 유료 구독자에게 제공되는 챗봇으로 유명한 xAI가 "세계에서 가장 강력한 AI 트레이닝 클러스터"로 알려진 멤피스 슈퍼클러스터에서 훈련을 시작했다고 발표했습니다.

현지 뉴스 매체 WREG에 따르면, 멤피스 슈퍼클러스터는 도시 남서부에 위치하며, 이 지역 역사상 새로운 시장 진입자의 최대 자본 투자입니다. 그러나 xAI는 100메가와트 이상의 프로젝트에 전력을 공급하기 위해 필요한 테네시 계곡 공사와 계약이 체결되지 않은 상태입니다.

Nvidia GPU 장착

머스크는 슈퍼클러스터에 AI 개발자들이 선호하는 100,000개의 액체 냉각 Nvidia H100 그래픽 처리 장치(GPU)가 장착되어 있다고 밝혔습니다. 이 클러스터는 단일 원격 직접 메모리 접근(RDMA) 구조에서 운영되어, 중앙 처리 장치(CPU)의 부담 없이 컴퓨트 노드 간의 효율적인 데이터 전송을 가능하게 합니다.

2024년까지 최첨단 AI 목표

xAI는 슈퍼클러스터에서 자체 LLM을 훈련할 계획입니다. 머스크는 이 회사를 통해 "모든 지표에서 세계에서 가장 강력한 AI를 2024년 12월까지 개발할 것"이라는 포부를 밝혔으며, 멤피스 슈퍼클러스터가 "상당한 이점"을 제공할 것이라고 말했습니다.

일정에 대한 회의론

머스크의 많은 성과에도 불구하고, 그는 완전 자율주행차 및 우주 임무와 같은 프로젝트에서 마감일을 지키지 못한 것으로 유명합니다. 따라서 새로운 Grok LLM의 2024년 12월 출시 일정에 대한 회의론이 존재합니다. 하지만 일정대로 진행된다면, xAI의 경쟁력을 크게 향상시킬 수 있습니다.

OpenAI, Anthropic, 구글, 마이크로소프트, 메타와 같은 거대 기업들이 LLM과 SLM의 발전을 위해 경쟁하는 가운데, xAI는 사용자와 시장 점유율을 확보하기 위해 혁신적이고 가치 있는 모델을 제공해야 합니다.

또한, 보고서에 따르면 마이크로소프트는 OpenAI CEO 샘 올트먼과 함께 1천억 달러 규모의 AI 훈련 슈퍼컴퓨터인 스타게이트를 협력하고 있습니다. 이러한 발전을 고려할 때, xAI의 멤피스 슈퍼클러스터가 가장 강력한 클러스터의 지위를 오래 유지하지 못할 수도 있습니다.

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles