Elon Musk Presenta el Cluster de Entrenamiento de IA Más Poderoso del Mundo

Elon Musk lidera al menos seis empresas pioneras: Tesla, SpaceX, Starlink, X (anteriormente Twitter), Neuralink y xAI. Sin embargo, sus ambiciones van más allá.

Hoy en X, Musk anunció que xAI, conocida por sus modelos de lenguaje grande (LLMs) llamados Grok y un chatbot disponible para suscriptores pagos, ha comenzado su entrenamiento en el Supercluster de Memphis, Tennessee, considerado "el clúster de entrenamiento de IA más poderoso del mundo".

Según el medio local WREG, el Supercluster de Memphis, ubicado en el suroeste de la ciudad, representa la mayor inversión de capital de un nuevo participante en la historia de la zona. Sin embargo, xAI actualmente no tiene un contrato con la Autoridad del Valle de Tennessee, necesario para suministrar energía a proyectos que superen los 100 megavatios.

Equipado con GPUs de Nvidia

Musk reveló que el supercluster cuenta con 100,000 unidades de procesamiento gráfico (GPUs) Nvidia H100, codiciadas por desarrolladores de IA, incluidos los rivales de Musk en OpenAI. Es relevante destacar que el clúster opera con una única red de Acceso Directo a Memoria Remota (RDMA), lo que facilita transferencias de datos eficientes entre nodos sin sobrecargar la unidad central de procesamiento (CPU).

xAI apunta a una IA de vanguardia para 2024

El objetivo de xAI es entrenar sus propios LLMs en el supercluster. Musk expresó su ambición en respuesta a que la compañía pretende desarrollar "la IA más poderosa del mundo en todos los métricas" para diciembre de 2024, aprovechando la “ventaja significativa” que ofrece el Supercluster de Memphis.

Escepticismo sobre los plazos

A pesar de los numerosos logros de Musk, es conocido por no cumplir plazos en proyectos como vehículos totalmente autónomos y misiones espaciales. Por lo tanto, existe escepticismo en torno al lanzamiento del nuevo LLM Grok en diciembre de 2024. Sin embargo, si se materializa a tiempo, podría mejorar significativamente la ventaja competitiva de xAI.

Con gigantes como OpenAI, Anthropic, Google, Microsoft y Meta compitiendo por avances en LLMs y SLMs, xAI debe ofrecer un modelo innovador y valioso para mantenerse al día en la feroz carrera por usuarios y cuota de mercado. Además, informes sugieren que Microsoft colabora con el CEO de OpenAI, Sam Altman, en un supercomputador de entrenamiento de IA de $100 mil millones, con el nombre clave Stargate. Dada esta situación, el Supercluster de Memphis de xAI podría no mantener su título de más poderoso por mucho tiempo.