Groq afirma una velocidad de adopción de hardware récord en VB Transform.

Jonathan Ross, cofundador de la startup de chips de IA Groq, anunció un logro notable en la adopción de desarrolladores durante el VB Transform de ayer. En solo cuatro meses, Groq ha atraído a 280,000 desarrolladores a su plataforma, un hito que Ross describe como sin precedentes en la industria del hardware.

“Hasta donde sabemos, esta es la adopción de desarrolladores más rápida para cualquier nueva plataforma de hardware”, afirmó Ross en una entrevista con Matt Marshall de VentureBeat. “No esperábamos volvernos virales tan rápido”.

La innovadora arquitectura de chip de Groq, que no utiliza memoria externa, impulsa esta adopción acelerada. A diferencia de las GPU tradicionales, el diseño de Groq elimina la memoria externa, que Ross identifica como el “verdadero cuello de botella” en la obtención de una inferencia de IA eficiente.

La empresa mostró recientemente sus capacidades con la transcripción de voz en tiempo real, posicionándose para competir con los líderes de la industria. Ross comparó la importancia de la velocidad en la inferencia de IA con la frustración de esperar demasiado por un resultado de búsqueda en Google: “Imagina si tardaras 10 segundos en obtener una respuesta; sería doloroso”.

Este crecimiento explosivo presenta desafíos, especialmente en la gestión de una demanda abrumadora. Ross compartió: “Nuestros equipos están al borde; estamos organizando fiestas de cableado para montar racks—es una locura”.

La Ambiciosa Hoja de Ruta de Groq: De Crecimiento Viral a Liderazgo en el Mercado

A pesar de los desafíos de escalado, Groq está aprovechando su impulso. La empresa contactó a sus primeros 50 clientes para aumentar sus límites de tasa de pago, logrando que más de 35 firmaran órdenes de compra en 36 horas, superando las expectativas. “Nuestro enfoque es aumentar la capacidad de producción lo más rápido posible”, confirmó Ross.

De cara al futuro, Ross estableció un objetivo ambicioso: “Nuestra meta es capturar la mitad del mercado global de inferencia de IA para finales del próximo año”. Para alcanzar este objetivo, Groq planea desplegar 1.7 millones de procesadores de IA, que Ross señala son tres veces la cantidad que Nvidia desplegó el año pasado.

Los analistas están observando de cerca la rápida adopción de desarrolladores por parte de Groq como un prometedor indicador de interés en el mercado, aunque el éxito a largo plazo no está garantizado. La industria de chips de IA está atenta a la carrera de Groq para satisfacer la creciente demanda.

Una Visión de Hardware de IA Inspirada en Google

Ross se basa en su experiencia en Google, donde ayudó a desarrollar la Unidad de Procesamiento Tensorial (TPU). “Nuestro objetivo es asegurarnos de que todos tengan acceso a la IA”, explicó, relacionando su trabajo en Google con la misión de Groq.

Si Groq puede mantener su crecimiento y ofrecer el rendimiento prometido, tiene el potencial de transformar el paisaje del hardware de inferencia de IA y desafiar a jugadores establecidos como Nvidia. “Usar una CPU para estos modelos es ineficiente; igualmente, una GPU no es ideal si tienes un LPU disponible”, enfatizó Ross.

A medida que Groq escale su producción, Ross reconoció los desafíos que se avecinan. Notó que su experiencia en Google influenció su enfoque: “Cuando manejábamos las búsquedas en Google, no dependíamos de un solo servidor para responder a las consultas”, destacando la innovadora metodología distribuida de Groq.

Con un crecimiento sin precedentes y objetivos ambiciosos, Groq se posiciona como un posible disruptor en el mercado de chips de IA. Mientras luchan por satisfacer la demanda creciente y cumplir con sus compromisos, la industria tecnológica está ansiosa por ver si Groq puede desafiar verdaderamente a los gigantes establecidos en el campo.