¿Es Groq el desvalido frente al gigante Nvidia? El CEO de Groq genera entusiasmo en VB Transform 2024.

La carrera por la supremacía en inteligencia artificial se intensifica, con Groq a la cabeza. Las discusiones comenzaron en las redes sociales cuando Matt Shumer, CEO de HypeWriteAI y OthersideAI, elogió el rendimiento del Motor de Inferencia PU de IA de Groq, que alcanza casi 500 tok/s, lo que significa respuestas casi instantáneas. El CEO de Groq, Jonathan Ross, incluso presentó esta tecnología en CNN, dejando a los espectadores asombrados.

Groq busca establecer una alternativa viable a la dominancia de Nvidia en el mercado de GPU. Con Nvidia reportando un asombroso aumento del 265% en sus ganancias respecto al año pasado, está decidido a mantener su liderazgo. Groq afirma que su tecnología consume, en el peor de los casos, un tercio de la energía de una GPU, y muchos trabajos requieren solo una décima parte. En una era donde la demanda de cargas de trabajo de LLM sigue creciendo y las necesidades energéticas aumentan, en medio de preocupaciones por el cambio climático, Groq se perfila como un competidor formidable en un entorno de computación limitado en recursos.

Ross predice que para el próximo año, más de la mitad de la computación de inferencia global utilizará los chips de Groq. ¿Cómo será ese futuro? Compartirá sus perspectivas en Transform 2024, discutiendo el papel crítico de la inferencia en IA en la tecnología empresarial y la urgente necesidad de eficiencia. Ross también presentará una demo en vivo reveladora, destacando las capacidades únicas de Groq y sus desarrollos futuros.

No pierdas la oportunidad de obtener información exclusiva sobre las innovaciones de Groq y conectar con líderes en IA. VB Transform 2024 se llevará a cabo del 9 al 11 de julio en San Francisco, centrado en el relevante tema de la escalabilidad de la IA en aplicaciones del mundo real. Este evento contará con estudios de caso prácticos de IA generativa y relatos directamente de líderes de la industria.