Groq est-il le challenger face au géant Nvidia ? Le PDG de Groq suscite l'enthousiasme lors de VB Transform 2024.

La course à la suprématie de l'IA s'intensifie, avec Groq en tête. Les discussions ont débuté sur les réseaux sociaux lorsque Matt Shumer, PDG de HypeWriteAI et OthersideAI, a salué l'AI PU Inference Engine de Groq pour ses performances impressionnantes—près de 500 tok/s, offrant des réponses quasi instantanées. Jonathan Ross, PDG de Groq, a même présenté la technologie sur CNN, laissant les téléspectateurs stupéfaits.

Groq vise à établir une alternative viable à la domination d'Nvidia sur le marché des GPU. Avec une augmentation spectaculaire de 265 % de ses bénéfices par rapport à l'année dernière, Nvidia est déterminé à maintenir sa position de leader. Groq affirme que sa technologie consomme, au pire, un tiers de la puissance d'un GPU, beaucoup de charges de travail nécessitant seulement un dixième. Dans un contexte où la demande pour les charges de travail LLM augmente continuellement et où les besoins énergétiques s'accroissent—au milieu des préoccupations liées au changement climatique—Groq se positionne comme un compétiteur redoutable dans un environnement informatique contraint en ressources.

Ross prévoit qu'au cours de l'année prochaine, plus de la moitié de l'informatique d'inférence mondiale utilisera les puces de Groq. À quoi ressemblera cet avenir ? Il partagera ses réflexions lors de Transform 2024, abordant le rôle crucial de l'inférence IA dans la technologie d'entreprise et la nécessité urgente d'efficacité. Ross présentera également une démonstration en direct captivante, mettant en avant les capacités uniques de Groq et ses développements futurs.

Ne manquez pas cette occasion d'acquérir des insights exclusifs sur les innovations de Groq et de vous connecter avec les principaux acteurs de l'IA. VB Transform 2024 se déroulera du 9 au 11 juillet à San Francisco, sur le thème pertinent de l'évolution de l'IA dans des applications concrètes. Cet événement présentera des études de cas pratiques sur l'IA générative et des récits directement issus des leaders de l'industrie.