Sam Altman cherche 7 billions de dollars pour des puces d'IA : les ressources naturelles 'hallucinantes' nécessaires.

Le Wall Street Journal a rapporté hier que le PDG d'OpenAI, Sam Altman, vise à lever jusqu'à 7 000 milliards de dollars pour un projet technologique ambitieux visant à améliorer significativement la capacité mondiale des puces. Cette initiative, soutenue par des investisseurs, dont les Émirats Arabes Unis, pourrait améliorer considérablement la puissance disponible pour les modèles d'IA.

Bien que certains puissent juger l'objectif d'Altman excessivement ambitieux ou comparables aux aspirations grandioses d'Elon Musk, les conséquences environnementales d'un projet de cette ampleur sont frappantes, selon Sasha Luccioni, responsable climatique chez Hugging Face. « Si ce projet se concrétise, la demande en ressources naturelles sera énorme », a-t-elle noté. « Même si des énergies renouvelables sont utilisées - ce qui n'est pas garanti - la quantité d'eau et de minéraux rares requise sera astronomique. »

Un rapport de Fortune de septembre 2023 a mis en lumière les coûts environnementaux associés aux avancées en IA. Microsoft a connu une augmentation de 34 % de sa consommation d'eau en raison des outils d'IA ; le modèle Llama 2 de Meta aurait utilisé deux fois plus d'eau que Llama 1 ; et une étude de 2023 a révélé que l'entraînement de GPT-3 par OpenAI a consommé 700 000 litres d'eau. De plus, la rareté de minéraux essentiels comme le gallium et le germanium a intensifié le conflit mondial sur les puces avec la Chine.

Luccioni a critiqué Altman pour sa tendance à privilégier des solutions à base de ressources plutôt que d'explorer des méthodes plus efficaces de développement de l'IA. « Il est considéré comme visionnaire, mais son approche est préoccupante », a-t-elle déclaré.

Au milieu de ces défis, la quête d'Altman pour remédier aux pénuries de GPU et transformer le paysage des semi-conducteurs reflète une tendance plus large dans la Silicon Valley. L'été dernier, des rapports ont indiqué une demande extrême pour le GPU H100 de Nvidia en raison de l'entraînement de grands modèles de langage, un sujet brûlant dans l'industrie technologique.

Lors d'un récent appel de résultats, le PDG de Meta, Mark Zuckerberg, a souligné que construire une « intelligence générale complète » nécessite une « infrastructure informatique de classe mondiale ». Il a annoncé des plans pour disposer d'environ 350 000 H100 d'ici la fin de l'année, avec un total d'environ 600 000 équivalents H100 une fois les autres GPU pris en compte. L'entreprise prévoit de poursuivre ses investissements agressifs dans des ressources informatiques à la pointe de la technologie et des circuits intégrés personnalisés pour des charges de travail spécialisées.

Luccioni a également exprimé des inquiétudes concernant le manque de transparence de Nvidia sur l'impact environnemental de ses produits. « Nvidia n'a publié aucun détail sur l'empreinte carbone liée à ses processus de fabrication », a-t-elle expliqué. De plus, les déchets électroniques posent un défi significatif, les consommateurs ayant tendance à se débarrasser rapidement des anciens GPU après l'acquisition de nouveaux.

Bien que le Rapport de responsabilité sociétale de Nvidia de 2023 ait reconnu les émissions générées tout au long du cycle de vie du produit, Luccioni estime qu'une plus grande transparence est nécessaire. Elle a noté qu'il y a eu une diminution des informations environnementales partagées par les entreprises technologiques au fil du temps. Par exemple, le document PaLM 1 de Google en 2022 fournissait des détails suffisants pour estimer la consommation d'énergie, tandis que le document PaLM 2 qui a suivi manquait d'informations essentielles sur la durée d'entraînement ou l'utilisation des puces.

Malgré ses préoccupations, Luccioni reste sceptique quant au projet ambitieux d'Altman. « Je considère cela comme une entreprise élevée qui ne réussira probablement pas », a-t-elle remarqué. « Cependant, cela place Altman aux côtés d'Elon Musk en matière de projets audacieux qui attirent l'attention du public et génèrent du buzz. »