Qui profite de l’IA (à part Nvidia) ?
Quelque chose à espérer: Les prix de la plateforme Blackwell de Nvidia sont apparus au compte-gouttes, entre les estimations des analystes et les commentaires du PDG Jensen Huang. En bref, le déploiement de ces produits aux performances élevées va coûter cher aux acheteurs. Morgan Stanley estime que Nvidia livrera entre 60 000 et 70 000 armoires de serveurs B200 en 2025, ce qui se traduira par un chiffre d'affaires annuel d'au moins 210 milliards de dollars. Malgré les coûts élevés, la demande pour ces puissants serveurs d'IA reste intense.
Nvidia aurait investi environ 10 milliards de dollars dans le développement de la plateforme Blackwell, un effort impliquant environ 25 000 personnes. Avec toutes les performances concentrées dans un seul GPU Blackwell, il n'est pas surprenant que ces produits soient vendus à des prix élevés.
Selon les analystes de HSBC, le système de rack de serveur GB200 NVL36 de Nvidia coûtera 1,8 million de dollars et le NVL72 3 millions de dollars. Le Superchip GB200, plus puissant, qui combine CPU et GPU, devrait coûter entre 60 000 et 70 000 dollars chacun. Ces Superchips comprennent deux GPU GB100 et une seule puce Grace Hopper, accompagnées d'un large pool de mémoire système (HBM3E).
Plus tôt cette année, le PDG Jensen Huang a déclaré à CNBC qu'un GPU Blackwell coûterait entre 30 000 et 40 000 dollars, et sur la base de ces informations, Morgan Stanley a calculé le coût total pour les acheteurs. Chaque armoire de serveur IA étant vendue entre 2 et 3 millions de dollars environ, et Nvidia prévoyant de livrer entre 60 000 et 70 000 armoires de serveur B200, le chiffre d'affaires annuel estimé est d'au moins 210 milliards de dollars.
Mais les dépenses des clients justifieront-elles un jour ce genre de choses ? David Cahn, analyste chez Sequoia Capital, estime que les revenus annuels de l'IA nécessaires pour financer leurs investissements ont grimpé à 600 milliards de dollars… par an.
HSBC estime que le prix du système de rack de serveur NVIDIA GB200 NVL36 est de 1,8 million de dollars et celui du NVL72 de 3 millions de dollars. HSBC estime également que le prix de vente conseillé du GB200 est compris entre 60 000 et 70 000 dollars et celui du B100 entre 30 000 et 35 000 dollars.
– Tae Kim (@firstadopter) 13 mai 2024
Mais pour l’instant, il ne fait aucun doute que les entreprises paieront le prix, aussi douloureux soit-il. Le B200, avec ses 208 milliards de transistors, peut fournir jusqu’à 20 pétaflops de puissance de calcul FP4. Il faudrait 8 000 GPU Hopper consommant 15 mégawatts d’énergie pour entraîner un modèle de 1 800 milliards de paramètres.
Une telle tâche nécessiterait 2 000 GPU Blackwell, consommant seulement quatre mégawatts. Le Superchip GB200 offre des performances 30 fois supérieures à celles d'un GPU H100 pour les charges de travail d'inférence de modèles de langage volumineuses et réduit considérablement la consommation d'énergie.
En raison de la forte demande, Nvidia augmente ses commandes auprès de TSMC d’environ 25 %, selon Morgan Stanley. Il n’est pas exagéré de dire que Blackwell – conçu pour alimenter une gamme d’applications de nouvelle génération, notamment la robotique, les voitures autonomes, les simulations d’ingénierie et les produits de santé – deviendra la norme de facto pour la formation de l’IA et de nombreuses charges de travail d’inférence.
