« Ce n’est pas la faute de Nvidia », a déclaré TSMC, « c’est nous et notre production CoWoS »
Une patate chaude : Les GPU HPC conçus pour accélérer la formation de l’IA coûtent très cher, mais TSMC ne sera pas encore en mesure de satisfaire la demande de plus en plus élevée des clients. Le premier fabricant mondial de puces ne dispose toujours pas du type de capacité de conditionnement avancée que le marché demande actuellement.
Les serveurs d’IA devraient exploser pour atteindre une valeur marchande estimée à 150 milliards de dollars d’ici 2027, et Nvidia fabrique actuellement les GPU les plus recherchés, conçus pour accélérer la formation algorithmique des chatbots et des services d’IA générative. TSMC, qui est chargé de fabriquer les cartes basées sur GPU que les serveurs d’IA susmentionnés utiliseront, ne disposera pas d’une capacité de fabrication suffisante pour satisfaire la demande du marché avant au moins un an et demi.
S’adressant à Nikkei, le président de TSMC, Mark Liu, a déclaré que la pénurie d’accélérateurs d’IA n’était pas causée par un manque de puces d’IA conçues par Nvidia. La situation actuelle du marché dépend principalement de la capacité limitée de TSMC en matière d’emballage CoWoS. L’entreprise taïwanaise ne peut pas honorer 100 % des commandes de ses clients pour le moment, a déclaré Liu, mais « nous essayons de répondre à environ 80 % » des demandes de fabrication.
La technologie Chip-on-wafer-on-substrate (CoWoS) est une plate-forme de packaging avancée qui offre « les meilleures performances et la plus haute densité d’intégration » pour les applications matérielles HPC, explique TSMC. Le processus d’intégration système au niveau de la tranche, basé sur un interposeur, prend en charge une large gamme de cubes et de tailles de boîtiers HBM, indique la société.
TSMC fabrique actuellement l’écrasante majorité des GPU, FPGA et autres puces spécialisées conçues pour accélérer les calculs d’IA. Ces accélérateurs utilisent la mémoire HBM pour fournir la plus grande bande passante possible pour la formation en IA, et ils sont fabriqués avec la technique de packaging CoWoS. D’autres sociétés de fabrication de puces proposent également des capacités de conditionnement similaires, mais TSMC recevra probablement les commandes les plus importantes provenant des sociétés de puces les plus réputées, notamment Nvidia et AMD.
Selon les analystes du secteur, les technologies d’emballage avancées telles que CoWoS sont coûteuses et financièrement risquées à mettre en œuvre. Par conséquent, les petites entreprises manufacturières sont probablement moins motivées à investir tout l’argent dont elles auraient besoin pour accroître et perfectionner leurs capacités d’emballage.
TSMC dépense près de 3 milliards de dollars pour une nouvelle usine d’emballage qui devrait être mise en service d’ici 2027. L’entreprise s’engage à augmenter sa capacité d’emballage « le plus rapidement possible », a confirmé Liu aux investisseurs. La « tension » dans la production manufacturière devrait être levée d’ici la fin de l’année prochaine, a déclaré le président de TSMC, les plaquettes CoWoS doublant en 2024 par rapport à 2023.