« Aujourd'hui, certains des plus grands défis auxquels notre industrie est confrontée à grande échelle concernent l'IA. Comment pouvons-nous continuer à faciliter et à exécuter les modèles qui alimentent les expériences derrière les produits et services innovants d'aujourd'hui ? Et que faudra-t-il pour activer l'IA derrière les produits et services innovants du futur ? Alors que nous passons à la prochaine plate-forme informatique, le métaverse, le besoin de nouvelles innovations ouvertes pour alimenter l'IA devient encore plus clair. »
Grand Teton, une plateforme de nouvelle génération pour l'IA à grande échelle
La dénomination Grand Teton fait référence à un sommet dans un parc national du Wyoming du même nom, soulignant ainsi les performances de la plateforme. Alexis Björling souligne :« À mesure que les modèles d'IA deviennent de plus en plus sophistiqués, leurs charges de travail associées le seront également. Grand Teton a été conçu avec une plus grande capacité de calcul pour mieux prendre en charge les charges de travail liées à la bande passante mémoire chez Meta, telles que nos DLRM open source. L'enveloppe de puissance de calcul opérationnelle étendue de Grand Teton l'optimise également pour les charges de travail liées au calcul, telles que la compréhension de contenu ».Grand Teton utilise des GPU NVIDIA H100 Tensor Core basé sur L'architecture NVIDIA Hopper, celle-ci comprend un moteur de transformateur pour accélérer le travail sur les modèles de base, qui s'adressent à un grand nombre d’applications : traitement du langage naturel, soins de santé, robotique... La NVIDIA H100 est conçue pour la performance mais également pour l’efficacité énergétique. Les serveurs accélérés H100, lorsqu’ils sont connectés à la mise en réseau NVIDIA sur des milliers de serveurs dans des centres de données hyperscale, peuvent être 300 fois plus économes en énergie que les serveurs CPU uniquement. Ian Buck, vice-président de l’hyperscale et du calcul haute performance chez NVIDIA, assure :
« Les GPU NVIDIA Hopper sont conçus pour relever les défis difficiles du monde, en offrant une informatique accélérée avec une plus grande efficacité énergétique et des performances améliorées, tout en ajoutant de l’échelle et en réduisant les coûts. Avec Meta partageant la plate-forme Grand Teton alimentée par H100, les constructeurs de systèmes du monde entier auront bientôt accès à une conception ouverte pour l’infrastructure de calcul de centres de données hyperscale afin de dynamiser l’IA dans tous les secteurs. »La nouvelle plateforme apporte plusieurs améliorations de performances à Zion, la plateforme précédente : la bande passante hôte-GPU est multipliée par 4, la bande passante du réseau de calcul et de données par 2 tout comme l'enveloppe de puissance. La plateforme Zion se compose de trois boîtiers : un nœud principal de processeur, un système de synchronisation de commutateur et un système GPU, connecté par un câblage extérieur. Grand Teton les intègre dans un châssis unique pour de meilleures performances globales, l'intégrité du signal et les performances thermiques. Ce haut niveau d'intégration simplifie considérablement le déploiement des systèmes ce qui permet d’installer et de provisionner la flotte de Meta beaucoup plus rapidement et d’en accroître la fiabilité, selon Alexis Bjorlin.
Nos articles remonteront en priorité dans « À la une » de Google.