Les points forts de la technologie serveur – HGX, EPYC et Xeon : aperçu général

Les exigences imposées aux centres de données modernes augmentent à un rythme effréné. Pour entraîner des modèles linguistiques à grande échelle (LLM) et gérer des charges de travail complexes de calcul haute performance (HPC), les architectures de serveurs conventionnelles ne suffisent plus. Les serveurs NVIDIA HGX™ hautement sophistiqués constituent actuellement la colonne vertébrale technologique de notre gamme de serveurs. Ces plateformes à haute densité sont spécialement conçues pour répondre aux exigences extrêmes des infrastructures d’IA modernes. Alors que nous élargissons progressivement notre gamme de serveurs avec de nouvelles technologies et de nouveaux formats révolutionnaires, vous découvrirez ici toutes les caractéristiques techniques de nos modèles phares HGX actuels.

Le fondement technologique : la plateforme NVIDIA HGX™ SXM

Contrairement aux systèmes PCIe classiques basés sur des cartes, nos serveurs HGX s’appuient sur l’architecture SXM (Single eXtreme Module) hautement intégrée. Celle-ci offre des avantages fondamentaux pour une utilisation professionnelle :

• Une carte mère NVLink ultra-rapide : tous les GPU sont montés directement sur une carte mère commune (la « baseboard ») et reliés entre eux via la technologie NVLink de NVIDIA. Cela permet une communication directe et bidirectionnelle de GPU à GPU avec une bande passante pouvant atteindre 900 Go/s (voire plus pour les dernières générations) par GPU. Le goulot d’étranglement des interfaces PCIe classiques est ainsi totalement éliminé.
• Densité maximale de GPU : nos systèmes HGX sont conçus comme des systèmes GPU à 4 ou 8 voies hautement efficaces (par exemple, basés sur des modules NVIDIA H100, H200 ou de modules Blackwell-SXM) afin de concentrer une capacité de calcul maximale dans un espace réduit au sein du rack.

• Mémoire graphique HBM haut de gamme : grâce à l’utilisation de la mémoire à haute bande passante (HBM3/HBM3e), les accélérateurs SXM offrent une bande passante mémoire gigantesque de plusieurs téraoctets par seconde – un facteur décisif pour la vitesse d’entraînement de modèles d’IA complexes.

   

Des performances système pour des débits de données extrêmes

Un cluster graphique haut de gamme nécessite un environnement système tout aussi puissant pour pouvoir déployer pleinement ses performances :

• Processeurs d'entreprise à double socket : équipés de deux processeurs AMD EPYC™ ou Intel® Xeon® Scalable de dernière génération, nos serveurs offrent la puissance de calcul nécessaire pour préparer sans erreur des pipelines de données complexes et maintenir les GPU en charge constante.
• Mémoire vive DDR5 ECC Registered : pour garantir une fiabilité absolue en fonctionnement continu 24 h/24 et 7 j/7, nous installons exclusivement de la mémoire système ECC à correction d’erreurs, qui corrige les erreurs de bits en temps réel pendant le fonctionnement.

• Matrices RAID NVMe haut débit : des SSD NVMe d’entreprise ultra-rapides, configurés selon la matrice RAID souhaitée, garantissent des débits de données extrêmement élevés lors du chargement d’ensembles de données d’entraînement volumineux.

   

Réseau haut débit pour clusters d’IA (scale-out)

L'entraînement des modèles d'IA les plus avancés nécessite souvent l'interconnexion de plusieurs serveurs au sein d'un cluster physique. Nos plateformes HGX sont parfaitement adaptées à cette évolutivité :

• SuperNIC NVIDIA ConnectX-7 et ConnectX-8 : des interfaces réseau dédiées prennent en charge InfiniBand ainsi que l’Ethernet haut débit avec des débits pouvant atteindre 400 Gb/s ou 800 Gb/s par port, pour une communication quasi sans latence entre les différents nœuds du serveur.

• DPU (Data Processing Units) BlueField® : elles déchargent les processeurs principaux des tâches liées au réseau, au stockage et à la sécurité, afin de maximiser encore davantage l’efficacité globale du système au sein du cluster.

   

Gestion thermique pour des densités de puissance extrêmes

Le fonctionnement de jusqu’à huit accélérateurs SXM dans un châssis de serveur génère un dégagement de chaleur considérable. Nos systèmes utilisent des concepts de refroidissement sophistiqués :

• Réseaux de ventilateurs puissants : des ventilateurs redondants, remplaçables à chaud et à haut rendement assurent un flux d’air constant et précisément orienté à travers l’ensemble du châssis.

• Préparés pour le refroidissement liquide direct (DLC) : pour une efficacité énergétique maximale et des densités d’intégration optimales dans le centre de données, nous proposons également nos systèmes HGX avec des interfaces de refroidissement liquide direct, afin d’évacuer la chaleur de manière hautement efficace directement au niveau des processeurs et des GPU.

   

La promesse MIFCOM : validation rigoureuse et service sur site

Nos serveurs HGX sont fabriqués selon les normes industrielles les plus strictes. Chaque système est soumis à un contrôle qualité complet s’étalant sur plusieurs jours, ainsi qu’à des tests de résistance extrêmes dans des conditions réelles de centre de données. Afin de garantir la disponibilité continue de votre infrastructure d’IA, vous bénéficiez de notre assistance B2B exclusive, comprenant un service sur site rapide, disponible 24 heures sur 24, assuré par des techniciens certifiés.

Configure dès maintenant ta solution de serveurs NVIDIA HGX™ chez MIFCOM et assure-toi d’être à la pointe de la technologie pour ton centre de données d’IA.