Acheter en ligne des serveurs NVIDIA HGX équipés de la carte NVIDIA H200 pour l'IA, les modèles de langage à grande échelle (LLM) et le calcul haute performance (HPC)

Nos serveurs NVIDIA HGX équipés de GPU NVIDIA H200 Tensor Core sont conçus pour les charges de travail d'IA, de LLM et de HPC qui poussent les serveurs GPU classiques à leurs limites. Au lieu de cartes PCIe individuelles, la plateforme HGX s'appuie sur une carte mère SXM commune pouvant accueillir jusqu'à huit GPU, actuellement basés sur le modèle NVIDIA H200. Les GPU communiquent directement via NVLink à un débit pouvant atteindre 900 Go/s par GPU, sans les limitations inhérentes aux connexions PCIe classiques.

Pourquoi un serveur NVIDIA HGX H200 est le bon choix pour vous

La combinaison de la plateforme HGX et du GPU H200 couvre trois domaines d’application : l’entraînement et l’inférence de modèles d’IA complexes, le traitement de grands modèles linguistiques nécessitant une mémoire importante, ainsi que les tâches HPC gourmandes en mémoire, allant des simulations au séquençage génomique. Le H200 s’appuie sur l’architecture Hopper et offre 141 Go de mémoire HBM3e ainsi qu’une bande passante de 4,8 téraoctets par seconde (To/s), soit près du double de la capacité et 1,4 fois la bande passante du H100. Cela accélère l'entraînement et l'inférence de grands modèles de deep learning et de traitement du langage tels que Llama 2, ainsi que les tâches HPC mentionnées, où les goulots d'étranglement au niveau des données limitent habituellement le débit. Malgré ces performances élevées, l’efficacité énergétique reste supérieure à celle de la génération précédente, ce qui réduit le coût total de possession (TCO) dans le centre de données.

Configuration matérielle optimale pour votre serveur HGX H200

Un serveur GPU performant nécessite plus que les cartes graphiques elles-mêmes : les processeurs AMD EPYC 9005 ou Intel Xeon Scalable v5 préparent les données pour les GPU et les maintiennent en charge constante, tandis qu’une mémoire ECC généreuse garantit l’intégrité des données en fonctionnement continu. Des SSD NVMe rapides pour le système d’exploitation et le cache, associés à des dispositifs de stockage de grande capacité, garantissent un flux de données optimal lors du chargement de grands ensembles de données d’entraînement. Pour regrouper plusieurs serveurs en cluster, les SuperNIC NVIDIA ConnectX-7 et ConnectX-8 assurent une connexion InfiniBand ou Ethernet haut débit pouvant atteindre 800 Gb/s par port, tandis que les DPU BlueField déchargent les processeurs principaux des tâches liées au réseau, au stockage et à la sécurité. Des blocs d'alimentation redondants et des ventilateurs haute performance garantissent la disponibilité même à pleine charge, complétés en option par des interfaces de refroidissement liquide direct pour une densité de montage maximale ; les composants remplaçables à chaud facilitent la maintenance.

Votre serveur NVIDIA HGX H200 personnalisé

Que ce soit pour un institut de recherche, une université ou une entreprise : chaque composant peut être configuré librement. Vous trouverez d’autres options dans la rubrique Points forts techniques des serveurs. Si vous n’êtes pas encore certain qu’un serveur HGX soit le bon choix, notre guide d’achat de serveurs vous aidera en vous proposant des recommandations concrètes. Dans le configurateur de serveurs, vous configurez votre système selon vos besoins individuels.