
NVIDIA DGX H200 1128GB The Universal System for AI Infrastructure
DGX
8x 3.84TB NVMe U.2
2x dual-port NVIDIA ConnectX-7 VPI
1x 400Gb/s InfiniBand/Ethernet
1x 200Gb/s InifniBand/Ethernet
Moderne KI-Initiativen scheitern im Alltag selten an den Modellen selbst, sondern an der aufwendigen Integration von Rechenleistung, Netzwerken und komplexen Software-Stacks. Als vollständig integrierte Komplettlösungen bilden DGX-Systeme den Industriestandard für Enterprise-AI. Sie vereinen hochdichte Leistung, ultraschnelle NVLink-Fabrics und den vollständigen NVIDIA AI Enterprise Software-Stack in einer validierten Einheit, um den Weg von der Idee zur produktiven Anwendung drastisch zu verkürzen.
DGX-Systeme sind gezielt auf die Anforderungen von Deep Learning, Data Science und Large Language Models ausgelegt – von der einzelnen Workstation bis hin zur großskalierten KI-Fabrik:
Unternehmen benötigen Infrastrukturen, die sofort einsatzbereit sind und ohne zeitraubende Kompatibilitätstests Höchstleistungen erbringen:
Die NVIDIA DGX Plattform vereint die besten Technologien, Software und Infrastruktur von NVIDIA zu einer modernen, einheitlichen KI-Lösung. Sie wurde speziell entwickelt, um Unternehmen leistungsstarke KI-Entwicklung und -Training zu ermöglichen. Von Hardware bis hin zu Software ist jedes Element der DGX Plattform durch NVIDIA-Expertise geprägt, sodass Unternehmen schneller von ihren KI-Investitionen profitieren.
Die Highlights der NVIDIA DGX Plattform:
NVIDIA DGX B300 | NVIDIA DGX B200 | NVIDIA DGX H200 | NVIDIA DGX H100 (EOL) | |
|---|---|---|---|---|
| GPU | 8x NVIDIA Blackwell Ultra Tensor Core GPUs | 8x NVIDIA Blackwell Tensor Core GPUs | 8x NVIDIA Hopper Tensor Core GPUs | 8x NVIDIA Hopper Tensor Core GPUs |
| GPU Memory | 2,300GB total (8x 288GB) HBM3e | 1,440GB total (8x 180GB) HBM3e | 1,128GB total (8x 141GB) HBM3e | 640GB total (8x 80GB) HBM3 |
| Performance | 72 petaFLOPS training and 144 petaFLOPS inference | 72 petaFLOPS training and 144 petaFLOPS inference | 32 petaFLOPS FP8 | 32 petaFLOPS FP8 |
| NVIDIA® NVSwitch™ | 2x | 2x | 4x | 4x |
| System Power Usage | ~14.3kW max | ~14.3kW max | ~10.2kW max | ~10.2kW max |
| CPU | 2 Intel® Xeon® Platinum 6776P Processors | 2 Intel® Xeon® Platinum 8570 Processors Processors 112 Cores total, 2.10 GHz (Base), 4.00 GHz (Max Boost) | 2 Intel® Xeon® Platinum 8480C Processors Processors 112 Cores total, 2.00 GHz (Base), 3.80 GHz (Max Boost) | 2 Intel® Xeon® Platinum 8480C Processors Processors 112 Cores total, 2.00 GHz (Base), 3.80 GHz (Max Boost) |
| System Memory | - | Up to 4TB | Up to 2TB | Up to 2TB |
| Networking | 8x OSFP ports serving 8x single-port NVIDIA ConnectX-8 VPI 2x dual-port QSFP112 NVIDIA BlueField-3 DPU | 4x OSFP ports serving 8x single-port NVIDIA ConnectX-7 VPI 2x dual-port QSFP112 NVIDIA BlueField-3 DPU | 4x OSFP ports serving 8x single-port NVIDIA ConnectX-7 VPI 2x dual-port QSFP112 NVIDIA ConnectX-7 VPI | 4x OSFP ports serving 8x single-port NVIDIA ConnectX-7 VPI 2x dual-port QSFP112 NVIDIA ConnectX-7 VPI |
| Management Network | 1Gb/s onboard NIC with RJ45 | 10Gb/s onboard NIC with RJ45 | 10Gb/s onboard NIC with RJ45 100Gb/s dual-port ethernet NIC Host baseboard management controller (BMC) with RJ45 | 10Gb/s onboard NIC with RJ45 100Gb/s dual-port ethernet NIC Host baseboard management controller (BMC) with RJ45 |
| Storage | OS:2x 1.9TB NVMe M.2 Internal storage: 8x 3.84TB NVMe U.2 | OS:2x 1.9TB NVMe M.2 Internal storage: 8x 3.84TB NVMe U.2 | OS:2x 1.9TB NVMe M.2 Internal storage: 8x 3.84TB NVMe U.2 | OS:2x 1.9TB NVMe M.2 Internal storage: 8x 3.84TB NVMe U.2 |
| Software | NVIDIA AI Enterprise - Optimized AI Software NVIDIA Base Command - Orchestration, Scheduling, and Cluster Management DGX OS / Ubuntu - Operating System | NVIDIA AI Enterprise - Optimized AI Software NVIDIA Base Command - Orchestration, Scheduling, and Cluster Management DGX OS / Ubuntu - Operating System | NVIDIA AI Enterprise - Optimized AI Software NVIDIA Base Command - Orchestration, Scheduling, and Cluster Management DGX OS / Ubuntu - Operating System | NVIDIA AI Enterprise - Optimized AI Software NVIDIA Base Command - Orchestration, Scheduling, and Cluster Management DGX OS / Ubuntu - Operating System |
| Höheneinheiten | 10U | 10U | 8U | 8U |
| System Dimensions | HxWxL (444mm x 482mm x 897mm) | HxWxL (356mm x 482mm x 897mm) | HxWxL (356mm x 482mm x 897mm) | |
| Support | Includes 3 years NVIDIA Business Standard Support | Includes 3 years NVIDIA Business Standard Support | Includes 3 years NVIDIA Business Standard Support | Includes 3 years NVIDIA Business Standard Support |
Branchenführende Infrastruktur für den gesamten Zyklus - der schnellste Weg zu KI-Innovation im großen Maßstab.
Massive Datensätze, riesige Modelle beim Deep Learning und komplexe Simulationen erfordern mehrere Grafikprozessoren mit extrem schnellen Verbindungen und einem vollständig beschleunigten Softwarestack.
Während die HGX-Plattform als standardisiertes Baseboard an OEM-Partner für individuell konfigurierte Server-Gehäuse geliefert wird, ist DGX ein von NVIDIA vollständig als schlüsselfertige Appliance entwickeltes Komplettsystem inklusive eigenem Gehäuse, Netzwerkinfrastruktur und direktem DGX-Software-Support.
Jedes DGX-System enthält den DGX Software-Stack (inklusive BaseOS) sowie den Zugang zu NVIDIA AI Enterprise, was optimierte Frameworks, Container, Bibliotheken und Cluster-Management-Tools wie den Base Command Manager umfasst.
Dank standardisierter Referenzarchitekturen wie DGX BasePOD und DGX SuperPOD können Unternehmen nahtlos von einem einzelnen System zu Multi-Node-Clustern und großskalierten KI-Fabriken expandieren.
Ja, NVIDIA bietet für Forschung und Lehre dedizierte EDU-Rabatte an, die individuell angefragt werden können.
Sie planen den Einstieg in noch größere Dimensionen oder suchen nach flexiblen Alternativen für spezielle Workloads? Entdecken Sie passende skalierbare SuperPOD-Infrastrukturen, HGX-basierte Supercomputer sowie unsere maßgeschneiderten sysGen GPU-Systeme für Ihre individuellen Anforderungen.

