Supermicro NVIDIA MGX™ Systems

Die 1U NVIDIA MGX-Systeme von Supermicro verfügen über bis zu 2 NVIDIA GH200 Grace Hopper Superchips mit 2 NVIDIA H100 GPUs und 2 NVIDIA Grace CPUs. Jeder verfügt über 480 GB LPDDR5X-Speicher für die CPU und 96 GB HBM3- oder 144 GB HBM3e-Speicher für die GPU. Der speicherkohärente NVIDIA-C2C mit hoher Bandbreite und geringer Latenz verbindet CPU, GPU und Speicher mit 900 GB/s – siebenmal schneller als PCIe 5.0. Die modulare Architektur bietet mehrere PCIe 5.0 x16 FHFL-Steckplätze zur Aufnahme von DPUs für die Cloud- und Datenverwaltung sowie Erweiterbarkeit für zusätzliche GPUs, Netzwerke und Speicher.

Mit dem 1U-2-Knoten-Design mit 2 NVIDIA GH200 Grace Hopper Superchips können die bewährten Direct-to-Chip-Flüssigkeitskühlungslösungen von Supermicro die Betriebskosten um mehr als 40 % senken, gleichzeitig die Rechendichte erhöhen und die Rack-Scale-Bereitstellung für Large Language Model (LLM) vereinfachen. Cluster und HPC-Anwendungen.

Die 2U Supermicro NVIDIA MGX-Plattform unterstützt sowohl NVIDIA Grace- als auch x86-CPUs mit bis zu 4 Rechenzentrums-GPUs in voller Größe, wie z. B. NVIDIA H100 PCIe, H100 NVL oder L40S. Es bietet außerdem drei zusätzliche PCIe 5.0 x16-Steckplätze für I/O-Konnektivität und acht Hot-Swap-EDSFF-Speicherschächte.

Supermicro bietet NVIDIA-Netzwerke zur Sicherung und Beschleunigung von KI-Workloads auf der MGX-Plattform. Dazu gehört eine Kombination aus NVIDIA BlueField-3 DPUs, die 2x 200 Gbit/s Konnektivität zur Beschleunigung des Benutzer-zu-Cloud- und Datenspeicherzugriffs bieten, und ConnectX-7-Adaptern, die bis zu 400 Gbit/s InfiniBand- oder Ethernet-Konnektivität zwischen GPU-Servern bereitstellen.
​​​​​​​
Entwickler können diese neuen Systeme und NVIDIA-Softwareangebote schnell für jede Branchen-Workload nutzen. Zu diesen Angeboten gehört NVIDIA AI Enterprise, eine Software der Enterprise-Klasse, die die NVIDIA AI-Plattform antreibt und die Entwicklung und Bereitstellung produktionsreifer generativer KI, Computer Vision, Sprach-KI und mehr optimiert. Darüber hinaus bietet das NVIDIA HPC-Softwareentwicklungskit die wesentlichen Werkzeuge, die für die Weiterentwicklung des wissenschaftlichen Rechnens erforderlich sind.
Jeder Aspekt der Supermicro NVIDIA MGX-Systeme ist darauf ausgelegt, die Effizienz zu steigern, vom intelligenten thermischen Design bis zur Komponentenauswahl. NVIDIA Grace Superchip-CPUs verfügen über 144 Kerne und liefern bis zu doppelt so viel Leistung pro Watt im Vergleich zu heutigen x86-CPUs nach Industriestandard. Spezifische Supermicro NVIDIA MGX-Systeme können mit zwei Knoten in 1 HE konfiguriert werden, was insgesamt 288 Kernen auf zwei Grace-CPU-Superchips entspricht, um bahnbrechende Rechendichten und Energieeffizienz in Hyperscale- und Edge-Rechenzentren bereitzustellen.

Konstruieren Sie neue Lösungen für beschleunigte Infrastrukturen, die es Wissenschaftlern und Ingenieuren ermöglichen, sich auf die Lösung der wichtigsten Probleme der Welt mit größeren Datensätzen, komplexeren Modellen und neuen generativen KI-Workloads zu konzentrieren. Im gleichen 1U-Gehäuse liefern Supermicros duale NVIDIA GH200 Grace Hopper Superchip-Systeme die höchste Leistung für jede Anwendung auf der CUDA-Plattform mit erheblichen Geschwindigkeitssteigerungen für KI-Workloads mit hohem Speicherbedarf. Zusätzlich zum Hosting von bis zu 2 Onboard-H100-GPUs im 1U-Formfaktor ermöglichen die modularen Einschübe PCIe-Erweiterungen in voller Größe für aktuelle und zukünftige beschleunigte Rechenkomponenten, High-Speed-Scale-Out und Clustering.

Supermicro NVIDIA MGX™ 1U/2U-Systeme mit Grace™ CPU Superchip und x86-CPUs sind vollständig für die Unterstützung von bis zu 4 GPUs über PCIe optimiert, ohne dass dabei E/A-Netzwerke oder die Wärmeentwicklung beeinträchtigt werden. Die ultimative Bausteinarchitektur ermöglicht es Ihnen, diese Systeme für eine Vielzahl von beschleunigten Arbeitslasten und Bereichen zu optimieren, einschließlich KI-Training und Inferenz, HPC, Datenanalyse, Visualisierung/Omniverse™ und Hyperscale-Cloud-Anwendungen.