DGX B200
Echtzeit-Inferenz für Large Language Models
Die projizierte Leistung kann Änderungen unterliegen. Token-to-Token-Latenz (TTL) = 50 ms in Echtzeit, erste Token-Latenz (FTL) = 5 s, Eingabesequenzlänge = 32.768, Ausgabesequenzlänge = 1.028, 8x Acht-Wege-DGX H100-GPUs mit Luftkühlung vs. 1x Acht-Wege-DGX B200 mit Luftkühlung, pro GPU-Leistungsvergleich.
Neue Maßstäbe bei der KI-Trainingsleistung
Änderungen der prognostizierten Leistung vorbehalten. Leistung von 32.768 GPUs, 4.096 Acht-Wege-DGX H100-Cluster mit Luftkühlung: 400G IB-Netzwerk, 4.096 Acht-Wege-DGX B200-Cluster mit Luftkühlung: 400G IB-Netzwerk.
Powerhouse der AI-Leistung
NVIDIA hat die nächste Generation der weltweit leistungsstärksten Supercomputer entwickelt, um die komplexesten KI-Probleme von Unternehmen zu lösen. Der DGX B200 ist die jüngste Ergänzung der NVIDIA Accelerated Computing-Plattform, die dieses Engagement unterstreicht. Der DGX B200 basiert auf der innovativen NVIDIA Blackwell Architektur und bietet die dreifache Trainingsleistung und die 15-fache Inferenzleistung des DGX H100. Als Grundlage der NVIDIA DGX POD™ Referenzarchitekturen bietet DGX B200 Hochgeschwindigkeits-Skalierbarkeit für NVIDIA DGX BasePOD™ und NVIDIA DGX SuperPOD™ und liefert Spitzenleistung in einer schlüsselfertigen KI-Infrastrukturlösung.
Jetzt Anfragen!
