Systeme und Informatikanwendungen Nikisch GmbHsysGen GmbH - Am Hallacker 48a - 28327 Bremen - info@sysgen.de

Willkommen auf der neuen Website von sysGen. Bitte nutzen Sie unser Kontaktformular falls Sie Fragen zu unseren Inhalten haben.

KEYNOTE NOVEMBER 9 CONFERENCE & TRAINING NOVEMBER 8-11,2021ZUR ANMELDUNG
Aufgrund der sich ausweitenden Chipkrise und den daraus resultierenden, deutlichen Preiserhöhungen großer IT-Hersteller sind aktuelle Online-Preiskalkulationen derzeit nicht möglich. Wir weisen daher darauf hin, dass Preisanfragen über unsere Website vom endgültigen Angebot abweichen können!

BESCHLEUNIGTE RECHENLEISTUNG, VIRTUALISIERT

KI, Deep Learning und Datenwissenschaft erfordern beispiellose Rechenleistung. Mit dem Virtual Compute Server von NVIDIA (vCS) können Rechenzentren die Servervirtualisierung mit aktuellen NVIDIA-Grafikprozessoren für Rechenzentren beschleunigen, etwa den NVIDIA A100 und A30 Tensor Core-GPUs, sodass auch die rechenintensivsten Workloads, wie z. B. künstliche IntelligenzDeep Learning und Datenwissenschaften, auf einer virtuellen Maschine (VM) mit NVIDIA vGPU-Technologie ausgeführt werden können. Dies ist nicht etwa ein kleiner Schritt für die Virtualisierung, sondern ein großer Sprung.


Dokument anzeigen: vCS-Lösungsübersicht (PDF 280 KB)

Merkmale

GPU-Sharing (fraktioniert) ist nur mit der NVIDIA vGPU-Technologie möglich. Sie ermöglicht es mehreren VMs, einen Grafikprozessor gemeinsam zu nutzen und die Auslastung für leichtere Workloads zu maximieren, für die eine Grafikprozessorbeschleunigung erforderlich ist.

Bei der GPU-Aggregation kann eine VM auf mehrere Grafikprozessoren zugreifen, was häufig für rechenintensive Workloads erforderlich ist. vCS unterstützt sowohl Multi-vGPU als auch Peer-to-Peer-Computing. Bei Multi-vGPU sind die Grafikprozessoren nicht direkt verbunden. Bei Peer-to-Peer sind sie zum Erzielen einer höheren Bandbreite durch NVLink verbunden.

vCS unterstützt die Überwachung auf App-, Gast- und Hostebene. Darüber hinaus bieten proaktive Verwaltungsfunktionen die Möglichkeit, eine Live-Migration durchzuführen, Schwellenwerte zu unterbrechen und wieder aufzunehmen und zu erstellen. Diese Schwellenwerte zeigen die Verbrauchstrends, die sich auf die Nutzererfahrung auswirken. Das alles ist in der vGPU Management SDK möglich.

MEHR INFOS

NVIDIA GPU Cloud (NGC) ist ein Hub für grafikprozessoroptimierte Software, die Workflows für Deep Learning, maschinelles Lernen und HPC vereinfacht und jetzt virtualisierte Umgebungen mit NVIDIA vCS unterstützt.

MEHR INFOS

NVIDIA® NVLink™ ist eine schnelle, direkte GPU-zu-GPU-Verbindung, die eine höhere Bandbreite, mehr Verbindungen und eine verbesserte Skalierbarkeit für Systemkonfigurationen mit mehreren Grafikprozessoren bietet – jetzt virtuell unterstützt mit NVIDIA-Technologie für virtuelle Grafikprozessoren (vGPU).

MEHR INFOS

Der Fehlerkorrekturcode (ECC) und Page Retirement bieten eine höhere Zuverlässigkeit für Rechenanwendungen, die für Datenbeschädigungen anfällig sind. Sie sind besonders wichtig in umfangreichen Cluster-Computing-Umgebungen, in denen Grafikprozessoren sehr umfangreiche Datensätze verarbeiten und/oder Anwendungen über einen längeren Zeitraum ausführen.

MEHR INFOS

Multi-Instance-Grafikprozessoren (MIG) stellen eine revolutionäre Technologie dar, mit der die Möglichkeiten des Rechenzentrums erweitert werden können, sodass jeder NVIDIA A100 Tensor Core-Grafikprozessor in bis zu sieben vollständig isolierte Instanzen aufgeteilt und auf Hardware-Level mit eigenem Speicher, Cache und Rechenkernen mit hoher Bandbreite gesichert werden kann. Mit der vCS-Software kann eine VM auf jeder dieser MIG-Instanzen ausgeführt werden, sodass Organisationen die Vorteile von Management, Überwachung und betrieblichen Vorteilen der Hypervisor-basierten Servervirtualisierung nutzen können.

GPUDirect® Mit RDMA (Remote Direct Speicher Access) können Netzwerkgeräte direkt auf den Grafikprozessorspeicher zugreifen, wobei der Hostspeicher der CPU umgangen, die Kommunikationslatenz von Grafikprozessoren verringert und die CPU vollständig abgeladen wurde.

MEHR INFOS

FÜR MAXIMALE EFFIZIENZ SKALIERT

NVIDIA Virtual GPUs bieten Ihnen nahezu Bare-Metal-Leistung in einer virtualisierten Umgebung, maximale Auslastung, Verwaltung und Überwachung in einer Hypervisor-basierten Virtualisierungsumgebung für GPU-beschleunigte KI.

Leistungsskalierung für Deep-Learning-Training mit vCS auf NVIDIA A100 Tensor-Core-GPUs

Entwickler, Datenwissenschaftler, Forscher und Studenten benötigen enorme Rechenleistung für Deep-Learning-Training. Unsere A100 Tensor-Core-GPU beschleunigt die Arbeit, wodurch schneller mehr erreicht werden kann. NVIDIA-Software, der Virtual Compute Server, bietet nahezu die gleiche Leistung wie Bare Metal, selbst wenn sie auf große Deep-Learning-Trainingsmodelle skaliert wird, die mehrere GPUs verwenden.

Durchsatzleistung bei Deep-Learning-Inferenz mit MIG auf NVIDIA A100 Tensor-Core-GPUs mit vCS

Multi-Instance GPU (MIG) ist eine Technologie, die nur auf der NVIDIA A100 Tensor-Core-GPU zu finden ist und die A100-GPU in bis zu sieben Instanzen partitioniert, die jeweils vollständig mit eigenem Speicher mit hoher Bandbreite sowie eigenem Cache und eigenen Rechenkernen isoliert sind. MIG kann mit Virtual Compute Server verwendet werden und bietet eine VM pro MIG-Instanz.  Die Leistung ist gleichbleibend, ob nun ein Inferenz-Workload über mehrere MIG-Instanzen auf Bare Metal ausgeführt oder mit vCS virtualisiert wird.

RESSOURCEN FÜR IT-MANAGER

Erfahren Sie, wie NVIDIA Virtual Compute Server die Leistung maximiert und das IT-Management vereinfacht.

Nutzungsoptimierung

Schöpfen Sie wertvolle GPU-Ressourcen voll aus, indem Sie GPUs nahtlos für einfachere Workloads wie Inferenz aufteilen oder mehrere virtuelle GPUs für rechenintensivere Workloads wie Deep-Learning-Training bereitstellen.

Verwaltbarkeit und Überwachung

Sichern Sie die Verfügbarkeit und Einsatzbereitschaft der Systeme, die Datenwissenschaftler und Forscher benötigen. Überwachen Sie die GPU-Leistung auf Gast-, Host- und Anwendungsebene. Sie können sogar Verwaltungstools wie Anhalten/Fortsetzen und Live-Migration nutzen. Erfahren Sie mehr über die betrieblichen Vorteile der GPU-Virtualisierung.

Vorteile für die IT entdecken

GRAFIKPROZESSOREMPFEHLUNGEN

NVIDIA A100 NVIDIA V100S NVIDIA A40 NVIDIA RTX 8000 NVIDIA RTX 6000 NVIDIA T4
Arbeitsspeicher 40 GB HBM2 32 GB HBM2 48 GB GDDR6 48 GB GDDR6 24 GB GDDR6 16 GB GDDR6
Spitzen-FP 32 19,5 TFLOPS 16,4 TFLOPS 38,1 TFLOPS 14,9 TFLOPS 14,9 TFLOPS 8,1 TFLOPS
Spitzen-FP 64 9,7 TFLOPS 8,2 TFLOPS - - - -
NVLink: Anzahl der Grafikprozessoren pro VM Bis zu 8 Bis zu 8 2 2 2 -
ECC und Page Retirement
Multi-vGPU pro VM1 Bis zu 16 Bis zu 16 Bis zu 16 Bis zu 16 Bis zu 16 Bis zu 16

PARTNER BEI DER VIRTUALISIERUNG