GTC21 - Neue Ampere Technologie

NVIDIA A10 liefert leistungsstarke,
flexible Leistung für virtuelle Workstations

Professionelle Anwender nutzen zunehmend fortschrittliche Technologien wie Echtzeit-Raytracing, KI, Compute, Simulation und virtuelle Realität für ihre Arbeit. Aber um diese Workflows auszuführen, und da die Mobilität der Mitarbeiter heutzutage entscheidend ist, benötigen sie mehr Leistung und Flexibilität, um von überall aus arbeiten zu können.

Der NVIDIA A10 in Kombination mit der NVIDIA RTX Virtual Workstation Software liefert die Leistung, um diese komplexen Workflows effizient zu betreiben und gleichzeitig den Mitarbeitern ein optimales Benutzererlebnis zu bieten.

Mit virtuellen Workstations, die vom A10 angetrieben werden, können Unternehmen verbesserte Grafiken und Videos mit KI-beschleunigten Anwendungen von Mainstream-Unternehmensservern bereitstellen.

Da der A10 Grafik- und KI-Workloads auf einer virtualisierten Infrastruktur unterstützen kann, können Rechenzentrumsadministratoren flexibel Ressourcen bereitstellen und jede nicht ausgelastete Rechenleistung nutzen, um KI-Inferenz- oder VDI-Workloads auszuführen.

Der A10 kombiniert RT Cores der zweiten Generation und Tensor Cores der dritten Generation, um Grafik- und Videoanwendungen mit leistungsstarker KI anzureichern. Er wurde speziell für Workstations von Grafik-, Medien- und Spieleentwicklern entwickelt und bietet eine 2,5-mal schnellere Grafikleistung und eine mehr als 2,5-mal höhere Inferenzleistung im Vergleich zur vorherigen Generation der NVIDIA T4 Tensor Core GPU.

Anwender können auf dem A10 auch Inferenz-Workloads mit NVIDIA AI Enterprise Software ausführen und Bare-Metal-Performance erreichen. Der A10 enthält neue Streaming-Mikroprozessoren mit 24 GB GDDR6-Speicher, die vielseitige Grafik-, Rendering-, KI- und Rechenleistung ermöglichen. Der PCIe-Formfaktor mit einfacher Breite und voller Höhe ermöglicht eine GPU-Serverdichte, oft fünf bis sechs GPUs pro Server.

NVIDIA A30 KI-Inferenz und Mainstream-Computing
​​​​​​​für jedes Unternehmen ​​​​​​​

Steigern Sie die Leistung für jeden Enterprise-Workload mit der NVIDIA A30 Tensor-Core-GPU. Mit der NVIDIA Ampere-Architektur-Tensor-Cores und Multi-Instanz-GPU (MIG) sind hohe Geschwindigkeiten sicher über verschiedene Workloads hinweg möglich, einschließlich KI-Inferenz im großen Maßstab und Hochleistungs-Computing(HPC)-Anwendungen. Durch die Kombination schneller Speicherbandbreite und geringen Stromverbrauchs im PCIe-Formfaktor – optimal für Mainstream-Server – ermöglicht die A30 ein flexibles Rechenzentrum und bietet maximalen Nutzen für Unternehmen.

Mit der A30 werden bahnbrechende Funktionen zur Optimierung von Inferenzworkloads genutzt. Sie beschleunigt ein breites Spektrum von Präzisionen, von FP64 über TF32 bis hin zu INT4. Mit der Unterstützung von bis zu vier MIGs pro GPU ermöglicht die A30 den gleichzeitigen Betrieb mehrerer Netzwerke in sicheren Hardwarepartitionen mit garantierter Quality of Service (QoS). Zusätzlich zu den anderen Inferenzleistungssteigerungen der A30 bietet die strukturelle geringe Dichte bis zu 2-mal mehr Leistung.  

Bei hochmodernen Gesprächs-KI-Modellen beschleunigt die A30 den Echtzeit-Inferenzdurchsatz um das 3-Fache gegenüber der NVIDIA V100 Tensor-Core-GPU der vorherigen Generation. 
​​​​​​​
Bei der Echtzeit-Bildklassifizierung (die eine Latenz von <7 ms erfordert) beschleunigt die A30 den Durchsatz um das 7-Fache im Vergleich zu NVIDIA T4.
NVIDIA bewies marktführende KI-Leistung bei der Inferenz in MLPerf.  In Kombination mit NVIDIA Triton™Inference Server , der KI problemlos in großem Maßstab bereitstellt, ermöglicht die A30 diese bahnbrechende Leistung für jedes Unternehmen.