Für eine höhere Produktivität von Datenwissenschaftlern und zur Beschleunigung der Bereitstellung von KI-Services ist schnelleres Trainieren immer komplexerer Modelle der entscheidende Faktor. Server mit NVIDIA®-Grafikprozessoren nutzen die Leistung des beschleunigten Computings, um die Trainingszeit für Deep Learning von Monaten auf Stunden oder Minuten zu reduzieren.

Mit Inferenz beginnt der Einsatz bereits trainierter neuronaler Netze erst richtig. Wenn neue Datenpunkte wie Bilder, Sprache, visuelle Suche oder Videosuche hinzukommen, sind Antworten und Empfehlungen – und damit die eigentlichen Kernaufgaben vieler KI-Services – erst dank Inferenz möglich. Mit einem Server mit nur einem NVIDIA-Grafikprozessor lässt sich der Inferenzdurchsatz gegenüber einem reinen CPU-Server unter Umständen um das 27-Fache erhöhen. Das Potenzial für Kosteneinsparungen ist also enorm.

Deep Learning und erschwingliche Sensoren haben die Voraussetzungen für einen explosionsartigen Anstieg in der Zahl autonomer Maschinen – dem IoT mit KI – geschaffen, der mit der Kambrischen Explosion in der Evolutionsgeschichte vergleichbar ist. Der eingebettete KI-Supercomputer NVIDIA Jetson TX2 bietet 1 TeraFLOPS an Leistung auf einem kreditkartengroßen Modul. Derartige Leistung wird eine neue Welle der Automatisierung in der Fertigung, Drohnen zum Inspizieren gefährlicher Umgebungen und Roboter, die Tag für Tag Millionen Pakete ausliefern, ermöglichen.

HPC-Rechenzentren müssen die immer höheren Anforderungen von Wissenschaftlern und Forschern an die Rechenleistung unterstützen. Gleichzeitig sind strenge Budgetvorgaben einzuhalten. Früher wurden einfach sehr viele Standardrechenknoten bereitgestellt, was die Kosten stark in die Höhe trieb, jedoch ohne einen gleichwertigen Leistungsgewinn im Rechenzentrum.

Mittlerweile ist die Beschleunigung von mehr als 700 HPC-Anwendungen möglich, darunter der zehn wichtigsten. Alle HPC-Kunden können nun von einem deutlich höheren Durchsatz ihrer Workloads profitieren und gleichzeitig Kosten sparen.

Vieles ändert sich in Unternehmen. Abläufe entwickeln sich immer weiter und Unternehmen müssen allen Mitarbeitern ermöglichen, auf jedem Gerät hochwertige Simulationen und Visualisierungen durchzuführen und moderne Apps für Geschäftsanwendungen zu nutzen.

Die virtuellen Grafikprozessoren und NVIDIA-Grafikprozessoren für Rechenzentren eröffnen IT-Abteilungen ganz neue Möglichkeiten: So sind sie in der Lage, Grafiken und Berechnungen zu virtualisieren, Ressourcen für jeden Workload ganz einfach zuzuweisen und für ihre VDI-Investition die optimale Nutzerdichte zu erzielen.