NVIDIA DATENWISSENSCHAFTLICHE TECHNOLOGIE

WARUM JETZT?

Die Verfügbarkeit von Open-Source-Software für Datenanalyse und maschinelles Lernen im großen Stil, wie z. B. Hadoop, NumPy, Scikit Learning, Pandas und Spark, haben die Big-Data-Revolution ausgelöst. Große Unternehmen aus riesigen Branchen wie dem Einzelhandel, dem Finanzwesen, dem Gesundheitswesen und der Logistik haben die Datenanalyse übernommen, um ihre Wettbewerbsfähigkeit, Reaktionsfähigkeit und Effizienz zu verbessern. Wenige Prozent Verbesserungen könnten sich auf ihr Endergebnis in Milliardenhöhe auswirken. Datenanalyse und maschinelles Lernen sind heute das größte HPC-Segment.

DIE AKTUELLE SITUATION

Für Unternehmen, die wettbewerbsfähig bleiben wollen, ist es nicht einfach, aus immer größeren Datenmengen zu lernen, die Komplexität der Analyse zu bewältigen oder mit siloartigen Analyselösungen Schritt zu halten, während sie auf einer veralteten Infrastruktur arbeiten. Was nützen wertvolle Daten, wenn die Datenanalyse viel zu lange dauert? Schnell zur Verfügung gestellte Ergebnisse hätten Wertverluste vermieden, mögliche Gewinne wären erzielbar gewesen, Betrugsschäden wären durch schnellere Reaktionen verhindert worden.

WAS IST DAS EIGENTLICHE PROBLEM?

Heutige Data-Science-Probleme erfordern einen dramatischen Anstieg des Datenumfangs
​​​​​​​sowie der für die Verarbeitung erforderlichen Rechenleistung.

Nimm nicht ein Kind für den Job eines starken Mannes, nimm nicht eine CPU für den Job einer schnellen GPU! Während sich die Datenmenge auf der Welt jedes Jahr verdoppelt, ist das CPU-Computing mit dem Ende des Mooreschen Gesetzes an eine Mauer gestoßen. Aus den gleichen Gründen haben sich wissenschaftliches Rechnen und Deep Learning der NVIDIA GPU-Beschleunigung zugewandt, Datenanalyse und maschinelles Lernen, wo GPU-Beschleunigung ideal ist.

WAS SIND RAPIDS?

RAPIDS basiert auf mehr als 15 Jahren Erfahrung in der NVIDIA® CUDA® Entwicklung und im maschinellen Lernen. Es ist eine leistungsstarke neue Software für die Ausführung von End-to-End Data Science-Trainings-Pipelines komplett im Grafikprozessor, wodurch die Trainingszeit von Tagen auf Minuten reduziert wird.
NVIDIA hat RAPIDS entwickelt - eine Open-Source-Plattform zur Beschleunigung von Datenanalyse und maschinellem Lernen. RAPIDS basiert auf Python, hat Pandas- und Scikit-Learn-ähnliche Schnittstellen, baut auf dem In-Memory-Datenformat Apache Arrow auf und kann von 1 über Multi-GPU bis hin zu mehreren Knoten skalieren.

RAPIDS lassen sich leicht in die weltweit beliebtesten Python-basierten Data-Science-Workflows integrieren. RAPIDS beschleunigen die Datenwissenschaft durchgängig - von der Datenvorbereitung über das maschinelle Lernen bis hin zum Deep Learning. Und über Arrow können Spark-Benutzer Daten zur Beschleunigung einfach in die RAPIDS-Plattform verschieben.

GIBT ES EINE LÖSUNG, DIE DIE VERARBEITUNG DEUTLICH BESCHLEUNIGT?

Ja, jetzt mit NVIDIAs Bestreben, die GPU-Beschleunigung in Machine Learning und High-Performance Data Analytics (ML/HPDA) voranzutreiben, berichtet das Unternehmen, dass die RAPIDS-Plattform mit dem XGBoost-Machine-Learning-Algorithmus für das Training auf einem NVIDIA DGX-2-Supercomputer im Vergleich zu reinen CPU-Systemen eine 50x fache Beschleunigung liefert.
So kann RAPIDS für die Datenwissenschaft die Rechenzeiten von Tagen auf Minuten reduzieren.

DIESE ANWENDUNGEN PROFITIEREN
​​​​​​​VON DER VERWENDUNG VON RAPIDS:

• Große Daten
• Prognosen, Trends, Vorhersagen
• Mustererkennung
• Kreditkartenerkennung
• Risikomanagement

AM BESTEN MIT DIESEN FRAMEWORKS VERWENDET WERDEN:

STEIGERUNG DER DATA-SCIENCE-LEISTUNG MIT RAPIDS

RAPIDS erreicht Beschleunigungsfaktoren von 50x oder mehr bei typischen End-to-End Data Science Workflows.
RAPIDS nutzt NVIDIA CUDA für die hochleistungsfähige GPU-Ausführung und macht diese GPU-Parallelität und die hohe Speicherbandbreite über benutzerfreundliche Python-Schnittstellen zugänglich. RAPIDS konzentriert sich auf gängige Datenaufbereitungsaufgaben für Analytik und Data Science und bietet eine leistungsstarke und vertraute Data Frame-API.
Diese API lässt sich in eine Vielzahl von Algorithmen für maschinelles Lernen integrieren, ohne dass typische Serialisierungskosten anfallen, und ermöglicht so die Beschleunigung von End-to-End-Pipelines. RAPIDS bietet außerdem Unterstützung für Multi-Node- und Multi-GPU-Implementierungen und ermöglicht so die Skalierung auf viel größere Datensätze.
Der RAPIDS-Container enthält ein Notebook und Code, der einen typischen End-to-End-ETL- und ML-Workflow demonstriert.
Das Beispiel trainiert ein Modell zur Risikobewertung von Hauskrediten unter Verwendung aller Kreditdaten für die Jahre 2000 bis 2016 im Fannie Mae Loan Performance Dataset, bestehend aus etwa 400 GB Daten im Speicher.
​​​​​​​Die folgende Abbildung zeigt die geografische Visualisierung

Einer der größten Wettbewerbsvorteile, den NVIDIA in diesem Bereich genießt, ist ein riesiges Ökosystem, das rund um CUDA aufgebaut ist. Hardware-Anbieter unterstützen NVIDIA GPUs, während Software-Anbieter und die Open-Source-Communities NVIDIA CUDA und die darauf basierenden GPUs unterstützen. Daher hat das Unternehmen einen beträchtlichen Vorsprung auf dem Markt für Deep Learning Training und Inferencing und baut diesen Vorsprung mit RAPIDS weiter aus. Wie bereits erwähnt, können die viel zu langen Laufzeiten für bisherige Datenanalysen durch den Einsatz von GPU-Prozessoren drastisch verkürzt werden. RAPIDS ermöglicht den Einsatz von blitzschnellen GPU-Prozessoren anstelle von langsamen x86-Prozessoren, wobei letztere weiterhin für allgemeine Betriebssystemaufgaben zuständig sind.

DEVELOPMENT SYSTEMS

Als Entwicklungssysteme bietet Ihnen sysGen den devCube an. Der devCube ist ein gut getestetes und bewährtes System, das von vielen unserer Kunden für Deep-Learning-Aufgaben eingesetzt wird.

PRODUCTION SYSTEMS

Produktive Server sind den hohen Anforderungen des Dauerbetriebs und der konstanten Auslastung gewidmet. Redundante Netzteile und Komponenten der Enterprise-Klasse gehören zu unserem Service.