Nvidia will KI aus der Nische holen
Mit einer Produktoffensive hat der Grafik-CPUAnbieter Nvidia demonstriert, dass er KI und High Performance Computing nicht nur durch die Hardwarebrille sehen möchte.
Mit einer Produktoffensive hat Nvidia auf seiner Technologiekonferenz in San José demonstriert, dass der Chip- und Grafikkartenhersteller KI und High Performance Computing nicht nur durch die Hardwarebrille sehen möchte.
Nvidias CEO und Gründer Jensen Huang nutzte die GPU-Technologiekonferenz GTC für eine lange KeynoteRede. „Unser Accelerated-Computing-Ansatz findet immer mehr Anklang“, sagte Huang. „Wenn man sich ansieht, was wir im letzten Jahr erreicht haben, wird klar, was für ein Momentum dahintersteckt.“
Erst vor wenigen Tagen hatte Nvidia angekündigt, für den stolzen Preis von 6,9 Milliarden Dollar den israelischen Rechenzentrumsspezialisten Mellanox zu übernehmen. Damit bootete der Chiphersteller Intel aus, das ebenfalls interessiert war, aber weniger Geld hinlegen wollte. Mellanox bietet eine breite Palette von Komponenten – darunter vor allem Ethernet-Switches – für die Vernetzung im Rechenzentrum und behauptet zudem, „Marktführer im Bereich Infiniband/SAN“zu sein.
CUDA-X AI soll Entwicklung beschleunigen
Auf der GTC ging es jedoch vorrangig um andere Themen. Nvidia enthüllte unter anderem „CUDA-X AI“, ein Set an GPU Acceleration Libraries für Data Science und künstliche Intelligenz (KI). Man wolle das Entwickeln KI-basierter Anwendungen auf allen Ebenen – Data Processing, Feature Engineering, Machine Learning, Verifikation – beschleunigen, und zwar nicht punktuell, sondern von Ende zu Ende, hieß es. CUDA-X AI ist eine Bibliothekensammlung, die auf dem Parallel-Programmiermodell CUDA aufsetzt. Nvidia bietet es für Deep Learning, Machine Learning und High Performance Computing (HPC) an.
Der Chiphersteller integriert die Libraries in populäre Deep Learning Frameworks wie TensorFlow, PyTorch und MXNet. Die Entwicklung eines großartigen Chips sei für Nvidia nur ein schöner Anfang, sagte Huang. Solange die Entwickler und Anwender keine Vorteile daraus ziehen könnten, sei das nutzlos. Deshalb sei es für Nvidia so wichtig, in einem Ökosystem zu arbeiten: „Wir sehen uns als offene Plattform. Wir erstellen diese Bibliotheken so, dass sie softwaredefiniert und in ein modernes System integrierbar sind.“
Public-Cloud-Partnerschaften
CUDA-X AI werde bereits von Cloud-Providern wie Amazon Web Services (AWS), Google Cloud und Microsoft Azure eingesetzt. Insbesondere seine inzwischen siebenjährige Partnerschaft mit AWS hob Nvidia hervor: Auf der Konferenz hieß es unter anderem, Amazon werde nun beginnen, den Kunden auch die T4-Grafikchips von Nvidia über die G4-Instanzen der Elastic Compute Cloud (EC2) zur Verfügung zu stellen. Damit sollen AWS-Kunden eine performante Plattform für die Bereitstellung von KI-Diensten bekommen – mit der Möglichkeit, ihre Instanzen mit der GPU-Beschleunigungssoftware von Nvidia einschließlich CUDA-X AI zu koppeln. „Mit unseren neuen T4-basierten G4-Instanzen machen wir es den Kunden einfacher und kostengünstiger, ihre maschinell lernenden Inferenzen und grafikintensiven Anwendungen zu beschleunigen“, sagte Matt Garman, Vice President für Compute Services bei AWS.
Nvidias T4-GPU ist darauf ausgelegt, CloudWorkloads wie High Performance Computing, Deep-Learning-Training und -Inferenz, maschinelles Lernen, Datenanalysen und Grafik beschleunigt zu bearbeiten. Sie wird nun auch von Amazons „Elastic Container Service for Kubernetes“genutzt und soll in Anwendungsfällen wie KI-Inferenzierung, Echtzeit-Raytracing, Simulation und mehr zum Einsatz kommen. Nvidia bestätigte, dass auch Google Cloud die T4-GPUs in seinen Rechenzentren einsetzen werde. Man habe Hoffnung, dass die chinesischen Cloud-Anbieter Baidu, Tencent und Alibaba bald folgen könnten.
T4-GPUs auch für normale Server
„In der Vergangenheit hatten Unternehmen kaum eine Chance, KI-Projekte umzusetzen, weil sie dazu schon beinahe einen Supercomputer hätten anschaffen müssen.“Mit den Cloud-Services habe sich die Ausgangslage grundlegend verbessert, sagte Ian Buck, Nvidias Vice President und General Manager für Accelerated Computing, im Gespräch mit der COMPUTERWOCHE-Schwesterpublikation „Computerworld UK“. Manch ein Anwender fühle sich angesichts der Cloud-Angebote, als sitze er in einem „Spaceshuttle“.
Nvidia gab auf seiner Hausmesse auch bekannt, dass gewöhnliche Mainstream-Server von Cisco, Fujitsu, Lenovo, Dell, Hewlett Packard Enterprise (HPE) und anderen ebenfalls mit T4-Grafikprozessoren zu haben sind, sofern die Zertifizierung „Nvidia GPU Cloud ready“vorhanden ist. Damit ließen sich KITraining und -Inferenz, maschinelles Lernen, Datenanalyse und die Einrichtung virtueller Desktops erheblich beschleunigen. Um Entwickler sowie die Maker-Szene dazu zu bringen, auf der Nvidia-Plattform zu entwickeln, hat der Hersteller einen kleinen, mit dem Raspberry Pi vergleichbaren Taschencomputer namens „Jetson Nano“vorgestellt. Der KIRechenzwerg liefert bis zu 472 Gigaflops Rechenleistung, unterstützt nahezu alle modernen KI-Workloads und kostet nur 99 Dollar. „Wenn Sie einen Raspberry Pi verwenden und die Rechenleistung knapp wird, nutzen Sie einfach einen Jetson Nano, und Sie haben den gesamten CUDA-X-AI-Stack“, sagte NvidiaManager Deepu Talla.
Zu Nvidias Ankündigungen gehörte auch die Aussage, dass die Deepstream-Plattform für die Videoanalyse ab sofort auch in der Microsoft Azure Cloud verfügbar sei. „Eine hochleistungsfähige Videoanalyse erfolgt on Premise etwa auf der Basis eines Tesla-basierten Servers. Die Metadaten gehen dann in die Azure Cloud. Es gibt dafür jetzt einen End-to-EndWorkflow, und das wird durch Microsofts Support ermöglicht“, sagte Talla. In seiner Keynote gab Huang erst ganz zum Schluss bekannt, dass Nvidia seine Zusammenarbeit mit Toyota ausgebaut habe. Die Japaner haben es demnach auf die Simulations- und Testtechnik von Nvidia rund um das autonome Fahren abgesehen.
Autonomes Fahren virtuell testen
Nvidia kündigte unter anderem „Drive Constellation“an, eine Cloud-basierte Simulationsplattform für autonomes Fahren. Damit wollen die Partner ein gravierendes Problem im Bereich des autonomen Fahrens angehen: Entwickler sollen in virtuellen Szenarien die extremen Ereignisse simulieren, die im realen Verkehr aus Sicherheitsgründen nicht getestet werden können. Dass sich beispielsweise eine schwere Ladung vom Dachgepäckträger eines vorausfahrenden Fahrzeugs lösen kann, lässt sich unter Realbedingungen kaum testen, wohl aber in virtuellen Testumgebungen.
Drive Constellation besteht aus zwei Cloud-Lösungen: Der Server „Constellation Simulator“verwendet Nvidia-GPUs und die Software „Drive Sim“, um den Daten-Output eines virtuellen Fahrzeugs auf einer virtuellen Straße zu generieren. Der zweite Server „Constellation Vehicle“verarbeitet die Simulationsdaten mit Nvidias Fahrzeugcomputer „Drive AGX Pegasus AI“. So werden alle „Entscheidungsdaten“umgehend erfasst und ausgewertet.
Umgebungsdaten werden analysiert
Mit der Einführung der Software „Safety Force Field“zielt Nvidia ferner darauf ab, Autos vor Unfällen zu schützen. Die Lösung analysiert und prognostiziert laut Hersteller die Dynamik der Umgebung eines Fahrzeugs, indem sie laufend Sensordaten aufnimmt und daraus Maßnahmen ableitet. „Unser Unternehmen befindet sich mitten in der Revolution der autonomen Fahrzeuge“, sagte Huang. „Wir bauen aber keine selbstfahrenden Autos, sondern wir schaffen Systeme und eine Infrastruktur, die für die Branche notwendig sind, um selbstfahrende Autos zu bauen.“