Auf der GTC-Konferenz am 18. März kündigte Nvidia-CEO Jensen Huang ein beeindruckendes Projekt an: Die neue Software Dynamo soll die Geschwindigkeit der KI-Verarbeitung von DeepSeek um das 30-fache steigern. Dieser Schritt ist Nvidias Antwort auf die Marktturbulenzen, die durch DeepSeks KI-Programm R1 ausgelöst wurden. Die Technologie von DeepSeek reduziert den Rechenaufwand pro Anfrage deutlich, was bei Investoren Sorgen um die Zukunftsaussichten von Nvidia hervorrief.
Nvidias Dynamo-Software verteilt KI-Inferenzaufgaben auf bis zu 1000 GPUs für parallele Verarbeitung und steigert so den Durchsatz erheblich. Huang erklärte, dass Dynamo mit dem neuen Blackwell-Chip die gleiche Architektur bei 30-facher Verarbeitungsleistung bietet. Diese Leistungssteigerung ermöglicht es KI-Rechenzentren, mehr Tokens pro Sekunde zu verarbeiten und so den Gesamtumsatz zu erhöhen.
Konkret steigert Dynamo die Verarbeitungsleistung um 1 Million Tokens pro Dollar. Das bedeutet, dass Dienstanbieter entweder mehr Kundenanfragen gleichzeitig bearbeiten oder einem einzelnen Benutzer leistungsstärkere Dienste anbieten und höhere Gebühren berechnen können. Nvidia bezeichnet diesen Hochleistungs-KI-Dienst als „KI-Fabrik“.
Zur weiteren Leistungssteigerung von DeepSeek veröffentlichte Nvidia auf HuggingFace eine angepasste Version von DeepSeek R1. Diese Version verwendet weniger Rechenbits („FP4“) und verbessert so die Leistung deutlich, ohne die Genauigkeit des Modells signifikant zu beeinträchtigen.
Neben Dynamo stellte Nvidia auch die neueste Version des Blackwell-Chips „Ultra“ mit erhöhter Speicherkapazität und Gesamtperformance vor. Darüber hinaus wurde der kleine Personal Computer DGX Spark für KI-Entwickler offiziell vorgestellt, und die Konfiguration des DGX Station-Desktop-Computers wurde aktualisiert.
Auf der Konferenz präsentierte Nvidia außerdem weitere neue Produkte und Kooperationsprojekte, darunter verbesserte Netzwerkswitches und Softwaremodelle für medizinische Roboter, was die kontinuierliche Innovationskraft von Nvidia in den Bereichen KI und Computing unterstreicht.
Wichtigste Punkte:
🌟 Nvidia bringt Dynamo heraus, das die Verarbeitungsgeschwindigkeit von DeepSeek KI um das 30-fache erhöht.
💰 Durch Dynamo können Dienstanbieter Kundenanfragen effizienter bearbeiten und ihren Umsatz steigern.
🖥️ Der neue Blackwell-Chip „Ultra“ und der DGX Spark Computer wurden auf der Konferenz vorgestellt.