NVIDIA hat kürzlich ein neues, kompaktes KI-Supercomputersystem für generative KI vorgestellt: das Jetson Orin Nano Super Developer Kit. Dieses Produkt bietet nicht nur eine deutlich verbesserte Leistung, sondern auch einen deutlich reduzierten Preis und die Möglichkeit, die Leistung durch Software-Updates weiter zu steigern. Ziel ist es, generative KI für ein breiteres Publikum zugänglich zu machen.
Das neue Jetson Orin Nano Super Developer Kit ist handlich und kompakt und bietet kommerziellen KI-Entwicklern, Hobbyisten und Studenten leistungsstärkere generative KI-Funktionen und höhere Leistung. Der Preis wurde von zuvor 499 US-Dollar auf 249 US-Dollar gesenkt, wodurch die Einstiegshürde deutlich niedriger ist.
Das Kit ist ab heute erhältlich. Im Vergleich zum Vorgängermodell bietet es eine 1,7-fach höhere Leistung bei der Inferenz generativer KI, eine um 70 % gesteigerte INT8-TOPS-Leistung (67 TOPS) und eine um 50 % erhöhte Speicherbandbreite (102 GB/s). Ob Sie einen auf Retrieval Augmented Generation (RAG) basierenden LLM-Chatbot erstellen, einen visuellen KI-Agenten entwickeln oder KI-basierte Robotik einsetzen – das Jetson Orin Nano Super ist die ideale Wahl.
Software-Updates für kontinuierliche Leistungssteigerung
Besonders erwähnenswert ist, dass neue Software-Updates für das Jetson Orin Nano Super auch Nutzern, die bereits über ein Jetson Orin Nano Developer Kit verfügen, eine Leistungssteigerung bei generativer KI bieten werden.
Das Jetson Orin Nano Super eignet sich für alle, die sich für generative KI, Robotik oder Computer Vision interessieren. In einer KI-Welt, die von spezialisierten Modellen zu Basismodellen übergeht, bietet es eine praktische Plattform, um Ideen in die Realität umzusetzen.
Starke Leistung für generative KI
Die Leistungssteigerung des Jetson Orin Nano Super bietet deutliche Vorteile für alle gängigen generativen KI-Modelle und Transformer-basierte Computer-Vision-Anwendungen.
Das Entwickler-Kit enthält ein Jetson Orin Nano 8 GB System-on-Module (SoM) und eine Referenzplatine und bietet eine ideale Plattform für die Prototypenentwicklung von Edge-KI-Anwendungen.
Das SoM nutzt eine NVIDIA Ampere-Architektur-GPU und eine 6-Kern-Arm-CPU mit Tensor-Kernen, um mehrere parallele KI-Anwendungs-Pipelines und Hochleistungs-Inferenz zu ermöglichen. Es unterstützt bis zu vier Kameras mit höherer Auflösung und Bildrate als frühere Versionen.
Umfangreiches Software-Ökosystem und Community für generative KI
Generative KI entwickelt sich rasant. NVIDIA Jetson AI Lab bietet sofortige Unterstützung für die neuesten Modelle der Open-Source-Community und benutzerfreundliche Tutorials. Entwickler profitieren außerdem von der Unterstützung der breiteren Jetson-Community und können sich von den Projekten anderer Entwickler inspirieren lassen.
Jetson läuft mit NVIDIA KI-Software, darunter NVIDIA Isaac für Robotik, NVIDIA Metropolis für visuelle KI und NVIDIA Holoscan für Sensorverarbeitung. Die synthetische Datengenerierung mit NVIDIA Omniverse Replicator und das Feintuning vorab trainierter KI-Modelle im NGC-Katalog mit dem NVIDIA TAO Toolkit verkürzen die Entwicklungszeit.
Partner des Jetson-Ökosystems bieten zusätzliche KI- und Systemsoftware, Entwicklertools und kundenspezifische Softwareentwicklung an. Sie können auch bei der Bereitstellung von Kameras und anderen Sensoren sowie Platinen und Design-Services für Produktlösungen helfen.
„Super-Modus“ steigert die Gesamtleistung von Jetson Orin
Das Software-Update verbessert nicht nur die Leistung generativer KI beim Jetson Orin Nano Super, sondern bringt auch den System-on-Modules der Serien Jetson Orin NX und Orin Nano dieselbe 1,7-fache Leistungssteigerung.
Zusammenfassend lässt sich sagen, dass das von NVIDIA vorgestellte Jetson Orin Nano Super Developer Kit die Einstiegshürde für die KI-Entwicklung deutlich senkt und Entwicklern durch seine hohe Leistung und sein umfassendes Software-Ökosystem einen größeren Raum für Innovationen bietet.
Offizielle Informationen: https://blogs.nvidia.com/blog/jetson-generative-ai-supercomputer/
