NVIDIA ha lanzado recientemente una nueva supercomputadora de IA generativa compacta: el kit de desarrollo Jetson Orin Nano Super. Este producto no solo ofrece un rendimiento significativamente mejorado, sino que también reduce considerablemente el precio y permite mejoras de rendimiento a través de actualizaciones de software, con el objetivo de que más personas adopten la IA generativa.

El nuevo kit de desarrollo Jetson Orin Nano Super es pequeño y cabe fácilmente en la mano. Ofrece a los desarrolladores de IA comerciales, aficionados y estudiantes capacidades de IA generativa más potentes y un mayor rendimiento. Su precio también se ha reducido de 499 USD a 249 USD, lo que disminuye considerablemente el coste de acceso.

image.png

El kit ya está disponible. En comparación con la generación anterior, ofrece una mejora de 1,7 veces en el rendimiento de inferencia de IA generativa, un aumento del 70 % en el rendimiento INT8TOPS (alcanzando los 67 TOPS) y un aumento del 50 % en el ancho de banda de memoria (102 GB/s). Ya sea para crear chatbots LLM basados en búsqueda mejorada, construir agentes de IA visual o implementar robots basados en IA, el Jetson Orin Nano Super es la opción ideal.

Actualizaciones de software para un rendimiento continuo

Cabe destacar que las actualizaciones de software del nuevo Jetson Orin Nano Super también mejorarán el rendimiento de la IA generativa para los usuarios que ya poseen el kit de desarrollo Jetson Orin Nano.

El Jetson Orin Nano Super es adecuado para aquellos interesados en IA generativa, robótica o visión artificial. A medida que el mundo de la IA pasa de los modelos para tareas específicas a los modelos básicos, ofrece una plataforma práctica para convertir las ideas en realidad.

image.png

Rendimiento potente para impulsar la IA generativa

La mejora del rendimiento del Jetson Orin Nano Super ofrece ventajas significativas para todos los modelos populares de IA generativa y la visión artificial basada en Transformer.

Este kit de desarrollo incluye un módulo de sistema Jetson Orin Nano de 8 GB (SoM) y una placa de referencia, proporcionando una plataforma ideal para el prototipado de aplicaciones de IA de borde.

El SoM utiliza una GPU NVIDIA Ampere y una CPU Arm de 6 núcleos con núcleos Tensor, lo que permite múltiples canalizaciones de aplicaciones de IA simultáneas e inferencia de alto rendimiento. Puede admitir hasta cuatro cámaras, ofreciendo una resolución y una frecuencia de fotogramas superiores a las versiones anteriores.

Ecosistema de software y comunidad de IA generativa

La IA generativa está en rápida evolución. NVIDIA Jetson AI Lab proporciona soporte inmediato para modelos de vanguardia de la comunidad de código abierto y ofrece tutoriales fáciles de usar. Los desarrolladores también pueden obtener un amplio soporte de la comunidad Jetson más amplia e inspirarse en los proyectos de otros desarrolladores.

Jetson ejecuta el software de IA de NVIDIA, incluyendo NVIDIA Isaac para robótica, NVIDIA Metropolis para IA visual y NVIDIA Holoscan para procesamiento de sensores. El uso de NVIDIA Omniverse Replicator para la generación de datos sintéticos y el ajuste fino de modelos de IA preentrenados en el catálogo NGC con NVIDIA TAO Toolkit puede reducir los tiempos de desarrollo.

Los socios del ecosistema Jetson ofrecen software de IA y de sistema adicional, herramientas para desarrolladores y desarrollo de software personalizado. También pueden ayudar a proporcionar cámaras y otros sensores, así como placas y servicios de diseño para soluciones de productos.

El "modo Super" mejora el rendimiento general de Jetson Orin

Esta actualización de software no solo mejora el rendimiento de la IA generativa del Jetson Orin Nano Super, sino que también proporcionará la misma mejora de rendimiento de 1,7 veces a los módulos de sistema de las series Jetson Orin NX y Orin Nano.

En resumen, el kit de desarrollo Jetson Orin Nano Super lanzado por NVIDIA no solo reduce considerablemente el coste de acceso al desarrollo de IA, sino que también ofrece un amplio espacio para la innovación a los desarrolladores gracias a su potente rendimiento y su completo ecosistema de software.

Presentación oficial: https://blogs.nvidia.com/blog/jetson-generative-ai-supercomputer/