英伟达(NVIDIA)近日发布了一款全新的紧凑型生成式AI超级计算机——Jetson Orin Nano Super开发者套件。这款产品不仅在性能上有了显著提升,价格也大幅降低,并可通过软件升级进一步提升性能,旨在让更多人拥抱生成式AI。

这款全新的Jetson Orin Nano Super开发者套件体积小巧,可以轻松握在手中,它为商业AI开发者、爱好者和学生提供了更强大的生成式AI能力和更高的性能。其价格也从之前的499美元降至249美元,大幅降低了使用门槛。

image.png

该套件今日正式上市,与上一代产品相比,其生成式AI推理性能提升了1.7倍,INT8TOPS性能提升了70%,达到67TOPS,内存带宽也提升了50%,达到102GB/s。无论是创建基于检索增强生成的LLM聊天机器人、构建视觉AI代理,还是部署基于AI的机器人,Jetson Orin Nano Super都是理想的选择。

软件升级,性能持续提升

值得一提的是,新的Jetson Orin Nano Super的软件更新也将为已经拥有Jetson Orin Nano开发者套件的用户带来生成式AI性能的提升。

Jetson Orin Nano Super适用于那些对生成式AI、机器人技术或计算机视觉感兴趣的人。随着AI世界从特定任务模型转向基础模型,它也提供了一个将想法转化为现实的便捷平台。

image.png

强大性能,助力生成式AI

Jetson Orin Nano Super的性能提升为所有流行的生成式AI模型和基于Transformer的计算机视觉带来了显著优势。

这款开发者套件包含一个Jetson Orin Nano8GB系统模块(SoM)和一个参考载板,为原型设计边缘AI应用提供了理想的平台。

SoM采用NVIDIA Ampere架构GPU和带有张量核心的6核Arm CPU,有助于实现多个并发AI应用程序管道和高性能推理。它可以支持最多四个摄像头,提供比以前版本更高的分辨率和帧率。

丰富的生成式AI软件生态系统和社区

生成式AI正在快速发展。NVIDIA Jetson AI实验室为开源社区的尖端模型提供即时支持,并提供易于使用的教程。开发者还可以从更广泛的Jetson社区获得广泛的支持,并从其他开发者的项目中获得灵感。

Jetson运行NVIDIA AI软件,包括用于机器人技术的NVIDIA Isaac,用于视觉AI的NVIDIA Metropolis和用于传感器处理的NVIDIA Holoscan。利用NVIDIA Omniverse Replicator进行合成数据生成和NVIDIA TAO Toolkit微调NGC目录中的预训练AI模型可以缩短开发时间。

Jetson生态系统合作伙伴提供额外的AI和系统软件、开发者工具和定制软件开发。他们还可以帮助提供摄像头和其他传感器,以及用于产品解决方案的载板和设计服务。

“Super模式”提升Jetson Orin整体性能

此次的软件更新不仅提升了Jetson Orin Nano Super的生成式AI性能,还将为Jetson Orin NX和Orin Nano系列的系统模块带来同样的1.7倍性能提升。

总而言之,英伟达此次发布的Jetson Orin Nano Super开发者套件不仅大幅降低了AI开发的门槛,还通过强大的性能和完善的软件生态系统,为开发者提供了更广阔的创新空间。

官方介绍:https://blogs.nvidia.com/blog/jetson-generative-ai-supercomputer/