英伟达推巴掌大的AI超算,单芯算力200TOPS,Jetson开发者已超85万人

芯东西(公众号:aichip001)
作者 |  ZeR0
编辑 |  漠影

芯东西11月10日报道,面向机器人、自主机器、医疗器械等的边缘嵌入式计算,NVIDIA昨日推出一款机器人芯片新作NVIDIA Jetson AGX Orin。其模块及开发者工具包将于明年第一季度上市。

Jetson AGX Orin采用12个Arm Cortex-A78AE CPU核、Ampere架构GPU以及新一代深度学习和视觉加速器。单个Orin可在INT8机器学习工作负载中提供200TOPS算力,处理能力较前代机型Jetson AGX Xavier提升6倍。

该计算平台还增加了32GB LPDDR5 DRAM,带宽可达204GB/s,TDP配置从15W-50W不等。

“边缘就是计算机接触世界的地方。”NVIDIA创始人兼CEO黄仁勋在主题演讲中谈道,边缘计算的统一概念是需要处理一系列任务的组合,包括:传感器、高速IO、数据处理、信号和物理处理、AI推理和计算机图形等。

而只有巴掌大小的Jetson AGX Orin,不仅算力媲美内置GPU的服务器,而且能在单个芯片中处理整个机器人流水线,包括传感器、物理、AI、成像与图形等。

通过与整个NVIDIA AI软件栈协同,开发人员能够部署各种复杂模型,来解决自然语言理解、3D感知、多传感器融合等领域的边缘AI和机器人技术挑战。

英伟达推巴掌大的AI超算,单芯算力200TOPS,Jetson开发者已超85万人

自2014年推出Jetson TK1以来,NVIDIA Jetson系列已经发展至有超过85万开发者,超过6000家公司均在采用该系列平台。而随着Jetson AGX Orin问世,其在性能和能效上的出色表现,足以满足医疗、制造、交通等多数行业对部署自主机器和边缘AI应用的诉求。

同时NVIDIA在软件生态方面的积累,使得采用Jetson AGX Orin的开发人员能更轻松高效地开发和优化各种边缘AI应用,减少生产级AI的部署时间和成本,这也对自主机器市场和机器人技术的发展起到推动作用。

迄今Jetson嵌入式计算合作伙伴生态系统已覆盖摄像头和其他多模传感器、载体板、硬件设计服务、AI和系统软件、开发工具和定制软件开发等一系列广泛的服务和产品。

面向特定应用领域,NVIDIA也推出了更具针对性的软硬件组合。

比如昨日NVIDIA发布的医疗健康新计算平台NVIDIA Clara Holoscan即由Jetson AGX Orin提供动力。另外,面向安全自动驾驶的DRIVE AGX Orin处理器同样基于Ampere架构。当然还有用于机器人技术的Isaac Sim on Omniverse。

最新Isaac版本包括对机器人操作系统(ROS) 开发人员社区的重要支持。NVIDIA还发布了用于Isaac Sim的合成数据生成引擎Omniverse Replicator,来帮助机器学习工程师构建生产级合成数据集,助力训练更强大的AI模型。这些硬件加速软件包使ROS开发者更容易在Jetson平台上构建高性能AI机器人。

AI的进步为自动化以前无法想象的任务开辟了新的机会。在这一趋势中,NVIDIA正展现出全面的端到端解决方案和丰富的生态系统,为开发者打通一条快速实现创新和生产的道路,并驱动下一代边缘AI计算和通用机器人技术的发展。