AI芯片新标杆？英伟达发布边缘AI超级计算机
来源：倍可亲(backchina.com) 专题：抄底还是跑路？美股最新动态集微网消息，数据增长的趋势已然形成，并还将继续呈指数级发展。人们处理海量数据起先是在数据中心，然后是在云中，但这些解决方案不适用于数据量很大的高要求的任务。网络的性能和速度不断推进新的极限，随之而来的是对新型解决方案的需求。而现在正是边缘计算和边缘设备时代的起点。
边缘计算包含把数据处理任务放至网络边缘的设备上，使其尽可能地靠近数据源。这种计算方式能以非常高的速度实现实时的数据处理，对很多具备机器学习能力的复杂物联网方案而言是必备能力。
“一个完整的人工智能（AI）周期，要经历训练、推理、发出指令到设备三个过程。训练阶段在数据中心通过数据和算法创建AI，推理阶段在数据中心服务器或边缘设备的应用中使用AI。AI发展至今，已从科幻到实际应用并越来越多的影响着各行各业。”英伟达产品管理总监Paresh Kharya指出，MLPerf Inference 0.5是业界首个独立的AI推理基准测试，在所有五个衡量数据中心和边缘AI推理工作负载性能的基准测试中，英伟达均名列前茅，意味着它在取得近期AI训练基准测试领先地位的同时又更进一步。
“尽管在MLPERF的多个基准测试中，英伟达在数据中心、边缘SoC等新型AI推理基准表现远远优于高通和英特尔等厂商，但是现代AI推理变得越来越难，需要跨越多个维度的可编程性和卓越性能，包括多样性和复杂度日益增长的神经网络、更广泛的预处理和后处理、各种应用场景的推理计算等等。”Paresh Kharya指出，“英伟达也部署了广泛的基于GPU的推理，具有多样化的客户应用和广泛的可用性。”
虽然AI和机器学习已经发展了很久，但用户通常需要输入海量的学习样本和已知结果来让机器学习一项新技能，如何使自主机器利用AI来解决当今最为棘手的一些问题？英伟达的Jetson平台为解决这一挑战应运而生，已发布包括Jetson Nano、Jetson AGX Xavier系列和Jetson TX2系列。
他还指出，AI正在赋能现代机器人和嵌入式设备，将改变整个行业。在这其中，许多设备都受限于小尺寸和低功耗，而无法添加AI功能。为此英伟达拓展了自主机器Jetson平台系列，带来全新的AI超级计算机Jetson Xavier NX，使客户和合作伙伴能够在不增加设备尺寸或功耗的情况下，大幅提高AI性能。
英伟达副总裁兼自主机器总经理Rob Csongor介绍，Jetson系列在全球已拥有40万名开发者，超过3000位客户。作为Jetson家族的最新成员，Jetson Xavier NX可提供高达14 TOPS（功耗为10W时）或21 TOPS（功耗为15W时）的性能，能够并行运行多个神经网络，并在与Nano同样尺寸（70x45mm）的小巧外形中同时处理来自多个高分辨率传感器的数据。对于已经开始打造嵌入式计算机的公司，Jetson Xavier NX与所有Jetson系列产品一样都可以在相同的CUDA-X AI软件架构上运行，从而保证了快速推向市场的时间和较低的开发成本。
“在MLPerf Inference 0.5测试中，把英伟达Turing GPU用于数据中心，以及把Jetson Xavier系统级芯片用于边缘时，均表现出强劲的推理性能。而Jetson Xavier NX模块则基于这些基准测试中使用的全新低功耗版本Xavier SoC构建而成。”Rob Csongor表示，“Jetson Xavier NX为许多嵌入式边缘计算设备敞开了大门。这些设备对性能需求大，但却受到尺寸、重量、功耗预算或成本的限制，其中包括小型商用机器人、无人机、智能高分辨率传感器（用于工厂物流和生产线）、光学检测、网络录像机，便携式医疗设备以及其他工业物联网（IoT）系统。”
Jetson Xavier NX面向那些希望创建大批量生产边缘系统的公司，目前已经获得了机器人和嵌入式设备应用厂商的支持。
来自Lockheed Martin的应用AI总监兼首席架构师Lee Ritholtz表示，凭借Jetson Xavier NX的卓越性能、小巧外观和低功耗，将能够在边缘进行比以往更多的实时处理；Musashi Seimitsu首席执行官Otsuka Hiroshi表示，公司的目标是大幅提高光学检测系统的质量和准确性，并加快向工业4.0迈进的步伐，而Jetson Xavier NX提供了强大的计算能力，这可以在不增加光学检测系统的尺寸和功率的情况下，提高视觉检测能力。
Moor Insights & Strategy总裁兼首席分析师Patrick Moorhead评价说，在这个AI芯片发展日新月异的世界，相信英伟达通过Jetson Xavier NX提升了行业水准。小尺寸、低功率的Jetson Xavier NX拥有卓越性能，并具备统一且强大的软件架构，对于嵌入式边缘计算来说至关重要。
Jetson Xavier NX的售价仅为399美元，将于明年3月从NVIDIA分销渠道上市。它与Jetson Nano引脚兼容，支持共享硬件设计，用户利用Jetson Nano载板和系统即可升级到Jetson Xavier NX。目前，开发者可以通过下载软件补丁，利用Jetson AGX Xavier开发套件模拟Jetson Xavier NX进行开发。
