Nvidia近日推出了新的Nvidia EGX平台,将人工智能引入网络边缘,该平台能够实时感知,理解和处理数据,而无需先将数据发送到云端或数据中心。将AI应用于智能手机,传感器和工厂机器等边缘设备是该技术不断发展的下一步。最早的AI算法非常复杂,只能在云数据中强大机器上处理,这意味着通过网络发送大量信息。但这是不可取的,因为它需要大量带宽并导致更高的延迟,这使得实时AI无法实现。
Nvidia公司真正想要的是在数据本身创建的地方执行AI,无论是在制造工厂,零售商店还是仓库。新的NVIDIA EGX平台包括基于Jetson Nano处理器的轻型服务器,功耗几瓦,每秒执行0.5万亿次操作,再到基于NVIDIA T4的边缘服务器机架微型数据中心,每个服务器一秒可以执行1万万亿次操作。芯片的节能功能对于AI非常重要,因为传统硬件在运行此类任务时是一项巨大的耗电工作。
在媒体简报中,Nvidia企业和边缘计算高级主管Justin Boitano表示,对NGX等平台的需求将会很大,因为世界上将有大约1500亿台机器传感器和物联网设备。到2025年,许多这些传感器将被用于智能城市等计划,并将抽出需要现场处理的数据,原因包括需要更低的延迟,实时响应,数据主 权规则或隐私问题。
合作伙伴关系也很重要, Nvidia正在整合NVIDIA Edge Stack软件,以使其与现代软件应用程序兼容。Nvidia正在与至少13家不同的服务器制造商合作销售EGX平台,包括思科系统公司,戴尔EMC,惠普企业公司和联想集团控股有限公司等大牌制造商。