英伟达宣布推出首款面向边缘设备的人工智能平台

将人工智能应用于智能手机、传感器和工厂机器等边缘设备是该技术不断发展的下一个阶段。最早的人工智能算法非常复杂，只能在云数据中心运行的强大机器上处理，这意味着需要通过网络发送大量信息。但这是不可取的，因为它需要大量带宽并导致更高的延迟，而且使得“实时”人工智能难以实现。

企业真正想要的是可以在数据产生的地方执行的人工智能，无论是制造工厂、零售商店还是仓库。几家科技公司都在试图解决这个问题，最近的尝试是英特尔公司今天推出的 “冰湖”芯片——这是该公司首款10纳米芯片，此外还有数十家创业公司也瞄准了这个领域。

但是英伟达进入人工智能边缘是值得注意的，因为该公司的图形处理单元被广泛认为是最好的人工智能处理硬件。其中包括用于深度学习的Tesla V100和Quadro GV100，它可以实时进行光线跟踪，即创建逼真图像的过程。

新的英伟达EGX平台可以从基于Jetson Nano处理器的轻型服务器——能够以几瓦的功耗每秒钟处理0．5万亿次操作，扩展到基于边缘服务器NVIDIA T4机架的微型数据中心——可以每秒完成10，000万亿次操作。芯片的节能功能对于人工智能来说非常重要，因为传统的硬件运行此类任务时，耗电量非常巨大。

在媒体简报中，英伟达企业和边缘计算高级主管Justin Boitano表示，对NGX之类的平台的需求将会很大，因为到2025年，世界上将有大约1500亿台机器传感器和“物联网”设备。他表示有很多这样的传感器将被用于“智能城市”等计划，并将生成需要在现场进行处理的数据——这主要是出于更低延迟和实时响应的需求，数据主权法规的要求或对隐私问题的考虑。

Boitano表示： “人工智能确实是所有行业在视觉和言语方面的杀手级应用。”

如果真的想要充分利用这些芯片，合作伙伴关系也很重要。处于这个原因，英伟达正在整合NVIDIA Edge Stack软件，而不是让EGX运行在Red Hat的OpenShift Kubernetes容器编排平台上以实现与现代软件应用程序的兼容。

该平台还集成了Mellanox Technologies股份有限公司的安全、存储和网络技术，英伟达计划在年底前以69亿美元的价格收购Mellanox Technologies股份有限公司。

Mellanox首席技术官Michael Kagan 表示：“Mellanox Smart NIC和交换机为数据访问提供了理想的I ／ O连接，可从边缘扩展到超大规模数据中心。”

英伟达正在与至少13家不同的服务器制造商合作销售EGX平台，包括思科系统公司、戴尔EMC、惠普企业公司和联想集团控股有限公司等大牌制造商。

NGX还兼容运行在主要云基础架构服务（如Amazon Web Services和Microsoft Azure）上的人工智能应用程序，并且可以连接到物联网服务，例如AWS IoT Greengrass和Azure IoT Edge。