为网络管理员导航生成式 AI

众所周知，人工智能正在改变世界。对于网络管理员而言，人工智能可以以一些令人惊叹的方式改善日常运营：

• 重复性任务的自动化：这包括监控、故障排除和升级，可以节省时间，同时降低人为错误的风险。

  
  

• 网络安全：人工智能可以帮助实时检测和应对安全威胁。例如，NVIDIA Morpheus 使网络安全开发者能够创建经过优化的实时数据 AI 流水线。

  
  

• 拓扑优化：借助合适的遥测技术，人工智能可以分析流量模式并提出更改建议，从而优化网络性能。

  
  

• 主动式网络规划：人工智能可以使用同样的高级网络遥测技术来评估趋势，以预测潜在问题，并在问题发生之前提出更改建议，从而避免问题的发生。
  

然而，人工智能无法取代经验丰富的网络管理员的专业知识。人工智能旨在增强您的能力，就像一个虚拟助理一样。因此，人工智能可能会成为您最好的朋友，但生成式 AI 是一种新的数据中心工作负载，它带来了新的范式转变：NVIDIA 集合通信库（NCCL）。

数据中心的演变

网络管理员不得不处理许多其他近期更改：

• 如何配置网络
  

• 如何监控和管理网络
  

• 如何设计网络
  

• 网络上的协议和工作负载
  

不久前，我们可能已经通过特定网络命令行界面（CLI）的专业水平来衡量新网络管理员的价值。随着混合云计算和 DevOps 的出现，从 CLI 到 API 的转变也在不断发展。

甚至您监控和管理网络的方式也发生了变化。您已经从使用 SNMP 和 NetFlow 在数据中心轮询设备的工具转向了新的基于交换机的遥测模型，在该模型中，交换机会主动以流式传输提供基于流的诊断详细信息。

您可以实操将新的工作负载引入数据中心，其中许多数据中心都有独特的网络需求。您已经看到传统数据库被数据分析和大数据集群所取代。

现在，当被要求构建人工智能集群时，人们很容易认为人工智能只是一个规模更大、速度更快的大数据应用程序。但人工智能是不同的，如果没有合适的工具，人工智能可能会很难实现。

生成式 AI 和 NCCL 的影响

您是一家大型企业的网络管理员。您的 CTO 参加了 GTC 2023，并了解了生成式 AI 他们希望通过构建像 ChatGPT 这样的大型语言模型来响应最终用户，并与最终用户进行交互，从而改变业务运营方式。该模型必须经过训练。这需要一个大型人工智能训练集群，许多 GPU 加速的服务器通过高速网络连接。

这个人工智能训练集群带来了许多新的挑战：

• 网络流量模式和流量特性发生了显著变化，而传统 ECMP 表现不佳。

  
  

• AI 集群参考设计需要用于计算/ GPU 、存储甚至带内管理的专用网络。

  
  

• 网络流量是异构的，生成由 CPU 到 CPU 和 GPU 到 GPU 通信。

  
  

• 人工智能集群必须能够适应在一台服务器上、多台服务器上运行作业，甚至是在一台计算机上同时运行多个作业。

  
  

• 网络配置发生变化，参数可优化 RoCE 和 GPU 直接通信。

  
  

• 人工智能作业必须在多次迭代中具有一致且可预测的作业完成时间。

  
  

• 具有更高带宽交换机的新型扁平化拓扑。

  
  

• 需要学习的新缩写词：CUDA、NVIDIA DOCA、BERT、LLM、DLRM 和 NCCL。

  
  

• 新的监控工具：他们如何知道 AI 和 NCCL 是否表现良好？
  

那么，什么是 NCCL？以下是教科书般的答案：

资料来源：

NVIDIA Collective Communication Library (NCCL)

对于网络管理员，NCCL 负责控制全新 AI 集群的流量模式。这意味着您需要针对 NCCL 进行优化的网络设计、针对 NCCL 优化的网络监控工具以及针对 NCCL 优化的以太网交换机。

NCCL 是实现 AI 集群上运行的工作负载的高性能、一致性和可预测性的关键。NCCL 也是一个交汇点：网络管理员和数据科学家都必须讲出并理解它。当他们都能流利地讲出它时，NCCL 可以成为这些具有不同所需技能的专业人士之间的共同语言。

鉴于 NCCL 的重要性，合适的网络可以决定和突破 AI 集群的性能。人工智能集群有一些独特的要求：

• 抗噪能力强
  

• 对故障具有弹性
  

• 导轨优化拓扑
  

• 无损网络转发
  

• 性能隔离
  

• 无阻塞网络架构
  

那么，接下来是什么呢？

您的工作是防止网络减缓人工智能集群的速度，但人工智能网络需要什么？高带宽、低延迟和高弹性是必要的，但还不够。您将如何选择合适的基础设施？

• 基于产品手册？并不完全。

  
  

• 根据供应商告诉您的？有点冒险，因为他们想卖给您一些东西。

  
  

• 基于数据科学家们所要求的？他们不是网络专家，所以大多数人都不知道。

  
  

• 基于经验丰富的网络管理员的建议？很有可能他们认为是 CPU，而不是 GPU，并且需求已经发生了变化。
  

人工智能的网络可能很难。“没有人会因为购买 X 而被解雇”这句格言与摩尔定律一样过时，因为人工智能的 X 因素与通用计算不同。即使是拥有专门的人工智能工程团队来预先测试集群性能的大型 IT 供应商，当性能随着更多用户的添加和多个作业的同时运行而急剧下降时，也会经常感到惊讶。

保证人工智能集群性能的最佳方法是遵循 NVIDIA 发布的人工智能参考架构之一，并使用具有人工智能可见性功能的基础设施来验证您的人工智能集群的健康状况和供给情况。

无论您的人工智能集群使用以太网还是 InfiniBand，NVIDIA 都会为您提供所需的工具、支持和培训，以使您成功并成为人工智能网络专家。