聊聊交换机：和 AI有什么关系？

2023年7月25日

本期内容提要:

Q：什么是协议？

A：网络协议为计算机网络中进行数据交换而建立的规则、标准或约定的集合。法律层面上，OSI 七层协议为国际协议。20世纪80年代，为了规范化计算机之间的通信方式，从而满足开放式网络的需求，OSI（Open System Interconnection）协议被提出，其采用了一种七层网络。事实层面上，TCP/IP协议为国际协议。在OSI七层协议七层模型建立之前，TCP/IP协议簇便已开始运行，且因特网在当时已覆盖了，借因特网的助力， TCP/IP成为了事实上的国际标准。

由于HPC对于网络高吞吐、低时延的要求，在数据中心中TCP/IP逐步过渡到RDMA。RDMA(远程内存直接访问技术，RemoteDirect Memory Access)：能直接通过网络接口访问内存数据，无需操作系统内核的介入。这允许高吞吐、低延迟的网络通信，尤其适合在大规模并行计算机集群中使用。RDMA中包含不同的分支，其中， Infiniband专为RDMA设计，从硬件级别保证可靠传输 ，技术先进，但是成本高昂。 而RoCE 和 iWARP都是基于以太网的RDMA技术。

Q：数据中心架构中，交换机有什么用？

A：交换机是一种用于电信号转发的网络设备。在数据中心中，负责将数据转发等职能。传统的数据中心往往使用三层架构，即接入层、汇聚层、核心层。接入层通常直接与服务器相连，常用的接入交换机常为TOR（Top of Rack）交换机。汇聚层是网络接入层和核心层的 “中介（中间层）”。核心交换机为进出数据中心的包提供转发，并为汇聚层提供连接性。传统的三层网络有较为显著的缺点，并且随着云计算的发展，这些缺点愈发突出，比如带宽浪费、故障域大、时延较长等等。

叶脊架构优势明显，具有扁平化设计、低延迟、带宽高等特点。叶脊网络（leaf-spine）使得网络扁平化，其中叶交换机相当于传统的接入层交换机，脊交换机类似核心交换机。叶和脊交换机之间通过ECMP（Equal Cost Multi Path）动态选择多条路径。当Leaf层的接入端口和上行链路都没有瓶颈时，这个架构就实现了无阻塞（Non blocking）。因为Fabric中的每个Leaf都会连接到每个Spine，所以，如果一个Spine出现问题，数据中心的吞吐性能只会有轻微的下降（SlightlyDegrade）。

Q：英伟达交换机=IB交换机？

A：不是。英伟达Spectrum和Quantum平台，同时布局了以太网和IB交换机。IB交换机主要由厂商mellanox运营，英伟达于2020年成功将其收购。此外，英伟达Spectrum平台的交换机主要基于以太网，旗下产品不断迭代，2022年发布的Spectrum-4是400G交换机产品。Spectrum和Quantum平台针对不同的应用场景。在英伟达的设想中，AI应用场景可大致分为AI云和AI工厂，在AI云中可以使用传统以太网交换机和Spectrum-X以太网，而在AI工厂中则需要使用NVLink+InfiniBand的方案。

Q：英伟达SuperPOD如何理解？

A：SuperPOD是服务器集群，通过将多个计算节点相连，以提供较大的吞吐性能。