【人工智能的智算网络】大模型训练/推理网络技术篇：RDMA

一、RDMA

RDMA（远程直接内存访问）技术主要包括以下核心实现方式：

1.1、InfiniBand（IB）​​

• ​技术特性​：
  InfiniBand是专为RDMA设计的网络协议，采用专用硬件架构（如交换机、HCA网卡），通过二层协议实现低延迟（纳秒级）和高带宽（最高168Gbps）。其核心优势包括：
  1. ​零拷贝机制​：数据直接在应用程序内存与网卡间传输，无需内核参与。
  2. ​服务质量（QoS）​​：支持优先级流控（PFC）和虚拟通道（VL），保障关键业务流量。
  3. ​应用场景​：主要用于高性能计算（HPC）、超算中心及大规模并行计算集群。

1.2、RoCE（RDMA over Converged Ethernet）​​

• ​技术分类​：
  1. ​RoCEv1​：基于以太网二层（MAC层），需无损网络支持（PFC流控），仅限同一VLAN内通信。
  2. ​RoCEv2​：扩展至三层（IP/UDP），支持跨子网路由，兼容现有以太网基础设施，延迟可低至1微秒。
• ​优势与局限​：