Network Interface and System-Level Design(NI 与系统设计)

interconn-study 应用篇 Day 19:Dally & Towles Ch.13–14——网络内部(拓扑/路由/流控/微架构)之外的边缘与系统契约。协议栈视角见 Interconnection Network Protocol Stack

Source: interconn-study-21d-day-19.md

NI:三个职责、两个界面

职责内容
MessagingSend/Recv、Remote R/W;内存语义 ↔ 包
TransportCRC、顺序、重传
Flow / CongestionCredit、ECN/pause、注入限速
界面对端协议
LocalCPU/GPU/MEMPCIe / CXL / 片上 bus
NetworkRouterPacket / Flit / Credit

关键硬件:Send/Recv Engine、Doorbell、CQ、DMA。传统主机 NI 厚(驱动 + DMA);WSE PE NI 极简——本地 SRAM + 显式 send/recv,无 OS/TCP/完整 DMA(工程推测)。

End-to-End Argument(Saltzer 1984)

可靠/安全功能的完整检查必须在端点;中间节点不可靠时端点仍要保证正确。

解读含义
网络只转发;可靠/顺序/加密全在端点(TCP/IP)
网络尽力加速,端点仍做完整逻辑(TCP+ECN、PCIe 重传)

链路 CRC/ECC 可加速,但不能替代端到端可靠。片上极高可靠时可简化链路级纠错,把重传放在 PE(WSE 倾向)。

服务模型

模型顺序可靠路由器状态典型
Datagram极小UDP/IP
Virtual Circuit中–大ATM、IB RC
Connectionless Reliable极小TCP
WSE 推测视应用极小类 datagram + 端点可靠

百万级 PE 难扛虚电路建立 RTT → 倾向无连接 + 端点语义。

Flow Control vs Congestion Control

Flow ControlCongestion Control
尺度微秒 / per-hop毫秒 / RTT
目标防本跳 buffer 爆防全网过载 + 公平
信号Credit、PauseECN、ACK 延迟、速率
决策路由器 + NI端点(可与网络协作)

Credit 不解全局拥塞——全网饱和时只会拖慢所有流并加剧 HoL。详见 Virtual Channel Flow Control

拥塞位置:Source / Destination / Network-internal。WSE 笔记推测:链路 credit + 编译时/端点 throttle;路由器少主动丢包。

Max-Min Fairness & 开环/闭环

  • Max-Min:逐步抬升最受限流的份额,直至瓶颈饱和——拥塞控制公平性金标准;结构化 LLM 流量上可能改为 critical-path 优先。
  • 开环:编译时预约/固定注入(HPC、静态调度推理)。
  • 闭环:运行时反馈(TCP、DCQCN)。
  • WSE:开环调度为主 + 局部 credit 闭环

相关页面

Citations

[1] interconn-study-21d-day-19.md — D&T Ch.13–14(Day 19)