Switching Principles(交换原理)

交换是通信网的核心机制:在源和目的终端之间建立通信信道、传送信息。当多终端需要互连时,全互连需要 N(N-1)/2 线对 + 每终端多路选择开关 → 引入交换节点降低复杂度。

通信网三要素:终端设备、交换设备、传输设备

交换方式演进

从电路到虫孔,本质是用更多中间状态换更短延迟

交换方式状态位置延迟特征典型场景
电路交换端点(专用通路)传输期确定、无争用电话网、NVLink 虚电路
报文交换每跳整包缓冲跳数 × 整包传输时间早期 MIN
分组交换每跳固定大小包平衡利用率与延迟IP/Ethernet
虫孔交换head flit 路径上流水跳数 × 单 flit 时间 + 填充NoC、Cerebras WSE

电路交换(Circuit Switching)

最早、最普遍的交换方式(电话网,100+ 年历史)。

三阶段:连接建立 → 信息传送 → 连接拆除

特性
连接方式面向连接(物理连接)
复用同步 TDM(固定带宽)
差错控制
信息处理透明传输(不作处理)
流量控制呼叫损失制(拒绝超额请求)

电路交换下 N 跳通路独占沿途全部物理链路——对 WSE 级高并发短消息流量不可行(见 Cerebras WSE)。

报文交换(Message Switching)

整报文存储-转发:必须完整到达下一节点才转发。简单、容错好,但大报文阻塞链路、延迟高。

分组交换(Packet Switching)

存储-转发机制,以分组为单位交换。源自报文交换,但分组更小所以更快。

特性
连接方式面向连接(逻辑)或无连接
复用统计 TDM(动态带宽)
差错控制
信息处理处理首部、路由
流量控制呼叫延迟制(排队等待)

两种模式:

虚电路 (VC)数据报 (DG)
连接面向连接(逻辑)无连接
分组头简单(逻辑信道号)复杂(完整选路信息)
选路基于虚连接表(建立时一次性)每分组独立选路
顺序保序可能失序
故障敏感性敏感(连接中断需重建)不敏感(自动重路由)
适用连续数据流询问/响应型

虫孔交换(Wormhole Switching)

包拆成 flit:head flit 选路并流水前进,body flit 跟随。延迟 ≈ 跳数 × 单 flit 传输 + 流水线填充,缓冲需求远小于报文交换。

优势劣势
极低延迟、小 buffer头阻塞(HoL blocking)锁住物理通道
适合短突发消息需 VC 避免路由死锁

WSE 选用虫孔变体:LLM 推理的 activation/gradient 为短突发、高并发流量;电路交换建路开销远大于数据本身。详见 NoC Router 微架构

历史里程碑

年份里程碑意义
1960sClos Network严格无阻塞三级结构 → Switching Networks
1987Wormhole Routing (Dally & Seitz)极低延迟 NoC 基础
2001”Route Packets, Not Wires” (Dally)NoC 概念正式提出
2019+Cerebras WSE-2/WSE-390 万 PE 晶圆级虫孔 Mesh

时代脉络:电话网(电路/TDM)→ ARPANET(分组)→ HPC MIN/Mesh → SAN/LAN → SoC/NoC → 晶圆级/CXL。每层对应新物理介质与新优化目标,见 Interconnection Network Protocol Stack

三对基本概念

1. 面向连接 vs 无连接

  • 面向连接:先建连接 → 传信息 → 释放连接。又分物理连接(独占通路)和逻辑连接(虚电路)
  • 无连接:边选路边传递,每个分组独立路由

2. 同步时分复用 vs 统计时分复用

  • 同步 TDM(位置化信道):按时间轴位置区分信道,无信息时也占位,子信道速率恒定
  • 统计 TDM(标志化信道):用标志码标识信道,与时间位置无关,统计复用提高利用率

3. 固定带宽 vs 动态带宽

  • 固定分配:每信道带宽恒定
  • 动态分配:按需分配(类似潮汐车道)

交换系统基本结构

┌─────────────────────────────────────┐
│           控制系统                   │
│  控制结构、多处理机架构              │
├─────────┬──────────┬────────────────┤
│ 接口技术 │ 交换网络  │ 信令技术       │
│ 用户/中继│ 互联拓扑  │ 用户/局间信令  │
│ 模拟/数字│ 选路策略  │               │
│         │ 阻塞特性  │               │
│         │ 多播/故障 │               │
└─────────┴──────────┴────────────────┘

与 AI 基础设施的关联

  • Deterministic Execution:电路交换的确定性通路思想与 LPU 确定性执行一脉相承
  • Scale-up fabric:NVLink/C2C 网络本质上是高速电路交换/虚电路(固定路径、低 jitter)
  • Scale-out fabric:Ethernet/IP 网络是数据报模式(无连接、逐跳路由)
  • TDM 概念:同步 TDM 对应固定时隙调度,统计 TDM 对应 packet switching → 理解 Nvidia Groq 3 Lpx 中 C2C 确定性互联 vs Spectrum-X Ethernet 的设计选择
  • 虚电路 vs 数据报:AFD 中 token routing 的 dispatch/combine 操作需要在确定性路径(虚电路式)和灵活路由(数据报式)之间权衡

相关页面

Citations

[1] 浅谈交换原理(1)——概述.md [2] interconn-study-21d-day-02.md — Dally & Towles Ch.2 学习笔记 [3] interconn-study-21d-day-13.md — 虫孔死锁与 CDG(Day 13)