Ch.3 推理与训练负载
单次请求工作量（Ch.2）加上何时到达和步骤依赖。对接 Inference Capacity Trap、Heterogeneous Inference。
预算 / 机制
- 持续到达：平均值估资源；短时积压与 KV 驻留暴露平均值看不到的压力。工具等待时计算可停，状态仍占显存（Ch.9 把 10 s 等待 × 1.125 GiB KV 写成 GiB·s）。
- Agent / 多轮：前缀增长、分支、工具等待、失败重试都要累加工作量与驻留。
- 训练：前向+反向+更新；(6ND) 量级到逐项矩阵。预训练 / 中训 / SFT 改的是数据与可训练参数，不是另一套 Infra。
- RL：rollout、奖励/环境、有效样本、权重同步。有效样本吞吐 = 各阶段服务率与保留比例的最小耦合（Ch.10/11 展开）。
- Scaling law：模型规模与数据量的统计约束，用来估全生命周期成本，不是用来跳过容量检查。
设计规则
比较方案必须同一质量与完成标准。长期服务需求会回改前期训练投入。实时多模态另加「数据必须按时到」的串行边。