请求的处理顺序

I.5 Benchmark II.6 Continuous Batching
STEP 0

排队人数
40
→
在算 prompt
40
→
输出 token
40

S1 首字出现拍数

时间表

当前拍
算 · 在算 prompt 出 · 输出 token（首 = 第一个字） 空 · 不占用 GPU 完 · 这条结束

I.5 指标见 第5章 Benchmark。 抢占换出见 cacheschedule.html。 PD 分离后这条循环发生在 Decode 侧，见 kvpd.html。