SIMT 深入浅出(one / two / three-loop)

一圈先看控制流,两圈加入结果依赖,三圈再加入寄存器读取和执行资源的限制。

这里的「圈」是书中用来分析 GPU 发射路径的逐层近似,不是所有 GPU 都采用的固定流水线。每增加一圈,模型就多考虑一类会限制发射的条件。

点切换;三圈 = 当前近似加入三类约束
SIMT 栈(SIMT stack) 活跃掩码(active mask) 汇合点 PC(reconvergence PC) 取指 (Fetch) + 译码 指令缓冲 (I-buffer) 每个 warp 几条 发射(Issue) warp 调度器 记分牌(scoreboard) 操作数收集器 (Operand Collector) B0 B1 B2 B3 执行单元 ALU LD/ST SFU 写回 (Writeback) 结果进寄存器 ① 分支结果回到 SIMT 栈:走哪条路(分叉 / 汇合) 下一条 PC + 有效线程 ② 写回 → 记分牌放行:等不等结果(数据依赖) 收集器已满 → 暂停发射 执行单元繁忙 → 等待资源 ③ 读取与执行资源:凑齐操作数才放行 当前近似暂不展开结果依赖和写回延迟 当前近似暂不展开寄存器读取约束 指令往前走 一圈:控制流 两圈:数据依赖 三圈:读取竞争 / 结构资源约束

小例子:一个 warp 碰到 if / else(SIMT 栈怎么压、怎么弹)

用 8 个线程演示一个 warp(NVIDIA 的 warp 固定 32 个线程):线程 0–3 执行 if,4–7 执行 else,在 D 处重新汇合。栈表项 =〈汇合点 PC,下一条 PC,活跃掩码〉。

A: x = load(...)
   if (tid < 4)B:   y = f(x)    // ifC:   y = g(x)    // elseD: store(y)     // 汇合
当前参与执行的线程
汇合点 PC下一条 PC活跃掩码
紫色那行 = 当前栈顶(TOS),经典模型按它推进控制流
注:one/two/three-loop 是书中的分析近似,不是所有 GPU 都采用的固定结构。页面中的 SIMT 栈示例主要对应经典的统一控制流模型;Volta 及之后的 NVIDIA 架构在程序计数器和线程调度上有更细粒度的机制。具体实现应以目标架构文档为准。配套 llm-engine-viz · 与 gpu-arch-path.html 同风格。