显存调度与抢占
◀ 上一步
⚡ 触发下一步
↺ 重置系统
阶段:
0 / 8
1. Scheduler 调度队列
▶ RUNNING (运行区)
⏸ WAITING (等待/重计算区)
💾 SWAPPED (换出暂存区)
2. KVCacheManager 显存池
■ GPU BlockPool
■ CPU Pool (Swap Space)
3. Block Table & Policy
Req
Logic
Phys ID
Pool
抢占策略判定器
NORMAL
GPU 显存状态:
充足
CPU Swap 空间:
3/4 可用
触发抢占策略:
无（正常调度）
系统初始化：就绪。等待触发调度指令...