qqtang/sskj - sskj - 是石科技代码管理系统

qqtang/sskj

Fork 0

Commit Graph

Author	SHA1	Message	Date
shishi	ddf807d458	feat(bench/pd): 支持 --flush-cache 透传 + PD profile 加 --disable-radix-cache - sskj.bench: 新增 --flush-cache 参数，透传给 sglang.bench_serving （warmup 后、main run 前 flush 服务器 KV/prefix cache，保证 TTFT/TPOT 测量纯净） - P/D PD profiles: LAUNCH_ARGS 加 --disable-radix-cache（关闭 RadixAttention 前缀缓存）	2026-08-11 11:42:43 +08:00
shishi	04dfa31583	fix(pd): PATCH_MOUNTS 补充 flashkda wheel 挂载（BOOTSTRAP 需要 /flash_kda-*.whl）	2026-08-11 10:50:43 +08:00
shishi	d72dbff689	feat(pro6000): Kimi-K3 PD 分离部署（MoonCake RDMA）- 8 节点 P/D 双 profile + deploy_pd.sh 编排 + 文档 - 新增 P 组(prefill)/D 组(decode) deploy profiles（mooncake RDMA + 计算网 mlx5_0~3） - 新增 experiments/pro6000/kimi3_pro6000_pd_rdma/ 编排脚本（mc-master+P+D+router） - 关键修复: 必须关闭 PYTORCH_CUDA_ALLOC_CONF=expandable_segments （mooncake RDMA 注册 expandable GPU 段报 Bad address，GitHub #2511） - 容器内升级 mooncake 0.3.12.post1（含 dmabuf 修复 #2035） - docs/KIMI_K3_DEPLOY.md 新增附录 B，README 更新实验索引	2026-08-11 10:36:09 +08:00

Author

SHA1

Message

Date

shishi

ddf807d458

feat(bench/pd): 支持 --flush-cache 透传 + PD profile 加 --disable-radix-cache

- sskj.bench: 新增 --flush-cache 参数，透传给 sglang.bench_serving
  （warmup 后、main run 前 flush 服务器 KV/prefix cache，保证 TTFT/TPOT 测量纯净）
- P/D PD profiles: LAUNCH_ARGS 加 --disable-radix-cache（关闭 RadixAttention 前缀缓存）

2026-08-11 11:42:43 +08:00

shishi

04dfa31583

fix(pd): PATCH_MOUNTS 补充 flashkda wheel 挂载（BOOTSTRAP 需要 /flash_kda-*.whl）

2026-08-11 10:50:43 +08:00

shishi

d72dbff689

feat(pro6000): Kimi-K3 PD 分离部署（MoonCake RDMA）- 8 节点 P/D 双 profile + deploy_pd.sh 编排 + 文档

- 新增 P 组(prefill)/D 组(decode) deploy profiles（mooncake RDMA + 计算网 mlx5_0~3）
- 新增 experiments/pro6000/kimi3_pro6000_pd_rdma/ 编排脚本（mc-master+P+D+router）
- 关键修复: 必须关闭 PYTORCH_CUDA_ALLOC_CONF=expandable_segments
  （mooncake RDMA 注册 expandable GPU 段报 Bad address，GitHub #2511）
- 容器内升级 mooncake 0.3.12.post1（含 dmabuf 修复 #2035）
- docs/KIMI_K3_DEPLOY.md 新增附录 B，README 更新实验索引

2026-08-11 10:36:09 +08:00

3 Commits