qqtang/sskj - sskj - 是石科技代码管理系统

qqtang/sskj

Fork 0

Commit Graph

Author	SHA1	Message	Date
shishi	d72dbff689	feat(pro6000): Kimi-K3 PD 分离部署（MoonCake RDMA）- 8 节点 P/D 双 profile + deploy_pd.sh 编排 + 文档 - 新增 P 组(prefill)/D 组(decode) deploy profiles（mooncake RDMA + 计算网 mlx5_0~3） - 新增 experiments/pro6000/kimi3_pro6000_pd_rdma/ 编排脚本（mc-master+P+D+router） - 关键修复: 必须关闭 PYTORCH_CUDA_ALLOC_CONF=expandable_segments （mooncake RDMA 注册 expandable GPU 段报 Bad address，GitHub #2511） - 容器内升级 mooncake 0.3.12.post1（含 dmabuf 修复 #2035） - docs/KIMI_K3_DEPLOY.md 新增附录 B，README 更新实验索引	2026-08-11 10:36:09 +08:00
shishi	3bd04698bb	feat(pro6000): Kimi-K3 TP32×EP32 部署 profile、sm_120 补丁与运维手册 - 4 节点 RoCE 部署 + bench 实验	2026-08-10 11:04:24 +08:00
Zhiyi Hong	9acf9fdfdb	feat(pro6000): 部署/测试解耦 - deploy 层支持多节点与 vLLM，新增 6 个 profile - sskj.deploy runtime 支持 NODE_HOSTS 多节点编排(ssh 分发/本地 rank/LOCAL_NODE_RANK) 与 ENGINE=vllm 启动(SERVER_CMD)，容器名按 rank 自动唯一 - scripts/common/deploy_cli.sh 新增 deploy_stop/status/multinode helper 与 node-rank 透传 - src/sskj/common/env.py 修复嵌套 ${VAR:-${OTHER}/path} 展开(平衡花括号扫描) - deploy/profiles/pro6000/ 新增 6 个 profile: tp16/tp16_eagle/glm52(多节点)、 sglang/vllm tp_dp_matrix、qwen3(单节点) - 6 个实验 start/stop 脚本改为 deploy 薄包装，run_bench/adaptive 的 server 启停走 deploy_render_args/deploy_start/deploy_stop，tp16 新增 matrix.json - 首次入库 glm52_pro6000_sglang_multinode_tp16 实验目录；ops/README.md 补 pro6000 章节 - 实测通过: 单节点 dsv4 sglang/vllm 链路 + tp16 双节点启动/bench/清理	2026-08-03 15:17:41 +08:00

Author

SHA1

Message

Date

shishi

d72dbff689

feat(pro6000): Kimi-K3 PD 分离部署（MoonCake RDMA）- 8 节点 P/D 双 profile + deploy_pd.sh 编排 + 文档

- 新增 P 组(prefill)/D 组(decode) deploy profiles（mooncake RDMA + 计算网 mlx5_0~3）
- 新增 experiments/pro6000/kimi3_pro6000_pd_rdma/ 编排脚本（mc-master+P+D+router）
- 关键修复: 必须关闭 PYTORCH_CUDA_ALLOC_CONF=expandable_segments
  （mooncake RDMA 注册 expandable GPU 段报 Bad address，GitHub #2511）
- 容器内升级 mooncake 0.3.12.post1（含 dmabuf 修复 #2035）
- docs/KIMI_K3_DEPLOY.md 新增附录 B，README 更新实验索引

2026-08-11 10:36:09 +08:00

shishi

3bd04698bb

feat(pro6000): Kimi-K3 TP32×EP32 部署 profile、sm_120 补丁与运维手册 - 4 节点 RoCE 部署 + bench 实验

2026-08-10 11:04:24 +08:00

Zhiyi Hong

9acf9fdfdb

feat(pro6000): 部署/测试解耦 - deploy 层支持多节点与 vLLM，新增 6 个 profile

- sskj.deploy runtime 支持 NODE_HOSTS 多节点编排(ssh 分发/本地 rank/LOCAL_NODE_RANK)
  与 ENGINE=vllm 启动(SERVER_CMD)，容器名按 rank 自动唯一
- scripts/common/deploy_cli.sh 新增 deploy_stop/status/multinode helper 与 node-rank 透传
- src/sskj/common/env.py 修复嵌套 ${VAR:-${OTHER}/path} 展开(平衡花括号扫描)
- deploy/profiles/pro6000/ 新增 6 个 profile: tp16/tp16_eagle/glm52(多节点)、
  sglang/vllm tp_dp_matrix、qwen3(单节点)
- 6 个实验 start/stop 脚本改为 deploy 薄包装，run_bench/adaptive 的 server 启停走
  deploy_render_args/deploy_start/deploy_stop，tp16 新增 matrix.json
- 首次入库 glm52_pro6000_sglang_multinode_tp16 实验目录；ops/README.md 补 pro6000 章节
- 实测通过: 单节点 dsv4 sglang/vllm 链路 + tp16 双节点启动/bench/清理

2026-08-03 15:17:41 +08:00

3 Commits