- scripts: 11 个服务器原样脚本入库(md5 对照表更新至 README);D=60.1 生产原样配方、 E=v5 DFlash 底稿、F=PD 链四角色部署+launch+双场景压测驱动 - profiles: 新增 6 个 .env(D/E 单机 + F 四角色,均带镜像 digest sha256:28e0d260…,对齐 kimi3 PD 多角色先例) - deploy/PD_CHAIN.md: 方案 F 编排手册(启动顺序 mc-master→prefill→decode→router、 基础设施依赖表、质量门口径、拆链恢复、÷2 单机等效判决) - platforms/patches/pro6000/glm53_pd_chain/: sglang 补丁树 vs 镜像原版 11 文件 unified diff 快照——宿主树无 .git,此为唯一版本记录(DFlash+PP+PD 解锁全集) - deploy/manifests/: GLM-5.3-NVFP4(47分片)/GLM-5.3-DFlash2(单分片) 权重 md5 清单 - deploy/CURRENT.md: 全集群现役状态页(2026-09-08 八机实测) - deploy/verify_profile.sh: 防漂移核验工具(digest+参数 token 比对+端口/health, 已在 60.1 生产容器实测 PASS)
36 lines
2.5 KiB
Markdown
36 lines
2.5 KiB
Markdown
# 现役部署状态页(live 核验于 2026-09-08)
|
||
|
||
> 本页记录 174.1.60.x 集群"现在跑的是什么"。改动机器前后先读这页;
|
||
> **任何变动(停/起/改配置)完成后必须更新本页**。核验命令:`docker ps` + `nvidia-smi`。
|
||
|
||
## 机器状态(2026-09-08 实测)
|
||
|
||
| 机器 | 在役 | 口径 / 归属 | 对应 profile |
|
||
|---|---|---|---|
|
||
| 60.1 (6000D-1) | `glm53-pp4`(Up,8 卡满载,:30000) | **方案 D 生产**。09-08 PD 压测窗口停机 ~2.5h 后已恢复并核验 | `profiles/pro6000/glm53_nvfp4_pro6000_sglang_tp2pp4.env` |
|
||
| 60.2 (6000D-2) | 空(无容器,GPU 全 0 MiB) | 方案 F PD 链已于 09-08 拆除。GPU7 曾有外部裸金属任务 main_v2.py(现已结束),动卡前仍先核实归属 | `profiles/pro6000/glm53_nvfp4_pro6000_pd_{prefill→decode 侧}.env` |
|
||
| 60.3 | 空(无容器) | — | — |
|
||
| 60.4 | `dsv4_scan` 容器(Up 5min)+ 裸金属 sglang `DeepSeek-V4-Flash-0731` DSPARK DP2/TP4 :30000 | **并行会话/外部在役,勿动** | — |
|
||
| 60.5 | `glm53-nvfp4`(Up 29h) | **NVFP4 团队生产**(deploy_glm53_605.sh,md5 fcd9109b)。生产机铁律:不实验、不重启、不覆盖脚本 | `profiles/pro6000/glm53_nvfp4_pro6000_sglang_tp8eagle.env`(方案 A 口径) |
|
||
| 60.6 | 空(无容器) | — | — |
|
||
| 60.7 | 空 | 09-08 已拆除清空(方案 F 前身单机实验 + 场景一深优资产留盘),不再恢复 | — |
|
||
| 60.8 | 空 | 09-08 已停服清空、router 拆除,不再恢复 | — |
|
||
|
||
## 方案 A-F 一览(GLM-5.3-NVFP4 @ pro6000,2026-09-08 双场景报告口径)
|
||
|
||
| 方案 | 一句话 | profile / 脚本 |
|
||
|---|---|---|
|
||
| A | TP8 + EAGLE,基准;60.5 生产口径 | `glm53_nvfp4_pro6000_sglang_tp8eagle.env` |
|
||
| B | TP4 PP2 | `glm53_nvfp4_pro6000_sglang_tp4pp2.env` |
|
||
| C | TP4 PP2 + IndexCache(freq=4) | `glm53_nvfp4_pro6000_sglang_tp4pp2_index.env` |
|
||
| D | TP2 PP4;60.1 生产在役 | `glm53_nvfp4_pro6000_sglang_tp2pp4.env` |
|
||
| E | TP8 + DFlash2 投机 | `glm53_nvfp4_pro6000_sglang_tp8dflash2.env` |
|
||
| F | PD 分离双机链(mc-master→prefill→decode→router) | `glm53_nvfp4_pro6000_pd_{master,prefill,decode,router}.env` + `deploy/PD_CHAIN.md` |
|
||
|
||
压测数据:飞书《GLM-5.3-NVFP4 双场景压测报告》(`SZUSdEqY1oRVxGxgILBcHqPJnEc`)。
|
||
|
||
## 防漂移
|
||
|
||
每个在役容器用 `deploy/verify_profile.sh <profile.env>` 定期核验(镜像 digest + 启动参数 +
|
||
端口),发现不一致 = 容器被人手改过,先查清归属再处理。
|