yy-fighting
|
498e333730
|
CURRENT.md: 60.4 now serving TP2PP4 GLM-5.3-NVFP4 (D-recipe replica, 09-09)
60.4 经授权清退外部 vllm 评测流水线(tmux mas / run_multiseed.sh 链,--resume 可续跑)
后部署 D 生产配方复刻:TP2/PP4/mem0.85/MRR48/chunk16384/radix-off/无投机,
restart=unless-stopped,health 200 + 生成冒烟通过。启动脚本 60.4:/root/deploy_s2_test_604.sh
(基于 exp602/deploy_s2_test.sh,唯一改动 restart 策略)。
|
2026-09-09 10:55:59 +08:00 |
|
yy-fighting
|
a3b8f1b2ab
|
r37: fix PP+MTP verify CUDA graph (pre-planned path missing pp_proxy fill); beats A16 by 40% on killer, now serving on 60.8
|
2026-09-09 01:24:29 +08:00 |
|
yy-fighting
|
ffda226f5a
|
PP+MTP r36 de-GLOO: fix + verdict (PP+MTP loses i8k 1.81x to B', graph mode correctness-broken, A16 restored)
|
2026-09-08 22:21:20 +08:00 |
|
yy-fighting
|
123023b6ae
|
feat(pro6000/GLM-5.3): i8k/o1k/c16 三方案对比压测入库(A/A16/B 轮换实测 + 60.8 转 A16 在役 + CURRENT.md 台账修正 60.2/60.3/60.6/60.8)
|
2026-09-08 19:05:10 +08:00 |
|
yy-fighting
|
5c749cda03
|
feat(pro6000/GLM-5.3): 方案 D/E/F 部署资产入库(TP2PP4 生产配方 / TP8+DFlash2 / PD 分离四角色链)
- scripts: 11 个服务器原样脚本入库(md5 对照表更新至 README);D=60.1 生产原样配方、
E=v5 DFlash 底稿、F=PD 链四角色部署+launch+双场景压测驱动
- profiles: 新增 6 个 .env(D/E 单机 + F 四角色,均带镜像 digest
sha256:28e0d260…,对齐 kimi3 PD 多角色先例)
- deploy/PD_CHAIN.md: 方案 F 编排手册(启动顺序 mc-master→prefill→decode→router、
基础设施依赖表、质量门口径、拆链恢复、÷2 单机等效判决)
- platforms/patches/pro6000/glm53_pd_chain/: sglang 补丁树 vs 镜像原版 11 文件
unified diff 快照——宿主树无 .git,此为唯一版本记录(DFlash+PP+PD 解锁全集)
- deploy/manifests/: GLM-5.3-NVFP4(47分片)/GLM-5.3-DFlash2(单分片) 权重 md5 清单
- deploy/CURRENT.md: 全集群现役状态页(2026-09-08 八机实测)
- deploy/verify_profile.sh: 防漂移核验工具(digest+参数 token 比对+端口/health,
已在 60.1 生产容器实测 PASS)
|
2026-09-08 16:36:15 +08:00 |
|