[Docs] finalize Phase 3 timeline profiling results

This commit is contained in:
Zhiyi Hong 2026-08-02 01:16:49 +08:00
parent 82b7d91ac0
commit 41e2b000a4
2 changed files with 9 additions and 0 deletions

View File

@ -1,5 +1,9 @@
# sskj — 多平台大模型推理性能基准测试项目
> **更新2026-08-02 01:25:30 CST**
>
> 完成 DeepSeek-V4-Pro 双机 Pro6000D SGLang Phase 3 时间线 Profiling。正式 Run `dsv4pro-phase3-20260802-003213` 在 21 分 03 秒内完成 Decode Control、Decode+128K Prefill Mixed、独立 128K Prefill 三段 CaptureHead/Worker 各生成 3 份 Nsight Systems 报告及 Stats合计 6/6 校验通过。Control 以 GEMM/MoEHead 44.7%)和 NCCL31.9%为主Mixed 中 NSA/MLA 升至 29.7%NCCL 为 23.1%,说明 Chunked Prefill 的 Sparse Attention/MLA 计算进入同一 TP16 GPU 关键路径。Prefill Trace 漏采 3 个 Rank 的 CUDA 活动,因此暂不判断固定慢 Rank也不将 NCCL 单独定性为根因。实验结束后两节点容器和 16 张 GPU 均已清理。
>
> **更新2026-08-02 00:35:00 CST**
>
> 修复 DeepSeek-V4-Pro 双机 Pro6000D SGLang Phase 3 混合 Capture 时序。两轮失败 Run 证明当前镜像的 `/start_profile` 会阻塞 API 事件循环Profile 激活后发送的 128K 请求只能在捕获结束后进入 Scheduler因此异步调用仍无法覆盖注入。最终实现先稳定 Decode 背景,再通过原生 `/generate` + `input_ids` 送入 128K 请求;确认首个 8K Chunk Prefill 已开始后才捕获 32 个 Mixed Step。Control Trace 单独提供纯 Decode 基线Mixed Trace 捕获真实 Prefill+Decode Treatment。混合背景缩为单波 32 请求Profiling 专用 watchdog 提升至 1800 秒,异常退出会自动将 manifest 标记为 `FAILED`

View File

@ -3,6 +3,11 @@
Phase 3 captures short distributed timelines for the completed TP16 baseline.
It does not rerun Phase 2 hardware sampling or communication microbenchmarks.
Formal run `dsv4pro-phase3-20260802-003213` completed at commit `82b7d91`:
three ranges produced three Head and three Worker `.nsys-rep` files, and all
six reports passed validation and `nsys stats` export. Raw reports remain under
the run directory on Head. Profiler-side throughput is diagnostic only.
## Formal entry point
Run only on Head `174.1.51.5`: