From 41e2b000a481aaf1770ec629c83ff3816e11a8ef Mon Sep 17 00:00:00 2001 From: Zhiyi Hong <2497491955@qq.com> Date: Sun, 2 Aug 2026 01:16:49 +0800 Subject: [PATCH] [Docs] finalize Phase 3 timeline profiling results --- README.md | 4 ++++ .../README.md | 5 +++++ 2 files changed, 9 insertions(+) diff --git a/README.md b/README.md index 2357c21..eae889f 100644 --- a/README.md +++ b/README.md @@ -1,5 +1,9 @@ # sskj — 多平台大模型推理性能基准测试项目 +> **更新（2026-08-02 01:25:30 CST）** +> +> 完成 DeepSeek-V4-Pro 双机 Pro6000D SGLang Phase 3 时间线 Profiling。正式 Run `dsv4pro-phase3-20260802-003213` 在 21 分 03 秒内完成 Decode Control、Decode+128K Prefill Mixed、独立 128K Prefill 三段 Capture；Head/Worker 各生成 3 份 Nsight Systems 报告及 Stats，合计 6/6 校验通过。Control 以 GEMM/MoE（Head 44.7%）和 NCCL（31.9%）为主；Mixed 中 NSA/MLA 升至 29.7%，NCCL 为 23.1%，说明 Chunked Prefill 的 Sparse Attention/MLA 计算进入同一 TP16 GPU 关键路径。Prefill Trace 漏采 3 个 Rank 的 CUDA 活动，因此暂不判断固定慢 Rank，也不将 NCCL 单独定性为根因。实验结束后两节点容器和 16 张 GPU 均已清理。 +> > **更新（2026-08-02 00:35:00 CST）** > > 修复 DeepSeek-V4-Pro 双机 Pro6000D SGLang Phase 3 混合 Capture 时序。两轮失败 Run 证明当前镜像的 `/start_profile` 会阻塞 API 事件循环：Profile 激活后发送的 128K 请求只能在捕获结束后进入 Scheduler，因此异步调用仍无法覆盖注入。最终实现先稳定 Decode 背景，再通过原生 `/generate` + `input_ids` 送入 128K 请求；确认首个 8K Chunk Prefill 已开始后才捕获 32 个 Mixed Step。Control Trace 单独提供纯 Decode 基线，Mixed Trace 捕获真实 Prefill+Decode Treatment。混合背景缩为单波 32 请求，Profiling 专用 watchdog 提升至 1800 秒，异常退出会自动将 manifest 标记为 `FAILED`。 diff --git a/experiments/pro6000/dsv4pro_pro6000d_2node_sglang_timeline_profiling/README.md b/experiments/pro6000/dsv4pro_pro6000d_2node_sglang_timeline_profiling/README.md index d1be2b9..8d423af 100644 --- a/experiments/pro6000/dsv4pro_pro6000d_2node_sglang_timeline_profiling/README.md +++ b/experiments/pro6000/dsv4pro_pro6000d_2node_sglang_timeline_profiling/README.md @@ -3,6 +3,11 @@ Phase 3 captures short distributed timelines for the completed TP16 baseline. It does not rerun Phase 2 hardware sampling or communication microbenchmarks. +Formal run `dsv4pro-phase3-20260802-003213` completed at commit `82b7d91`: +three ranges produced three Head and three Worker `.nsys-rep` files, and all +six reports passed validation and `nsys stats` export. Raw reports remain under +the run directory on Head. Profiler-side throughput is diagnostic only. + ## Formal entry point Run only on Head `174.1.51.5`: