remove partial smoke test artifacts from killed run
This commit is contained in:
parent
15b5489535
commit
39326eaf4a
@ -1,29 +0,0 @@
|
|||||||
{
|
|
||||||
"metadata": {
|
|
||||||
"experiment": "dsv4_h200_vllm_tp_dp_matrix_tp2_dp4",
|
|
||||||
"run_id": "20260709-095536_smoke",
|
|
||||||
"timestamp": "2026-07-09T09:55:43+00:00",
|
|
||||||
"model": "/data/models/DeepSeek-V4-Flash",
|
|
||||||
"backend": "vllm",
|
|
||||||
"engine": "vllm",
|
|
||||||
"hardware": "8x NVIDIA H200 143GB",
|
|
||||||
"accelerator": "NVIDIA H200",
|
|
||||||
"chip": "nvidia_h200",
|
|
||||||
"script": "experiments/dsv4_h200_vllm_tp_dp_matrix/run_bench.sh",
|
|
||||||
"env": "/data/user1/yy/envs/vllm",
|
|
||||||
"git_commit": "ec85ef1",
|
|
||||||
"git_dirty": "dirty",
|
|
||||||
"description": "H200 vLLM TP×DP matrix for DeepSeek-V4-Flash"
|
|
||||||
},
|
|
||||||
"config": {
|
|
||||||
"tp": 2,
|
|
||||||
"dp": 4,
|
|
||||||
"cuda_visible_devices": "0,1,2,3,4,5,6,7",
|
|
||||||
"backend": "vllm",
|
|
||||||
"server_start_script": "experiments/dsv4_h200_vllm_tp_dp_matrix/start_vllm_dp.sh",
|
|
||||||
"server_args_per_isl": {
|
|
||||||
"1024": "vllm serve /data/models/DeepSeek-V4-Flash --trust-remote-code --tensor-parallel-size 2 --kv-cache-dtype fp8 --max-model-len 5184 --max-num-seqs 136 --block-size 256 --gpu-memory-utilization 0.90 --tokenizer-mode deepseek_v4 --reasoning-parser deepseek_v4 --no-disable-hybrid-kv-cache-manager --disable-uvicorn-access-log --port 30030 --data-parallel-size 4 --data-parallel-size-local 4 --data-parallel-multi-port-external-lb "
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"scenarios": []
|
|
||||||
}
|
|
||||||
@ -1,166 +0,0 @@
|
|||||||
mark input_len output_len concurrency num_prompts
|
|
||||||
Y 1024 128 1 5
|
|
||||||
Y 1024 128 22 110
|
|
||||||
Y 1024 128 43 215
|
|
||||||
Y 1024 128 65 325
|
|
||||||
Y 1024 128 86 430
|
|
||||||
Y 1024 128 107 535
|
|
||||||
Y 1024 128 128 640
|
|
||||||
Y 1024 256 1 5
|
|
||||||
Y 1024 256 22 110
|
|
||||||
Y 1024 256 43 215
|
|
||||||
Y 1024 256 65 325
|
|
||||||
Y 1024 256 86 430
|
|
||||||
Y 1024 256 107 535
|
|
||||||
Y 1024 256 128 640
|
|
||||||
Y 1024 512 1 5
|
|
||||||
Y 1024 512 22 110
|
|
||||||
Y 1024 512 43 215
|
|
||||||
Y 1024 512 65 325
|
|
||||||
Y 1024 512 86 430
|
|
||||||
Y 1024 512 107 535
|
|
||||||
Y 1024 512 128 640
|
|
||||||
Y 1024 1024 1 5
|
|
||||||
Y 1024 1024 22 110
|
|
||||||
Y 1024 1024 43 215
|
|
||||||
Y 1024 1024 65 325
|
|
||||||
Y 1024 1024 86 430
|
|
||||||
Y 1024 1024 107 535
|
|
||||||
Y 1024 1024 128 640
|
|
||||||
Y 1024 2048 1 5
|
|
||||||
Y 1024 2048 22 110
|
|
||||||
Y 1024 2048 43 215
|
|
||||||
Y 1024 2048 65 325
|
|
||||||
Y 1024 2048 86 430
|
|
||||||
Y 1024 2048 107 535
|
|
||||||
Y 1024 2048 128 640
|
|
||||||
Y 1024 4096 1 5
|
|
||||||
Y 1024 4096 22 110
|
|
||||||
Y 1024 4096 43 215
|
|
||||||
Y 1024 4096 65 325
|
|
||||||
Y 1024 4096 86 430
|
|
||||||
Y 1024 4096 107 535
|
|
||||||
Y 1024 4096 128 640
|
|
||||||
Y 4096 128 1 5
|
|
||||||
Y 4096 128 11 55
|
|
||||||
Y 4096 128 22 110
|
|
||||||
Y 4096 128 33 165
|
|
||||||
Y 4096 128 43 215
|
|
||||||
Y 4096 128 53 265
|
|
||||||
Y 4096 128 64 320
|
|
||||||
Y 4096 256 1 5
|
|
||||||
Y 4096 256 11 55
|
|
||||||
Y 4096 256 22 110
|
|
||||||
Y 4096 256 33 165
|
|
||||||
Y 4096 256 43 215
|
|
||||||
Y 4096 256 53 265
|
|
||||||
Y 4096 256 64 320
|
|
||||||
Y 4096 512 1 5
|
|
||||||
Y 4096 512 11 55
|
|
||||||
Y 4096 512 22 110
|
|
||||||
Y 4096 512 33 165
|
|
||||||
Y 4096 512 43 215
|
|
||||||
Y 4096 512 53 265
|
|
||||||
Y 4096 512 64 320
|
|
||||||
Y 4096 1024 1 5
|
|
||||||
Y 4096 1024 11 55
|
|
||||||
Y 4096 1024 22 110
|
|
||||||
Y 4096 1024 33 165
|
|
||||||
Y 4096 1024 43 215
|
|
||||||
Y 4096 1024 53 265
|
|
||||||
Y 4096 1024 64 320
|
|
||||||
Y 4096 2048 1 5
|
|
||||||
Y 4096 2048 11 55
|
|
||||||
Y 4096 2048 22 110
|
|
||||||
Y 4096 2048 33 165
|
|
||||||
Y 4096 2048 43 215
|
|
||||||
Y 4096 2048 53 265
|
|
||||||
Y 4096 2048 64 320
|
|
||||||
Y 4096 4096 1 5
|
|
||||||
Y 4096 4096 11 55
|
|
||||||
Y 4096 4096 22 110
|
|
||||||
Y 4096 4096 33 165
|
|
||||||
Y 4096 4096 43 215
|
|
||||||
Y 4096 4096 53 265
|
|
||||||
Y 4096 4096 64 320
|
|
||||||
Y 16384 128 1 5
|
|
||||||
Y 16384 128 6 30
|
|
||||||
Y 16384 128 11 55
|
|
||||||
Y 16384 128 17 85
|
|
||||||
Y 16384 128 22 110
|
|
||||||
Y 16384 128 27 135
|
|
||||||
Y 16384 128 32 160
|
|
||||||
Y 16384 256 1 5
|
|
||||||
Y 16384 256 6 30
|
|
||||||
Y 16384 256 11 55
|
|
||||||
Y 16384 256 17 85
|
|
||||||
Y 16384 256 22 110
|
|
||||||
Y 16384 256 27 135
|
|
||||||
Y 16384 256 32 160
|
|
||||||
Y 16384 512 1 5
|
|
||||||
Y 16384 512 6 30
|
|
||||||
Y 16384 512 11 55
|
|
||||||
Y 16384 512 17 85
|
|
||||||
Y 16384 512 22 110
|
|
||||||
Y 16384 512 27 135
|
|
||||||
Y 16384 512 32 160
|
|
||||||
Y 16384 1024 1 5
|
|
||||||
Y 16384 1024 6 30
|
|
||||||
Y 16384 1024 11 55
|
|
||||||
Y 16384 1024 17 85
|
|
||||||
Y 16384 1024 22 110
|
|
||||||
Y 16384 1024 27 135
|
|
||||||
Y 16384 1024 32 160
|
|
||||||
Y 16384 2048 1 5
|
|
||||||
Y 16384 2048 6 30
|
|
||||||
Y 16384 2048 11 55
|
|
||||||
Y 16384 2048 17 85
|
|
||||||
Y 16384 2048 22 110
|
|
||||||
Y 16384 2048 27 135
|
|
||||||
Y 16384 2048 32 160
|
|
||||||
Y 65536 128 1 5
|
|
||||||
Y 65536 128 2 10
|
|
||||||
Y 65536 128 3 15
|
|
||||||
Y 65536 128 5 25
|
|
||||||
Y 65536 128 6 30
|
|
||||||
Y 65536 128 7 35
|
|
||||||
Y 65536 128 8 40
|
|
||||||
Y 65536 256 1 5
|
|
||||||
Y 65536 256 2 10
|
|
||||||
Y 65536 256 3 15
|
|
||||||
Y 65536 256 5 25
|
|
||||||
Y 65536 256 6 30
|
|
||||||
Y 65536 256 7 35
|
|
||||||
Y 65536 256 8 40
|
|
||||||
Y 65536 512 1 5
|
|
||||||
Y 65536 512 2 10
|
|
||||||
Y 65536 512 3 15
|
|
||||||
Y 65536 512 5 25
|
|
||||||
Y 65536 512 6 30
|
|
||||||
Y 65536 512 7 35
|
|
||||||
Y 65536 512 8 40
|
|
||||||
Y 65536 1024 1 5
|
|
||||||
Y 65536 1024 2 10
|
|
||||||
Y 65536 1024 3 15
|
|
||||||
Y 65536 1024 5 25
|
|
||||||
Y 65536 1024 6 30
|
|
||||||
Y 65536 1024 7 35
|
|
||||||
Y 65536 1024 8 40
|
|
||||||
Y 131072 128 1 5
|
|
||||||
Y 131072 128 2 10
|
|
||||||
Y 131072 128 3 15
|
|
||||||
Y 131072 128 4 20
|
|
||||||
Y 131072 256 1 5
|
|
||||||
Y 131072 256 2 10
|
|
||||||
Y 131072 256 3 15
|
|
||||||
Y 131072 256 4 20
|
|
||||||
Y 131072 512 1 5
|
|
||||||
Y 131072 512 2 10
|
|
||||||
Y 131072 512 3 15
|
|
||||||
Y 131072 512 4 20
|
|
||||||
Y 262144 128 1 5
|
|
||||||
Y 262144 128 2 10
|
|
||||||
Y 262144 256 1 5
|
|
||||||
Y 262144 256 2 10
|
|
||||||
Y 524288 128 1 5
|
|
||||||
Y 524288 128 2 10
|
|
||||||
|
Loading…
x
Reference in New Issue
Block a user