remove partial smoke test artifacts from killed run
This commit is contained in:
parent
15b5489535
commit
39326eaf4a
@ -1,29 +0,0 @@
|
||||
{
|
||||
"metadata": {
|
||||
"experiment": "dsv4_h200_vllm_tp_dp_matrix_tp2_dp4",
|
||||
"run_id": "20260709-095536_smoke",
|
||||
"timestamp": "2026-07-09T09:55:43+00:00",
|
||||
"model": "/data/models/DeepSeek-V4-Flash",
|
||||
"backend": "vllm",
|
||||
"engine": "vllm",
|
||||
"hardware": "8x NVIDIA H200 143GB",
|
||||
"accelerator": "NVIDIA H200",
|
||||
"chip": "nvidia_h200",
|
||||
"script": "experiments/dsv4_h200_vllm_tp_dp_matrix/run_bench.sh",
|
||||
"env": "/data/user1/yy/envs/vllm",
|
||||
"git_commit": "ec85ef1",
|
||||
"git_dirty": "dirty",
|
||||
"description": "H200 vLLM TP×DP matrix for DeepSeek-V4-Flash"
|
||||
},
|
||||
"config": {
|
||||
"tp": 2,
|
||||
"dp": 4,
|
||||
"cuda_visible_devices": "0,1,2,3,4,5,6,7",
|
||||
"backend": "vllm",
|
||||
"server_start_script": "experiments/dsv4_h200_vllm_tp_dp_matrix/start_vllm_dp.sh",
|
||||
"server_args_per_isl": {
|
||||
"1024": "vllm serve /data/models/DeepSeek-V4-Flash --trust-remote-code --tensor-parallel-size 2 --kv-cache-dtype fp8 --max-model-len 5184 --max-num-seqs 136 --block-size 256 --gpu-memory-utilization 0.90 --tokenizer-mode deepseek_v4 --reasoning-parser deepseek_v4 --no-disable-hybrid-kv-cache-manager --disable-uvicorn-access-log --port 30030 --data-parallel-size 4 --data-parallel-size-local 4 --data-parallel-multi-port-external-lb "
|
||||
}
|
||||
},
|
||||
"scenarios": []
|
||||
}
|
||||
@ -1,166 +0,0 @@
|
||||
mark input_len output_len concurrency num_prompts
|
||||
Y 1024 128 1 5
|
||||
Y 1024 128 22 110
|
||||
Y 1024 128 43 215
|
||||
Y 1024 128 65 325
|
||||
Y 1024 128 86 430
|
||||
Y 1024 128 107 535
|
||||
Y 1024 128 128 640
|
||||
Y 1024 256 1 5
|
||||
Y 1024 256 22 110
|
||||
Y 1024 256 43 215
|
||||
Y 1024 256 65 325
|
||||
Y 1024 256 86 430
|
||||
Y 1024 256 107 535
|
||||
Y 1024 256 128 640
|
||||
Y 1024 512 1 5
|
||||
Y 1024 512 22 110
|
||||
Y 1024 512 43 215
|
||||
Y 1024 512 65 325
|
||||
Y 1024 512 86 430
|
||||
Y 1024 512 107 535
|
||||
Y 1024 512 128 640
|
||||
Y 1024 1024 1 5
|
||||
Y 1024 1024 22 110
|
||||
Y 1024 1024 43 215
|
||||
Y 1024 1024 65 325
|
||||
Y 1024 1024 86 430
|
||||
Y 1024 1024 107 535
|
||||
Y 1024 1024 128 640
|
||||
Y 1024 2048 1 5
|
||||
Y 1024 2048 22 110
|
||||
Y 1024 2048 43 215
|
||||
Y 1024 2048 65 325
|
||||
Y 1024 2048 86 430
|
||||
Y 1024 2048 107 535
|
||||
Y 1024 2048 128 640
|
||||
Y 1024 4096 1 5
|
||||
Y 1024 4096 22 110
|
||||
Y 1024 4096 43 215
|
||||
Y 1024 4096 65 325
|
||||
Y 1024 4096 86 430
|
||||
Y 1024 4096 107 535
|
||||
Y 1024 4096 128 640
|
||||
Y 4096 128 1 5
|
||||
Y 4096 128 11 55
|
||||
Y 4096 128 22 110
|
||||
Y 4096 128 33 165
|
||||
Y 4096 128 43 215
|
||||
Y 4096 128 53 265
|
||||
Y 4096 128 64 320
|
||||
Y 4096 256 1 5
|
||||
Y 4096 256 11 55
|
||||
Y 4096 256 22 110
|
||||
Y 4096 256 33 165
|
||||
Y 4096 256 43 215
|
||||
Y 4096 256 53 265
|
||||
Y 4096 256 64 320
|
||||
Y 4096 512 1 5
|
||||
Y 4096 512 11 55
|
||||
Y 4096 512 22 110
|
||||
Y 4096 512 33 165
|
||||
Y 4096 512 43 215
|
||||
Y 4096 512 53 265
|
||||
Y 4096 512 64 320
|
||||
Y 4096 1024 1 5
|
||||
Y 4096 1024 11 55
|
||||
Y 4096 1024 22 110
|
||||
Y 4096 1024 33 165
|
||||
Y 4096 1024 43 215
|
||||
Y 4096 1024 53 265
|
||||
Y 4096 1024 64 320
|
||||
Y 4096 2048 1 5
|
||||
Y 4096 2048 11 55
|
||||
Y 4096 2048 22 110
|
||||
Y 4096 2048 33 165
|
||||
Y 4096 2048 43 215
|
||||
Y 4096 2048 53 265
|
||||
Y 4096 2048 64 320
|
||||
Y 4096 4096 1 5
|
||||
Y 4096 4096 11 55
|
||||
Y 4096 4096 22 110
|
||||
Y 4096 4096 33 165
|
||||
Y 4096 4096 43 215
|
||||
Y 4096 4096 53 265
|
||||
Y 4096 4096 64 320
|
||||
Y 16384 128 1 5
|
||||
Y 16384 128 6 30
|
||||
Y 16384 128 11 55
|
||||
Y 16384 128 17 85
|
||||
Y 16384 128 22 110
|
||||
Y 16384 128 27 135
|
||||
Y 16384 128 32 160
|
||||
Y 16384 256 1 5
|
||||
Y 16384 256 6 30
|
||||
Y 16384 256 11 55
|
||||
Y 16384 256 17 85
|
||||
Y 16384 256 22 110
|
||||
Y 16384 256 27 135
|
||||
Y 16384 256 32 160
|
||||
Y 16384 512 1 5
|
||||
Y 16384 512 6 30
|
||||
Y 16384 512 11 55
|
||||
Y 16384 512 17 85
|
||||
Y 16384 512 22 110
|
||||
Y 16384 512 27 135
|
||||
Y 16384 512 32 160
|
||||
Y 16384 1024 1 5
|
||||
Y 16384 1024 6 30
|
||||
Y 16384 1024 11 55
|
||||
Y 16384 1024 17 85
|
||||
Y 16384 1024 22 110
|
||||
Y 16384 1024 27 135
|
||||
Y 16384 1024 32 160
|
||||
Y 16384 2048 1 5
|
||||
Y 16384 2048 6 30
|
||||
Y 16384 2048 11 55
|
||||
Y 16384 2048 17 85
|
||||
Y 16384 2048 22 110
|
||||
Y 16384 2048 27 135
|
||||
Y 16384 2048 32 160
|
||||
Y 65536 128 1 5
|
||||
Y 65536 128 2 10
|
||||
Y 65536 128 3 15
|
||||
Y 65536 128 5 25
|
||||
Y 65536 128 6 30
|
||||
Y 65536 128 7 35
|
||||
Y 65536 128 8 40
|
||||
Y 65536 256 1 5
|
||||
Y 65536 256 2 10
|
||||
Y 65536 256 3 15
|
||||
Y 65536 256 5 25
|
||||
Y 65536 256 6 30
|
||||
Y 65536 256 7 35
|
||||
Y 65536 256 8 40
|
||||
Y 65536 512 1 5
|
||||
Y 65536 512 2 10
|
||||
Y 65536 512 3 15
|
||||
Y 65536 512 5 25
|
||||
Y 65536 512 6 30
|
||||
Y 65536 512 7 35
|
||||
Y 65536 512 8 40
|
||||
Y 65536 1024 1 5
|
||||
Y 65536 1024 2 10
|
||||
Y 65536 1024 3 15
|
||||
Y 65536 1024 5 25
|
||||
Y 65536 1024 6 30
|
||||
Y 65536 1024 7 35
|
||||
Y 65536 1024 8 40
|
||||
Y 131072 128 1 5
|
||||
Y 131072 128 2 10
|
||||
Y 131072 128 3 15
|
||||
Y 131072 128 4 20
|
||||
Y 131072 256 1 5
|
||||
Y 131072 256 2 10
|
||||
Y 131072 256 3 15
|
||||
Y 131072 256 4 20
|
||||
Y 131072 512 1 5
|
||||
Y 131072 512 2 10
|
||||
Y 131072 512 3 15
|
||||
Y 131072 512 4 20
|
||||
Y 262144 128 1 5
|
||||
Y 262144 128 2 10
|
||||
Y 262144 256 1 5
|
||||
Y 262144 256 2 10
|
||||
Y 524288 128 1 5
|
||||
Y 524288 128 2 10
|
||||
|
Loading…
x
Reference in New Issue
Block a user