2026-08-31 15:57:13 +08:00
..
2026-08-31 15:57:13 +08:00
2026-08-31 15:57:13 +08:00

vLLM-Omni 多实例 Base

对应报告:MiniMax-H3 在 RTX 6000D 上的 vLLM-Omni 多实例部署测试报告20 steps / 5s

实验设计

  • 框架/环境vLLM-OmniConda 环境 deploy
  • 部署矩阵1×8 卡、2×4 卡、4×2 卡,总计使用 8 张卡。
  • 任务FL2VA、Ref2VA。
  • 分辨率480、720、768、1080每任务每档 8 条,总量 32 条。
  • 固定生成规格20 inference steps、5 秒、24 FPS、16:9、lossless MP4。
  • 各实例接收相同分辨率比例;不同实例并行、实例内串行。

归档内容

  • scripts/run_vllm_omni_h3_matrix_6000d.sh:多实例服务和矩阵编排。
  • scripts/minimax_h3_vllm_bench.pymultipart 请求、MP4 校验和汇总。
  • results/vllm-balanced64-20steps-5s-r2-20260822-225317192/192 成功的正式结果。

结果用于整机容量和端到端速度比较,不替代同 seed 的视频效果评分。原始源路径见根目录 SOURCE_MAP.tsv