VLLM专题（三十）—基准测试套件（Benchmark Suites）

vLLM 包含两套基准测试：

1. 性能基准测试（Performance Benchmarks）
2. 夜间基准测试（Nightly Benchmarks）

1. 性能基准测试（Performance Benchmarks）

性能基准测试用于开发过程中，以确认新更改是否在各种工作负载下提升了性能。每次提交带有 perf-benchmarks 和 ready 标签的代码时，以及当 PR 合并到 vLLM 时，都会触发这些测试。

最新的性能测试结果可以在 vLLM 性能仪表盘 上查看。

有关性能基准测试及其参数的更多信息，请参阅此处。

2. 夜间基准测试（Nightly Benchmarks）

这些测试用于在 vLLM 有重大更新时（例如升级到新版本），将 vLLM 的性能与其他替代方案（如 tgi、trt-llm 和 lmdeploy）进行比较。它们主要面向用户，帮助评估何时选择 vLLM 而不是其他选项。每次提交带有 perf-benchmarks 和 <