文章

vLLM 推理引擎的生产边界：从 PagedAttention 到分离式 Prefill 的真实成本线

vLLM 的实验室吞吐数据与生产环境之间存在系统性落差。本文从 PagedAttention 的 CPU-GPU 协调开销、推测解码的接受率波动、分离式 Prefill 的网络传输成本三个维度，分析各项优化的真实适用边界与隐性成本，并给出生产配置决策框架。