vLLM 推出原生速度的 transformers 建模后端 | Hugging Face

集成 vLLM 推理引擎到 HuggingFace transformers，显著提升大模型推理性能 - HF Blog