← 返回 GitHub 项目

本地模型 · OPEN SOURCE

vLLM

vllm-project/vllm

面向高吞吐与高效显存使用的 LLM 推理服务引擎。

Stars 快照
★ 86,310
主要语言
Python
许可证
Apache-2.0
数据核验
2026-07-15

适合谁

可以从这些任务开始

  • 生产推理
  • 并发服务
  • OpenAI 兼容接口

采用前检查

许可证与部署提醒

生产部署需要 GPU、容量规划和安全隔离。

Stars 仅反映关注度。生产采用前还需检查维护活跃度、安全公告、依赖、许可证全文与实际资源成本。