今日
vllm
vllm-project
A high-throughput and memory-efficient inference and serving engine for LLMs
★ 95k↑ +128⑂ 24k
- 名次
- #15
- 在榜
- 2 天 · 首次 10-20
- 变动
- 持平
仓库全景
来自公开接口，与站内名次无关健康度
活跃度、响应速度、维护者- 最近推送
- 3 小时前
- issue 响应
- 32 小时
- 贡献者
- 57
- 版本节奏
- v0.1.7
100 条已关闭样本的中位时长
最大贡献者占 920 次
中位间隔 13 天
提交节奏近 26 周，每周提交数
近 13 周 4493 次，比前 13 周多
全网依赖与生态
谁在用它、它依赖谁- 依赖它的仓库
- 8.9k
- npm 周下载
- 14
- 上游依赖
- 0
另有 901 个包
vllm · 最近一周
PyPI · 2 个清单
社区讨论
Hacker News- vLLM: Easy, Fast, and Cheap LLM Serving with PagedAttention295 分 · 42 评论
- Nano-vLLM: How a vLLM-style inference engine works271 分 · 27 评论
- Show HN: Tiny-vLLM – high performance LLM inference engine in C++ and CUDA205 分 · 18 评论
- Life of an inference request (vLLM V1): How LLMs are served efficiently at scale175 分 · 21 评论
- Inside vLLM: Anatomy of a High-Throughput LLM Inference System (2025)151 分 · 10 评论
Apache-2.0Pythongptllmpytorchmodel-servingtransformerllm-servinginferencellama