Global AIProduct Index
简体中文

vLLM

来自 vLLM Project

平台与基础设施 开放（开放权重/源码） 可用性：全球 发布于 2023-06

访问官网 docs.vllm.ai 查看文档

概览

面向大语言模型的开源推理与服务引擎，以高吞吐的 PagedAttention 而知名。

open-source inference serving llm

许可证
Apache-2.0
分类
平台与基础设施
商业模式
开放（开放权重/源码）
可用性
全球
发布
2023-06

概述

vLLM 是面向大语言模型的开源推理与服务引擎，由 vLLM Project 维护，最初在加州大学伯克利分校开发，其 PagedAttention 内存管理是其吞吐能力的根基。它是需要你自行安装运行的软件，而非厂商托管的服务，自带与 OpenAI 兼容的 API 服务器，文档中也提供 API 与 CLI 参考。本次审查未发现实质性变更。主要局限在于定价与地区：vLLM 不发布厂商价目表，因为它是自托管的开源软件，成本即你自行运行的 GPU 硬件，记录中其地区覆盖范围也未说明。

对比这款工具 纠错

主要功能

适用场景

定价

vLLM 以 Apache-2.0 免费开源；成本限于所运行的 GPU 基础设施。

档案信息

来源、日期与链接集中放在这里，正文只讲产品本身。

链接、日期与来源
记录更新
2026-10-10
文档
docs.vllm.ai ↗
成立时间
2023
总部所在地
US
规范网址
https://globalaiproductindex.com/zh/products/vllm/

选型档案

每个字段都标明取值依据。“未知”表示我们尚未核实，并不表示产品没有该能力。

选型档案11 个字段4 项未知
适合的任务
自行运行模型

从记录推导：类别“platforms”。

纠错
使用形态
自建服务

开源项目，没有描述其交付形态的标签；需自行运行。

纠错
运行平台
未记录

记录中未说明平台支持情况。

纠错
运行位置
未记录

开源记录，没有托管信号；未记录部署目标。

纠错
离线可用
未记录

记录中不包含离线运行的声明。

纠错
官方服务地区
全球

与记录中已有的可用地域字段（“global”）一致。

纠错
公开 API
是

在厂商页面上匹配到：“itializing search GitHub Home User Guide Developer Guide Benchmarking API Reference CLI Reference Community vLLM GitHub Home User Guide User Guide Getting Started Getting”

纠错
许可证
Apache-2.0

仓库许可证端点返回 Apache-2.0。

纠错
商业使用
允许

所记录的许可证允许商业使用（copyleft 义务可能仍然适用）。

纠错
界面语言
未记录

本轮所读的任何厂商页面都未说明产品自身的界面语言；保留该键是为了日后能作答，而不是留空。

纠错
计费
开源 免费 免费额度: 有 需要订阅: 否

价格为厂商公布的入门价，不含税；请以厂商页面为准。

纠错
各字段的证据来源
适合的任务
本站推断
使用形态
本站推断
运行平台
本站推断
运行位置
本站推断
离线可用
本站推断
官方服务地区
本站推断
公开 API
已核实 2026-10-09 docs.vllm.ai ↗
许可证
已核实 2026-10-10 github.com ↗
商业使用
本站推断
界面语言
未知

关键事实与证据

每条事实都列明适用条件、来源页面与核对日期。

常见问题

vLLM 用来做什么？

以高吞吐服务大语言模型，暴露兼容 OpenAI 的 API 供自托管部署。

vLLM 免费吗？

Apache-2.0 开源免费；只需为运行它的硬件付费。

PagedAttention 是什么？

vLLM 把 KV 缓存分页的内存管理技术，提高 GPU 利用率与吞吐。

哪些人不适合选择 vLLM？

希望使用托管式 API 端点而不自行运行的团队。vLLM 是需要自行托管、采用 Apache-2.0 的开源软件，记录中没有厂商价目表，也没有托管服务。

同类产品

查看vLLM的全部替代品 → · 查看全部平台与基础设施产品 →

相关指南

来源

本记录最近复核于 2026-10-10。

机器可读记录：/api/products/vllm.json · 发现错误？提交纠错