vLLM

来自 vLLM Project · docs.vllm.ai ↗

平台与基础设施开放（开放权重/源码）可用性：全球发布于 2023

面向大语言模型的开源推理与服务引擎，以高吞吐的 PagedAttention 而知名。

open-source inference serving llm

分类: 平台与基础设施
商业模式: 开放（开放权重/源码）
可用性: 全球
发布: 2023
记录更新: 2026-07-24
规范网址: https://globalaiproductindex.com/zh/products/vllm/

来源

本记录最近复核于 2026-07-24。

机器可读记录：/api/products/vllm.json · 发现错误？提交纠错