vLLM
por vLLM Project
Visão rápida
Motor de inferência e serving de código aberto para grandes modelos de linguagem, conhecido pelo PagedAttention de alto rendimento.
open-source inference serving llm
- Licença
- Apache-2.0
- Categoria
- Plataformas e infraestrutura
- Modelo de negócio
- Aberto (pesos/código aberto)
- Disponibilidade
- Global
- Lançado
- 2023-06
Visão geral
O vLLM é um motor de inferência e serviço de código aberto para grandes modelos de linguagem, mantido pelo projeto vLLM e originalmente desenvolvido na UC Berkeley, cuja gestão de memória PagedAttention sustenta o throughput. É um software que você mesmo instala e executa, e não um serviço hospedado pelo fornecedor, e traz um servidor de API compatível com OpenAI, com referências de API e CLI na documentação. Nenhuma mudança material foi encontrada nesta revisão. A principal limitação é preço e região: o vLLM não publica lista de preços do fornecedor, pois é software de código aberto auto-hospedado cujo custo é o hardware de GPU em que roda, e a cobertura regional não é informada no registro.
Comparar esta ferramenta Sugerir correção
Principais recursos
- PagedAttention para gestão eficiente de memória do cache KV
- Agrupamento contínuo de pedidos de alto throughput
- Servidor API compatível com OpenAI pronto para usar
- Amplo suporte a arquiteturas de modelos abertos e quantização
Casos de uso
- Servir LLMs abertos em produção com alto throughput
- Auto-hospedar um endpoint de inferência compatível com OpenAI
- Comparar e pesquisar inferência eficiente de LLM
Preços
O vLLM é grátis e de código aberto sob Apache-2.0; os custos limitam-se à infraestrutura GPU em que roda.
Detalhes do registro
Procedência, datas e links ficam aqui para que as seções principais tratem do produto.
Links, datas e procedência
- Registro atualizado
- 2026-10-10
- Documentação
- docs.vllm.ai ↗
- Fundada
- 2023
- Sede
- US
Perfil de seleção
Cada campo indica a origem do valor. “Desconhecido” significa que não confirmamos — não que o produto não tenha o recurso.
Perfil de seleção11 campos4 desconhecidos
- Tarefas indicadas
- Executar modelos próprios
Derivado do registro: categoria «platforms».
Sugerir correção - Forma de uso
- Serviço auto-hospedado
Projeto de código aberto sem tag que descreva sua forma de entrega; execute você mesmo.
Sugerir correção - Plataformas
- Não registrado
O registro não indica suporte a nenhuma plataforma.
Sugerir correção - Onde é executado
- Não registrado
Registro de código aberto sem sinal de hospedagem; destino de implantação não registrado.
Sugerir correção - Funciona offline
- Não registrado
O registro não contém nenhuma afirmação de funcionamento offline.
Sugerir correção - Região oficial de serviço
- Global
Espelha o campo de disponibilidade já presente no registro («global»).
Sugerir correção - API pública
- Sim
Correspondência na página do fornecedor: “itializing search GitHub Home User Guide Developer Guide Benchmarking API Reference CLI Reference Community vLLM GitHub Home User Guide User Guide Getting Started Getting”
Sugerir correção - Licença
- Apache-2.0
O endpoint de licenças do repositório retorna Apache-2.0.
Sugerir correção - Uso comercial
- Permitido
A licença registrada permite uso comercial (obrigações de copyleft ainda podem se aplicar).
Sugerir correção - Idiomas da interface
- Não registrado
Nenhuma página do fornecedor lida nesta passagem indica os idiomas de interface do próprio produto; a chave existe para que o campo possa ser respondido mais tarde em vez de ficar ausente.
Sugerir correção - Cobrança
- Código aberto Gratuito Franquia gratuita: Sim Requer assinatura: Não
Os preços são o valor de entrada divulgado pelo fornecedor, sem impostos; confirme na página oficial.
Sugerir correção
Origem de cada valor
- Tarefas indicadas
- Inferência própria
- Forma de uso
- Inferência própria
- Plataformas
- Inferência própria
- Onde é executado
- Inferência própria
- Funciona offline
- Inferência própria
- Região oficial de serviço
- Inferência própria
- API pública
- Verificado 2026-10-09 docs.vllm.ai ↗
- Licença
- Verificado 2026-10-10 github.com ↗
- Uso comercial
- Inferência própria
- Idiomas da interface
- Desconhecido
Fatos-chave e evidências
Cada fato lista condições, página de origem e data de verificação.
-
API: API pública documentada Verificado 2026-10-09 docs.vllm.ai ↗
Aplica-se a: Conforme indicado em docs.vllm.ai em 2026-10-09
Correspondência na página do fornecedor: “itializing search GitHub Home User Guide Developer Guide Benchmarking API Reference CLI Reference Community vLLM GitHub Home User Guide User Guide Getting Started Getting”
Sugerir correção -
Licença: Apache-2.0 Verificado 2026-10-10 github.com ↗
Sugerir correção
Perguntas frequentes
Para que o vLLM é usado?
O vLLM serve grandes modelos de linguagem com alto throughput, expondo uma API compatível com OpenAI para implantações auto-hospedadas.
O vLLM é grátis?
Sim. O vLLM é de código aberto sob Apache-2.0; você paga só pelo hardware em que o executa.
O que é o PagedAttention?
PagedAttention é a técnica de gestão de memória do vLLM que pagina o cache KV, subindo a utilização de GPU e o throughput.
Quem não deveria escolher o vLLM?
Equipes que querem um endpoint de API gerenciado em vez de executá-lo por conta própria. O vLLM é software de código aberto que se auto-hospeda sob Apache-2.0, o registro não traz lista de preços do fornecedor nem serviço hospedado.
Produtos similares
- LM Studio — Aplicativo de desktop para descobrir, baixar e executar localmente grandes modelos de linguagem abertos.
- Ollama — Ferramenta de código aberto para executar localmente grandes modelos de linguagem abertos na sua própria máquina por uma interface de linha de comando simples.
- Jan — App de desktop de código aberto para executar modelos de linguagem abertos localmente, como alternativa offline ao ChatGPT.
- Open WebUI — Interface de IA auto-hospedada e extensível que funciona offline e se conecta a modelos locais ou remotos como Ollama e APIs compatíveis com OpenAI.
- Baseten — Plataforma para implantar e servir modelos de machine learning como APIs escaláveis.
- Cerebras — Empresa de computação de IA cuja nuvem de inferência serve modelos de linguagem abertos em hardware em escala de wafer.
Todas as alternativas a vLLM → · Todos os produtos de Plataformas e infraestrutura →
Guias relacionados
Fontes
Este registro foi revisado pela última vez em 2026-10-10.
Registro legível por máquina: /api/products/vllm.json · Encontrou um erro? Sugerir uma correção