vLLM
de vLLM Project
De un vistazo
Motor de inferencia y servicio de código abierto para grandes modelos de lenguaje, conocido por su PagedAttention de alto rendimiento.
open-source inference serving llm
- Licencia
- Apache-2.0
- Categoría
- Plataformas e infraestructura
- Modelo de negocio
- Abierto (pesos/código abierto)
- Disponibilidad
- Global
- Lanzamiento
- 2023-06
Resumen
vLLM es un motor de inferencia y servicio de código abierto para grandes modelos de lenguaje, mantenido por el proyecto vLLM y desarrollado originalmente en UC Berkeley, cuya gestión de memoria PagedAttention sostiene su rendimiento. Es software que se instala y se ejecuta uno mismo, no un servicio alojado por un proveedor, e incluye un servidor de API compatible con OpenAI, con referencias de API y CLI en su documentación. No se encontró ningún cambio material en esta revisión. La principal limitación es el precio y la región: vLLM no publica ninguna lista de precios del proveedor, ya que es software de código abierto autoalojado cuyo coste es el hardware GPU en el que se ejecuta, y la cobertura regional no se indica en el registro.
Comparar esta herramienta Sugerir corrección
Funciones principales
- PagedAttention para una gestión eficiente de la memoria de caché KV
- Agrupación continua de peticiones de alto rendimiento
- Servidor API compatible con OpenAI listo para usar
- Amplio soporte de arquitecturas de modelos abiertos y cuantización
Casos de uso
- Servir LLM abiertos en producción con alto rendimiento
- Autohospedar un endpoint de inferencia compatible con OpenAI
- Comparar e investigar inferencia eficiente de LLM
Precios
vLLM es gratis y de código abierto bajo Apache-2.0; los costes se limitan a la infraestructura GPU en la que corre.
Detalles del registro
La procedencia, las fechas y los enlaces se guardan aquí para que las secciones principales hablen del producto.
Enlaces, fechas y procedencia
- Registro actualizado
- 2026-10-10
- Documentación
- docs.vllm.ai ↗
- Fundación
- 2023
- Sede
- US
Perfil de selección
Cada campo indica de dónde procede su valor. «Desconocido» significa que no lo hemos confirmado; no significa que el producto carezca de la función.
Perfil de selección11 campos4 desconocidos
- Tareas para las que sirve
- Ejecutar modelos propios
Derivado del registro: categoría «platforms».
Sugerir corrección - Forma de uso
- Servicio autoalojado
Proyecto de código abierto sin etiqueta que describa su forma de entrega; ejecútalo tú mismo.
Sugerir corrección - Plataformas
- Sin registrar
El registro no indica compatibilidad con ninguna plataforma.
Sugerir corrección - Dónde se ejecuta
- Sin registrar
Registro de código abierto sin señal de alojamiento; no se registra el destino de despliegue.
Sugerir corrección - Funciona sin conexión
- Sin registrar
El registro no contiene ninguna afirmación de funcionamiento sin conexión.
Sugerir corrección - Región de servicio oficial
- Global
Refleja el campo de disponibilidad ya presente en el registro («global»).
Sugerir corrección - API pública
- Sí
Encontrado en la página del proveedor: “itializing search GitHub Home User Guide Developer Guide Benchmarking API Reference CLI Reference Community vLLM GitHub Home User Guide User Guide Getting Started Getting”
Sugerir corrección - Licencia
- Apache-2.0
El endpoint de licencias del repositorio devuelve Apache-2.0.
Sugerir corrección - Uso comercial
- Permitido
La licencia registrada permite el uso comercial (las obligaciones de copyleft pueden seguir aplicándose).
Sugerir corrección - Idiomas de la interfaz
- Sin registrar
Ninguna página del proveedor consultada en esta pasada indica los idiomas de interfaz del propio producto; la clave existe para poder responder al campo más adelante en lugar de dejarlo ausente.
Sugerir corrección - Facturación
- Código abierto Gratis Cuota gratuita: Sí Requiere suscripción: No
Los precios son el precio de entrada anunciado por el proveedor y no incluyen impuestos; confírmalos en su página.
Sugerir corrección
De dónde viene cada valor
- Tareas para las que sirve
- Inferencia propia
- Forma de uso
- Inferencia propia
- Plataformas
- Inferencia propia
- Dónde se ejecuta
- Inferencia propia
- Funciona sin conexión
- Inferencia propia
- Región de servicio oficial
- Inferencia propia
- API pública
- Verificado 2026-10-09 docs.vllm.ai ↗
- Licencia
- Verificado 2026-10-10 github.com ↗
- Uso comercial
- Inferencia propia
- Idiomas de la interfaz
- Desconocido
Datos clave y su evidencia
Cada dato indica sus condiciones, la página de origen y la fecha de comprobación.
-
API: API pública documentada Verificado 2026-10-09 docs.vllm.ai ↗
Se aplica a: Según lo indicado en docs.vllm.ai el 2026-10-09
Coincidencia en la página del proveedor: “itializing search GitHub Home User Guide Developer Guide Benchmarking API Reference CLI Reference Community vLLM GitHub Home User Guide User Guide Getting Started Getting”
Sugerir corrección -
Licencia: Apache-2.0 Verificado 2026-10-10 github.com ↗
Sugerir corrección
Preguntas frecuentes
¿Para qué se usa vLLM?
vLLM sirve grandes modelos de lenguaje con alto rendimiento, exponiendo una API compatible con OpenAI para despliegues autohospedados.
¿Es vLLM gratis?
Sí. vLLM es de código abierto bajo Apache-2.0; solo pagas el hardware en el que lo ejecutas.
¿Qué es PagedAttention?
PagedAttention es la técnica de gestión de memoria de vLLM que pagina la caché KV, subiendo la utilización de GPU y el rendimiento.
¿Quién no debería elegir vLLM?
Los equipos que quieren un endpoint de API gestionado en lugar de ejecutarlo ellos mismos. vLLM es software de código abierto que se autoaloja bajo Apache-2.0, el registro no incluye lista de precios del proveedor y no hay servicio alojado registrado.
Productos similares
- LM Studio — Aplicación de escritorio para descubrir, descargar y ejecutar grandes modelos de lenguaje abiertos de forma local.
- Ollama — Herramienta de código abierto para ejecutar grandes modelos de lenguaje abiertos localmente en tu propia máquina con una sencilla interfaz de línea de comandos.
- Jan — App de escritorio de código abierto para ejecutar modelos de lenguaje abiertos localmente, como alternativa sin conexión a ChatGPT.
- Open WebUI — Interfaz de IA autoalojada y extensible que funciona sin conexión y se conecta a modelos locales o remotos como Ollama y APIs compatibles con OpenAI.
- Baseten — Plataforma para desplegar y servir modelos de aprendizaje automático como API escalables.
- Cerebras — Empresa de computación de IA cuya nube de inferencia sirve modelos de lenguaje abiertos en hardware a escala de oblea.
Todas las alternativas a vLLM → · Todos los productos de Plataformas e infraestructura →
Guías relacionadas
Fuentes
Este registro se revisó por última vez el 2026-10-10.
Registro legible por máquina: /api/products/vllm.json · ¿Detectaste un error? Sugerir una corrección