vLLM
par vLLM Project
En bref
Moteur d'inférence et de service open source pour grands modèles de langue, connu pour son PagedAttention à haut débit.
open-source inference serving llm
- Licence
- Apache-2.0
- Catégorie
- Plateformes et infrastructure
- Modèle économique
- Ouvert (poids/source ouverts)
- Disponibilité
- Mondial
- Lancement
- 2023-06
Aperçu
vLLM est un moteur d'inférence et de service open source pour les grands modèles de langage, maintenu par le projet vLLM et développé à l'origine à UC Berkeley, dont la gestion mémoire PagedAttention soutient le débit. C'est un logiciel que l'on installe et exécute soi-même, et non un service hébergé par un éditeur ; il fournit un serveur d'API compatible OpenAI, avec des références API et CLI dans sa documentation. Aucun changement substantiel n'a été trouvé lors de cette revue. La principale limite concerne le prix et la région : vLLM ne publie aucune grille tarifaire, car c'est un logiciel open source auto-hébergé dont le coût est le matériel GPU utilisé, et la couverture régionale n'est pas indiquée dans le dossier.
Comparer cet outil Proposer une correction
Fonctionnalités clés
- PagedAttention pour une gestion efficace de la mémoire du cache KV
- Regroupement continu de requêtes à haut débit
- Serveur API compatible OpenAI prêt à l'emploi
- Large prise en charge des architectures de modèles ouverts et de la quantification
Cas d'usage
- Servir des LLM ouverts en production à haut débit
- Auto-héberger un point de terminaison d'inférence compatible OpenAI
- Comparer et rechercher une inférence LLM efficace
Tarifs
vLLM est gratuit et open source sous Apache-2.0 ; les coûts se limitent à l'infrastructure GPU sur laquelle il tourne.
Détails de la fiche
La provenance, les dates et les liens sont réunis ici afin que les sections principales portent sur le produit.
Liens, dates et provenance
- Enregistrement mis à jour
- 2026-10-10
- Documentation
- docs.vllm.ai ↗
- Création
- 2023
- Siège
- US
- URL canonique
- https://globalaiproductindex.com/fr/products/vllm/
Profil de sélection
Chaque champ indique l’origine de sa valeur. « Inconnu » signifie que nous ne l’avons pas confirmée — pas que le produit n’offre pas la fonction.
Profil de sélection11 champs4 inconnus
- Tâches adaptées
- Héberger des modèles
Déduit de la fiche : catégorie « platforms ».
Proposer une correction - Forme d’usage
- Service auto-hébergé
Projet open source sans étiquette décrivant son mode de fourniture ; à exécuter soi-même.
Proposer une correction - Plateformes
- Non renseigné
Aucune prise en charge de plateforme n'est indiquée dans la fiche.
Proposer une correction - Où cela s’exécute
- Non renseigné
Fiche open source sans signal d'hébergement ; cible de déploiement non consignée.
Proposer une correction - Fonctionne hors ligne
- Non renseigné
La fiche ne contient aucune affirmation de fonctionnement hors ligne.
Proposer une correction - Région de service officielle
- Mondial
Reprend le champ de disponibilité déjà présent dans la fiche (« global »).
Proposer une correction - API publique
- Oui
Correspondance sur la page du fournisseur : “itializing search GitHub Home User Guide Developer Guide Benchmarking API Reference CLI Reference Community vLLM GitHub Home User Guide User Guide Getting Started Getting”
Proposer une correction - Licence
- Apache-2.0
L'endpoint de licences du dépôt renvoie Apache-2.0.
Proposer une correction - Usage commercial
- Autorisé
La licence consignée autorise l'usage commercial (des obligations copyleft peuvent encore s'appliquer).
Proposer une correction - Langues de l’interface
- Non renseigné
Aucune page du fournisseur consultée lors de cette passe n'indique les langues d'interface du produit lui-même ; la clé existe pour que le champ puisse être renseigné plus tard plutôt que laissé absent.
Proposer une correction - Facturation
- Open source Gratuit Offre gratuite: Oui Abonnement requis: Non
Les prix sont le tarif d’entrée annoncé par l’éditeur, hors taxes ; vérifiez sur sa page.
Proposer une correction
Origine de chaque valeur
- Tâches adaptées
- Inférence interne
- Forme d’usage
- Inférence interne
- Plateformes
- Inférence interne
- Où cela s’exécute
- Inférence interne
- Fonctionne hors ligne
- Inférence interne
- Région de service officielle
- Inférence interne
- API publique
- Vérifié le 2026-10-09 docs.vllm.ai ↗
- Licence
- Vérifié le 2026-10-10 github.com ↗
- Usage commercial
- Inférence interne
- Langues de l’interface
- Inconnu
Faits clés et preuves
Chaque fait précise ses conditions, la page source et la date de vérification.
-
API: API publique documentée Vérifié le 2026-10-09 docs.vllm.ai ↗
S’applique à: Comme indiqué sur docs.vllm.ai le 2026-10-09
Correspondance sur la page de l'éditeur: “itializing search GitHub Home User Guide Developer Guide Benchmarking API Reference CLI Reference Community vLLM GitHub Home User Guide User Guide Getting Started Getting”
Proposer une correction -
Licence: Apache-2.0 Vérifié le 2026-10-10 github.com ↗
Proposer une correction
Questions fréquentes
À quoi sert vLLM ?
vLLM sert de grands modèles de langage à haut débit, en exposant une API compatible OpenAI pour des déploiements auto-hébergés.
vLLM est-il gratuit ?
Oui. vLLM est open source sous Apache-2.0 ; vous ne payez que le matériel sur lequel vous l'exécutez.
Qu'est-ce que PagedAttention ?
PagedAttention est la technique de gestion mémoire de vLLM qui pagine le cache KV, relevant l'utilisation GPU et le débit.
Qui ne devrait pas choisir vLLM ?
Les équipes qui veulent un point de terminaison d'API géré plutôt que de l'exécuter elles-mêmes. vLLM est un logiciel open source que l'on auto-héberge sous Apache-2.0, le dossier ne contient aucune grille tarifaire et aucun service hébergé n'est mentionné.
Produits similaires
- LM Studio — Application de bureau pour découvrir, télécharger et exécuter localement des grands modèles de langage ouverts.
- Ollama — Outil open source pour exécuter localement des grands modèles de langage ouverts sur votre propre machine via une interface en ligne de commande simple.
- Jan — Application de bureau open source pour exécuter localement des modèles de langue ouverts, en alternative hors ligne à ChatGPT.
- Open WebUI — Interface IA auto-hébergée et extensible, fonctionnant hors ligne et se connectant à des modèles locaux ou distants comme Ollama et les API compatibles OpenAI.
- Baseten — Plateforme pour déployer et servir des modèles d'apprentissage automatique sous forme d'API évolutives.
- Cerebras — Entreprise de calcul IA dont le cloud d'inférence sert des modèles de langage ouverts sur du matériel à l'échelle du wafer.
Toutes les alternatives à vLLM → · Tous les produits Plateformes et infrastructure →
Guides associés
Sources
Cet enregistrement a été vérifié pour la dernière fois le 2026-10-10.
Enregistrement lisible par machine : /api/products/vllm.json · Une erreur ? Suggérer une correction