vLLM
提供: vLLM Project
概要
大規模言語モデル向けのオープンソース推論・サービングエンジン。高スループットの PagedAttention で知られる。
open-source inference serving llm
- ライセンス
- Apache-2.0
- カテゴリ
- プラットフォームとインフラ
- ビジネスモデル
- オープン（オープンウェイト/ソース）
- 提供状況
- グローバル
- 公開
- 2023-06
概要
vLLM は大規模言語モデル向けのオープンソース推論・サービングエンジンで、vLLM Project が維持し、もともとは UC Berkeley で開発されました。その PagedAttention メモリ管理がスループットの土台になっています。ベンダーがホストするサービスではなく、自分でインストールして動かすソフトウェアで、OpenAI 互換の API サーバーを備え、ドキュメントには API と CLI のリファレンスもあります。今回のレビューでは実質的な変更は見つかりませんでした。主な制約は価格と地域です。vLLM はベンダーの価格表を公開しておらず、自社ホスト型のオープンソースソフトウェアでコストは動かす GPU ハードウェアそのものだからです。また記録には地域対応も記載されていません。
主な機能
- 効率的な KV キャッシュメモリ管理のための PagedAttention
- 高いスループットの連続バッチ処理
- すぐに使える OpenAI 互換 API サーバー
- オープンモデル構成と量子化の広い対応
ユースケース
- 高いスループットで本番のオープン LLM を提供する
- OpenAI 互換の推論エンドポイントをセルフホストする
- 効率的な LLM 推論の比較と研究
料金
vLLM は Apache-2.0 の無料オープンソースです。費用は動かす GPU インフラに限られます。
レコードの詳細
出典・日付・リンクはここにまとめ、本文は製品そのものに絞っています。
リンク・日付・出典
- レコード更新
- 2026-10-10
- ドキュメント
- docs.vllm.ai ↗
- 設立
- 2023
- 本社所在地
- US
選定プロファイル
各項目には値の根拠を表示します。「不明」は未確認という意味で、機能がないという意味ではありません。
選定プロファイル11 項目未確認 4 件
- 向くタスク
- モデルを自分で動かす
レコードから導出：カテゴリ「platforms」。
訂正を提案 - 利用形態
- セルフホスト
提供形態を示すタグがないオープンソース プロジェクトで、自分で実行する必要があります。
訂正を提案 - 対応プラットフォーム
- 未記録
レコードには対応プラットフォームの記載がありません。
訂正を提案 - 実行場所
- 未記録
ホスティングを示す手がかりがないオープンソースのレコードで、デプロイ先は記録されていません。
訂正を提案 - オフライン動作
- 未記録
レコードにはオフライン動作の主張が含まれていません。
訂正を提案 - 公式サービス地域
- グローバル
レコードに既にある可用性フィールド（「global」）と一致します。
訂正を提案 - 公開API
- はい
ベンダーのページで一致：“itializing search GitHub Home User Guide Developer Guide Benchmarking API Reference CLI Reference Community vLLM GitHub Home User Guide User Guide Getting Started Getting”
訂正を提案 - ライセンス
- Apache-2.0
リポジトリのライセンス エンドポイントは Apache-2.0 を返します。
訂正を提案 - 商用利用
- 許可
記録されたライセンスは商用利用を認めています（copyleft の義務がなお適用される場合があります）。
訂正を提案 - UI言語
- 未記録
今回のパスで参照したどのベンダー ページにも、製品自身の UI 言語は記載されていません。このキーは、フィールドを空にするのではなく後で回答できるようにするために存在します。
訂正を提案 - 課金
- オープンソース 無料 無料枠: あり サブスク必須: いいえ
価格はベンダー公表の最安値で税抜きです。必ず公式ページで確認してください。
訂正を提案
各値の根拠
- 向くタスク
- 当サイトの推測
- 利用形態
- 当サイトの推測
- 対応プラットフォーム
- 当サイトの推測
- 実行場所
- 当サイトの推測
- オフライン動作
- 当サイトの推測
- 公式サービス地域
- 当サイトの推測
- 公開API
- 確認済み 2026-10-09 docs.vllm.ai ↗
- ライセンス
- 確認済み 2026-10-10 github.com ↗
- 商用利用
- 当サイトの推測
- UI言語
- 不明
主要な事実と根拠
各事実には適用条件・出典ページ・確認日を記載します。
-
API: 公開APIを記載 確認済み 2026-10-09 docs.vllm.ai ↗
適用条件: docs.vllm.ai の 2026-10-09 時点の記載による
ベンダーのページで一致: “itializing search GitHub Home User Guide Developer Guide Benchmarking API Reference CLI Reference Community vLLM GitHub Home User Guide User Guide Getting Started Getting”
訂正を提案 -
ライセンス: Apache-2.0 確認済み 2026-10-10 github.com ↗
訂正を提案
よくある質問
vLLM は何に使いますか？
vLLM は高いスループットで大規模言語モデルを提供し、セルフホスト配備向けに OpenAI 互換 API を公開します。
vLLM は無料ですか？
はい。vLLM は Apache-2.0 のオープンソースです。動かすハードウェアにだけ支払います。
PagedAttention とは何ですか？
PagedAttention は KV キャッシュをページングする vLLM のメモリ管理手法で、GPU 利用率とスループットを上げます。
vLLM を選ぶべきでないのはどのような人ですか？
自分で動かすのではなくマネージドな API エンドポイントを求めるチームです。vLLM は Apache-2.0 で自社ホストするオープンソースソフトウェアで、記録にはベンダーの価格表もホスト型サービスもありません。
類似製品
- LM Studio — オープンな大規模言語モデルを発見・ダウンロードし、ローカルで実行できるデスクトップアプリ。
- Ollama — シンプルなコマンドラインインターフェースで、オープンな大規模言語モデルを自分のマシン上でローカルに実行できるオープンソースツール。
- Jan — オープンな言語モデルをローカルで実行し、オフラインの ChatGPT 代替として使えるオープンソースのデスクトップアプリ。
- Open WebUI — オフラインで動作し、Ollama や OpenAI 互換APIなどのローカル・リモートモデルに接続できる、拡張可能なセルフホスト型AIインターフェース。
- Baseten — 機械学習モデルをスケーラブルな API としてデプロイ・提供するプラットフォーム。
- Cerebras — ウエハースケールのハードウェア上でオープンな言語モデルを提供する推論クラウドを持つAIコンピューティング企業。
関連するガイド
出典
このレコードは 2026-10-10 に最終確認されました。
機械可読レコード: /api/products/vllm.json · 誤りを見つけましたか？ 修正を提案