vLLM

Name: vLLM
Availability: InStock
Author: vLLM Project

제공: vLLM Project

플랫폼 및 인프라 오픈(오픈 가중치/소스) 이용 가능성: 글로벌 출시 2023-06

대규모 언어 모델을 위한 오픈 소스 추론·서빙 엔진으로, 높은 처리량의 PagedAttention으로 알려져 있다.

open-source inference serving llm

라이선스: Apache-2.0
카테고리: 플랫폼 및 인프라
비즈니스 모델: 오픈(오픈 가중치/소스)
이용 가능성: 글로벌
출시: 2023-06

개요

vLLM은 대규모 언어 모델을 위한 오픈소스 추론·서빙 엔진으로, vLLM Project가 유지하며 원래 UC Berkeley에서 개발되었고, 그 PagedAttention 메모리 관리가 처리량의 토대입니다. 벤더가 호스팅하는 서비스가 아니라 직접 설치해 실행하는 소프트웨어이며, OpenAI 호환 API 서버를 갖추고 있고 문서에 API와 CLI 레퍼런스도 있습니다. 이번 검토에서는 실질적인 변경이 발견되지 않았습니다. 주요 한계는 가격과 지역입니다. vLLM은 벤더 가격표를 공개하지 않는데, 자체 호스팅 오픈소스 소프트웨어라 비용이 곧 실행하는 GPU 하드웨어이기 때문이며, 기록에는 지역 지원도 명시되어 있지 않습니다.

이 도구 비교 수정 제안

주요 기능

효율적인 KV 캐시 메모리 관리를 위한 PagedAttention
높은 처리량의 연속 배치 요청
바로 쓸 수 있는 OpenAI 호환 API 서버
오픈 모델 구조와 양자화의 넓은 지원

활용 사례

높은 처리량으로 프로덕션에서 오픈 LLM 제공
OpenAI 호환 추론 엔드포인트 셀프호스트
효율적인 LLM 추론의 벤치마크와 연구

가격

vLLM은 Apache-2.0의 무료 오픈소스입니다. 비용은 돌아가는 GPU 인프라에 한정됩니다.

레코드 정보

출처·날짜·링크는 여기에 모아 두고 본문은 제품 자체에 집중합니다.

링크, 날짜, 출처

레코드 업데이트: 2026-10-10
문서: docs.vllm.ai ↗
설립: 2023
본사: US
표준 URL: https://globalaiproductindex.com/ko/products/vllm/

선택 프로필

각 항목은 값의 근거를 표시합니다. “알 수 없음”은 확인하지 못했다는 뜻이며, 기능이 없다는 뜻이 아닙니다.

선택 프로필11개 항목미확인 4개

적합한 작업: 직접 모델 운영
레코드에서 도출: 카테고리 “platforms”.
수정 제안
사용 형태: 자가 호스팅 서비스
제공 형태를 설명하는 태그가 없는 오픈소스 프로젝트로, 직접 실행해야 합니다.
수정 제안
실행 플랫폼: 기록 없음
레코드에 플랫폼 지원이 명시되어 있지 않습니다.
수정 제안
실행 위치: 기록 없음
호스팅 신호가 없는 오픈소스 레코드이며, 배포 대상은 기록되어 있지 않습니다.
수정 제안
오프라인 사용: 기록 없음
레코드에는 오프라인 작동에 관한 주장이 없습니다.
수정 제안
공식 서비스 지역: 글로벌
레코드에 이미 있는 가용성 필드(“global”)와 일치합니다.
수정 제안
공개 API: 예
벤더의 페이지에서 일치: “itializing search GitHub Home User Guide Developer Guide Benchmarking API Reference CLI Reference Community vLLM GitHub Home User Guide User Guide Getting Started Getting”
수정 제안
라이선스: Apache-2.0
저장소 라이선스 엔드포인트가 Apache-2.0을 반환합니다.
수정 제안
상업적 사용: 허용
기록된 라이선스는 상업적 사용을 허용합니다(카피레프트 의무가 여전히 적용될 수 있음).
수정 제안
인터페이스 언어: 기록 없음
이번 확인에서 읽은 어떤 벤더 페이지에도 제품 자체의 인터페이스 언어가 명시되어 있지 않습니다. 이 키는 필드를 비워 두지 않고 나중에 답할 수 있도록 존재합니다.
수정 제안
요금: 오픈소스 무료 무료 제공량: 있음 구독 필요: 아니요
가격은 공급자가 공개한 최저가이며 세금은 별도입니다. 공식 페이지에서 확인하세요.
수정 제안

각 값의 근거

적합한 작업: 자체 추론
사용 형태: 자체 추론
실행 플랫폼: 자체 추론
실행 위치: 자체 추론
오프라인 사용: 자체 추론
공식 서비스 지역: 자체 추론
공개 API: 확인됨 2026-10-09 docs.vllm.ai ↗
라이선스: 확인됨 2026-10-10 github.com ↗
상업적 사용: 자체 추론
인터페이스 언어: 알 수 없음

핵심 사실과 근거

각 사실에는 적용 조건, 출처 페이지, 확인 날짜가 표시됩니다.

API: 공개 API 문서화됨 확인됨 2026-10-09 docs.vllm.ai ↗

적용 조건: docs.vllm.ai의 2026-10-09 기준 기재에 따름
공급업체 페이지에서 일치: “itializing search GitHub Home User Guide Developer Guide Benchmarking API Reference CLI Reference Community vLLM GitHub Home User Guide User Guide Getting Started Getting”
수정 제안
라이선스: Apache-2.0 확인됨 2026-10-10 github.com ↗
수정 제안

자주 묻는 질문

vLLM은 무엇에 쓰나요?

vLLM은 높은 처리량으로 대규모 언어 모델을 서빙하며, 셀프호스트 배포용 OpenAI 호환 API를 노출합니다.

vLLM은 무료인가요?

네. vLLM은 Apache-2.0 오픈소스입니다. 실행하는 하드웨어에만 지불합니다.

PagedAttention이란 무엇인가요?

PagedAttention은 KV 캐시를 페이지하는 vLLM의 메모리 관리 기법으로, GPU 사용률과 처리량을 올립니다.

vLLM을 선택하지 말아야 할 사람은 누구인가요?

직접 실행하는 대신 관리형 API 엔드포인트를 원하는 팀입니다. vLLM은 Apache-2.0으로 자체 호스팅하는 오픈소스 소프트웨어이며, 기록에는 벤더 가격표도 호스팅 서비스도 없습니다.

유사 제품

LM Studio — 오픈 대규모 언어 모델을 검색·다운로드하고 로컬에서 실행하는 데스크톱 애플리케이션.
Ollama — 간단한 명령줄 인터페이스로 자신의 컴퓨터에서 오픈 대규모 언어 모델을 로컬 실행하는 오픈 소스 도구.
Jan — 오픈 언어 모델을 로컬에서 실행하는 오픈 소스 데스크톱 앱으로, 오프라인 ChatGPT 대안으로 쓸 수 있다.
Open WebUI — 오프라인으로 실행되며 Ollama 및 OpenAI 호환 API 등 로컬·원격 모델에 연결되는 확장 가능한 자체 호스팅 AI 인터페이스.
Baseten — 머신러닝 모델을 확장 가능한 API로 배포·서빙하는 플랫폼.
Cerebras — 웨이퍼 스케일 하드웨어에서 오픈 언어 모델을 서빙하는 추론 클라우드를 갖춘 AI 컴퓨팅 기업.

vLLM 대안 모두 보기 → · 플랫폼 및 인프라 제품 모두 보기 →

출처

이 레코드는 2026-10-10에 마지막으로 검토되었습니다.

기계 판독용 레코드: /api/products/vllm.json · 오류를 발견하셨나요? 수정 제안

한눈에 보기

개요