플랫폼 및 인프라
플랫폼 및 인프라 제품 vLLM(vLLM Project)와 비교할 후보 8개를 살펴보세요.
후보는 기존 가이드의 같은 그룹, 비교 관계 또는 같은 카테고리의 구체적인 공통 태그로 선정합니다. 순위나 실측 결과가 아닙니다.
편집 제안 · 검증된 사실 인용
오픈 대규모 언어 모델을 검색·다운로드하고 로컬에서 실행하는 데스크톱 애플리케이션.
프리미엄(부분 무료)
가격: 2026-11-02 확인: Free는 로컬 모델과 Bionic Agent를 포함합니다. Bionic+는 월 20달러, Pro는 100달러이며 선택적 클라우드 사용량을 제공합니다. 한도 초과에는 클라우드 크레딧을 사용합니다. 개인 유료 플랜은 이미 제공되며 출시 예정이라는 문구는 팀 구독을 말합니다.
이 레코드는 2026-11-02에 마지막으로 검토되었습니다.
편집 제안 · 검증된 사실 인용
간단한 명령줄 인터페이스로 자신의 컴퓨터에서 오픈 대규모 언어 모델을 로컬 실행하는 오픈 소스 도구.
오픈(오픈 가중치/소스) MIT
가격: Ollama는 무료이며 오픈 소스입니다. 선택적인 호스팅 서비스는 별도로 제공됩니다.
이 레코드는 2026-10-10에 마지막으로 검토되었습니다.
가이드 “AI 플랫폼과 인프라”에 함께 수록
오픈 언어 모델을 로컬에서 실행하는 오픈 소스 데스크톱 앱으로, 오프라인 ChatGPT 대안으로 쓸 수 있다.
오픈(오픈 가중치/소스) Apache-2.0(main 브랜치, 확인한 태그: v0.5.18-rc1-beta와 v0.6.0은 Apache-2.0, v0.5.16과 v0.5.17은 AGPL-3.0, 나머지 버전은 개별 확인하지 않음)
가격: Jan은 무료 오픈소스입니다. 클라우드 모델을 연결하면 선택적으로 제3자 제공자에게 지불합니다.
이 레코드는 2026-10-13에 마지막으로 검토되었습니다.
가이드 “AI 플랫폼과 인프라”에 함께 수록
오프라인으로 실행되며 Ollama 및 OpenAI 호환 API 등 로컬·원격 모델에 연결되는 확장 가능한 자체 호스팅 AI 인터페이스.
오픈(오픈 가중치/소스) BSD-3-Clause
가격: Open WebUI는 셀프호스트가 무료인 오픈소스입니다. 엔터프라이즈 플랜은 유료로 커스텀 테마, SLA, 지원을 더합니다.
이 레코드는 2026-10-10에 마지막으로 검토되었습니다.
관련: 직접 모델 운영 공통
머신러닝 모델을 확장 가능한 API로 배포·서빙하는 플랫폼.
유료
가격: 전용 GPU는 분 단위로 과금되고 유휴 시간은 청구되지 않습니다. 모델 API는 백만 토큰 단위로 과금되며 신규 계정에는 크레딧이 제공됩니다.
이 레코드는 2026-10-09에 마지막으로 검토되었습니다.
관련: 직접 모델 운영 공통
웨이퍼 스케일 하드웨어에서 오픈 언어 모델을 서빙하는 추론 클라우드를 갖춘 AI 컴퓨팅 기업.
프리미엄(부분 무료)
가격: 추론은 토큰 단위로 과금되며 무료 체험으로 시작합니다. 훈련 시스템과 온프레미스 배포는 별도로 판매됩니다.
이 레코드는 2026-10-09에 마지막으로 검토되었습니다.
관련: 직접 모델 운영 공통
빠른 API로 디퓨전 및 기타 모델을 실행하는 생성형 미디어 추론 플랫폼.
유료
가격: 요금은 추론 또는 컴퓨팅 초당 사용량 기준입니다. 신규 개발자는 무료 크레딧을 받습니다.
이 레코드는 2026-10-09에 마지막으로 검토되었습니다.
관련: 직접 모델 운영 공통
오픈 소스 생성형 AI 모델을 빠르게 서빙하고 파인튜닝하는 추론 플랫폼.
유료
가격: 토큰 또는 볼륨에 따라 사용량 기반으로 과금되며, 신규 사용자에게 무료 크레딧이 제공되고 전용 용량은 별도 견적입니다.
이 레코드는 2026-09-10에 마지막으로 검토되었습니다.
편집 제안 · 검증된 사실 인용
선택 조건: 다수 동시 요청을 위한 서빙 스택이 아니라, 한 대에서 모델을 시험하는 가장 단순한 로컬 구성을 원하는 경우.
바뀌는 점: 런타임을 설치하고 모델을 내려받습니다. 서빙 구성은 이식되지 않습니다.
포기하는 것: vLLM이 기반으로 삼는 처리량 중심 서버 구성을 포기하게 됩니다.
근거: 확인됨 2026-10-09 Ollama — windows, macos, linux 적용 조건: docs.ollama.com의 2026-10-09 기준 기재에 따름 docs.ollama.com ↗
편집 제안 · 검증된 사실 인용
선택 조건: 목표가 프로덕션 엔드포인트가 아니라 데스크톱 실험인 경우.
바뀌는 점: 서버를 실행하는 대신 데스크톱 앱으로 모델을 내려받습니다.
포기하는 것: 데스크톱 서빙은 튜닝된 다중 사용자 추론 서버를 대체하지 못합니다.
근거: 확인됨 2026-11-02 LM Studio — 공개 API 문서화됨 lmstudio.ai ↗