vLLM 대안

• Amazon Bedrock (Amazon Web Services) — 여러 공급자의 파운데이션 모델을 단일 API로 사용해 애플리케이션을 구축하는 AWS 관리형 서비스. 유료
• Azure AI Foundry (Microsoft) — Azure에서 AI 애플리케이션과 에이전트를 구축·평가·배포하는 Microsoft의 플랫폼. 유료
• Baseten (Baseten) — 머신러닝 모델을 확장 가능한 API로 배포·서빙하는 플랫폼. 유료
• Cerebras (Cerebras Systems) — 웨이퍼 스케일 하드웨어에서 오픈 언어 모델을 서빙하는 추론 클라우드를 갖춘 AI 컴퓨팅 기업. 프리미엄(부분 무료)
• Civitai (Civitai) — 오픈 이미지 생성 모델, LoRA, 생성 작품을 공유하고 발견하는 커뮤니티 플랫폼. 프리미엄(부분 무료)
• Dify (LangGenius) — 시각적 에이전트 워크플로, RAG 파이프라인, 모델 관리를 갖춘 LLM 애플리케이션 개발용 오픈 소스 플랫폼. 오픈(오픈 가중치/소스)
• Fal.ai (fal) — 빠른 API로 디퓨전 및 기타 모델을 실행하는 생성형 미디어 추론 플랫폼. 유료
• Fireworks AI (Fireworks AI) — 오픈 소스 생성형 AI 모델을 빠르게 서빙하고 파인튜닝하는 추론 플랫폼. 유료
• Groq (Groq) — 맞춤형 LPU 하드웨어로 오픈 언어 모델을 매우 낮은 지연으로 서빙하는 AI 추론 플랫폼. 프리미엄(부분 무료)
• Hugging Face (Hugging Face, Inc.) — 머신러닝 모델, 데이터셋, 데모 앱을 호스팅하며 오픈 소스 AI를 중심으로 하는 플랫폼. 프리미엄(부분 무료)
• Jan (Menlo Research) — 오픈 언어 모델을 로컬에서 실행하는 오픈 소스 데스크톱 앱으로, 오프라인 ChatGPT 대안으로 쓸 수 있다. 오픈(오픈 가중치/소스)
• LM Studio (LM Studio) — 오픈 대규모 언어 모델을 검색·다운로드하고 로컬에서 실행하는 데스크톱 애플리케이션. 무료
• Modal (Modal Labs) — 사용량 기반 과금으로 AI 및 데이터 워크로드를 실행하는 서버리스 클라우드 플랫폼. 프리미엄(부분 무료)
• Ollama (Ollama) — 간단한 명령줄 인터페이스로 자신의 컴퓨터에서 오픈 대규모 언어 모델을 로컬 실행하는 오픈 소스 도구. 오픈(오픈 가중치/소스)
• Open WebUI (Open WebUI) — 오프라인으로 실행되며 Ollama 및 OpenAI 호환 API 등 로컬·원격 모델에 연결되는 확장 가능한 자체 호스팅 AI 인터페이스. 오픈(오픈 가중치/소스)
• OpenRouter (OpenRouter) — 여러 공급자의 수백 개 대규모 언어 모델로 요청을 라우팅하는 통합 API 게이트웨이. 유료
• Pinecone (Pinecone) — AI 애플리케이션의 유사도 검색과 검색 증강을 위한 관리형 벡터 데이터베이스. 프리미엄(부분 무료)
• Poe (Quora) — 단일 인터페이스로 여러 AI 챗봇과 모델에 접근할 수 있게 하는 Quora의 플랫폼. 프리미엄(부분 무료)
• Replicate (Replicate) — 호스팅형 API로 오픈 소스 머신러닝 모델을 실행·배포하는 플랫폼. 유료
• Together AI (Together AI) — 서버리스 및 전용 엔드포인트로 오픈 소스 AI 모델을 실행·파인튜닝·호스팅하는 클라우드 플랫폼. 유료
• Vertex AI (Google) — 머신러닝 및 생성형 AI 모델을 학습·튜닝·서빙하는 Google Cloud의 플랫폼. 유료
• Weaviate (Weaviate) — 시맨틱 검색, 검색 증강 생성, 하이브리드 검색을 위한 오픈 소스 벡터 데이터베이스. 오픈(오픈 가중치/소스)

vLLM 전체 프로필 → · 플랫폼 및 인프라 제품 모두 보기 →