vLLM 替代品

• Amazon Bedrock (Amazon Web Services) — AWS 的托管服务，可通过单一 API 使用来自多家提供商的基础模型构建应用。 付费
• Azure AI Foundry (Microsoft) — 微软的平台，可在 Azure 上构建、评估并部署 AI 应用与智能体。 付费
• Baseten (Baseten) — 将机器学习模型部署并作为可扩展 API 提供服务的平台。 付费
• Cerebras (Cerebras Systems) — AI 算力公司，其推理云基于晶圆级硬件托管开放语言模型。 免费增值
• Civitai (Civitai) — 用于分享与发现开放图像生成模型、LoRA 与生成作品的社区平台。 免费增值
• Dify (LangGenius) — 开源的 LLM 应用开发平台，提供可视化智能体工作流、RAG 流水线与模型管理。 开放（开放权重/源码）
• Fal.ai (fal) — 生成式媒体推理平台，可通过高速 API 运行扩散模型等各类模型。 付费
• Fireworks AI (Fireworks AI) — 推理平台，可快速托管并微调开源生成式 AI 模型。 付费
• Groq (Groq) — 由自研 LPU 硬件驱动的 AI 推理平台，可以极低延迟托管开放语言模型。 免费增值
• Hugging Face (Hugging Face, Inc.) — 托管机器学习模型、数据集与演示应用的平台，以开源 AI 为核心。 免费增值
• Jan (Menlo Research) — 在本地运行开放语言模型的开源桌面应用，可作为离线的 ChatGPT 替代品。 开放（开放权重/源码）
• LM Studio (LM Studio) — 桌面应用程序，可发现、下载并在本地运行开放的大语言模型。 免费
• Modal (Modal Labs) — 以按量计费方式运行 AI 与数据工作负载的无服务器云平台。 免费增值
• Ollama (Ollama) — 开源工具，可通过简单的命令行界面在本机运行开放的大语言模型。 开放（开放权重/源码）
• Open WebUI (Open WebUI) — 可扩展的自托管 AI 界面，支持离线运行，并可连接 Ollama 及兼容 OpenAI 的本地或远程模型。 开放（开放权重/源码）
• OpenRouter (OpenRouter) — 统一的 API 网关，可将请求路由到来自众多提供商的数百个大语言模型。 付费
• Pinecone (Pinecone) — 面向 AI 应用中相似度搜索与检索的托管向量数据库。 免费增值
• Poe (Quora) — Quora 推出的平台，通过单一界面访问多种 AI 聊天机器人与模型。 免费增值
• Replicate (Replicate) — 用于通过托管 API 运行和部署开源机器学习模型的平台。 付费
• Together AI (Together AI) — 用于运行、微调与托管开源 AI 模型的云平台，提供无服务器与专用端点。 付费
• Vertex AI (Google) — Google Cloud 的平台，可训练、调优并托管机器学习与生成式 AI 模型。 付费
• Weaviate (Weaviate) — 用于语义搜索、检索增强生成与混合搜索的开源向量数据库。 开放（开放权重/源码）

查看 vLLM 完整档案 → · 查看全部平台与基础设施产品 →