BentoML
相关：同样适合自行运行模型
将AI模型及自定义推理流水线封装为可部署服务的Python框架。
开放（开放权重/源码）
适用场景
- 向应用提供AI模型
- 生产推理端点部署
定价: 开源项目自托管与购买托管平台是两种选择。托管服务有独立套餐及用量限制，自托管仍需承担基础设施和模型提供商费用。
本记录最近复核于 2026-11-03。
平台与基础设施
NVIDIA Dynamo-Triton 替代品
NVIDIA Dynamo-Triton（NVIDIA）属于平台与基础设施，以下是 8 个可进一步比较的候选产品。
候选项来自现有指南的同组产品、已有对比关系，或同分类下的具体共同标签。这是候选清单，不是排名或实测结果。
DeepInfra
相关：同样适合自行运行模型
提供模型API、私有部署和GPU资源的推理云。
付费
适用场景
- 向应用提供AI模型
- 生产推理端点部署
定价: 价格取决于模型：部分语言模型按token计费，其他任务可能按执行时间计费。私有模型部署和GPU租用与共享推理API费率不同，不存在覆盖全部模型的统一月费。
本记录最近复核于 2026-11-03。
Novita AI
相关：同样适合自行运行模型
整合托管模型API、GPU基础设施与隔离智能体沙箱的AI云。
付费
适用场景
- 向应用提供AI模型
- 生产推理端点部署
定价: 模型API按具体模型的输入、输出及缓存token费率计量。GPU Cloud和Agent Sandbox有独立资源价格，应核对账户余额和所用产品费率，不能视为一个统一订阅。
本记录最近复核于 2026-11-03。
NVIDIA NIM
相关：同样适合自行运行模型
在NVIDIA基础设施部署预训练及定制模型的容器化推理微服务。
免费增值
适用场景
- 向应用提供AI模型
- 生产推理端点部署
定价: Developer Program提供NIM端点和容器供开发测试。生产安全更新与支持关联NVIDIA AI Enterprise或合作伙伴端点，GPU基础设施和各模型条款与原型访问分开。
本记录最近复核于 2026-11-03。
SambaCloud
相关：同样适合自行运行模型
SambaNova托管推理服务，现品牌为SambaCloud，支持OpenAI兼容请求。
免费增值
适用场景
- 向应用提供AI模型
- 生产推理端点部署
定价: SambaCloud区分开发者访问、生产按量及更大规模订阅方案。费率和速率限制随模型及方案变化，安装OpenAI兼容客户端并不附送API用量。
本记录最近复核于 2026-11-03。
Aleph Alpha
相关：同样适合自行运行模型
德国 AI 公司，为工业、公共部门与国防客户构建主权大语言模型与企业 AI 平台。
付费
适用场景
- 要求数据留在欧洲的公共部门与国防应用
- 工业、行政与科研领域的企业助手
- 围绕透明语言模型的研究合作
定价: Aleph Alpha 面向机构而非消费者销售，不公开标价；商业条款直接与企业及公共部门客户商定。
本记录最近复核于 2026-09-10。
Amazon Bedrock
相关：同样适合自行运行模型
AWS 的托管服务，可通过单一 API 使用来自多家提供商的基础模型构建应用。
付费
适用场景
- 在企业 AWS 环境内构建生成式 AI 应用
- 以知识库为专有数据实现 RAG
- 在同一 API 下比较与切换模型
定价: Bedrock 按用量计费，依据模型与 token 或吞吐量计算；无需预付费用。
本记录最近复核于 2026-10-09。
Amazon Nova
相关：同样适合自行运行模型
AWS 推出的亚马逊自研基础模型与服务组合，覆盖文本、多模态、语音、定制模型构建以及可自动化界面操作的智能体。
付费
适用场景
- 在 AWS 上做对成本敏感的聊天、摘要与多模态分析
- 用 Nova Forge 构建定制前沿模型
- 用 Nova Act 智能体自动化生产界面工作流
定价: Amazon Nova 通过 AWS 计费，通常经由 Amazon Bedrock，价格按用量计算，并因模型与服务而异。
本记录最近复核于 2026-09-04。