Baseten

概述

Baseten 是一个面向机器学习模型部署与推理的平台，可将开源与自定义模型作为可扩展的生产 API 提供服务。它使用开源的 Truss 打包框架，处理自动扩缩容、GPU 编排与监控。计费按算力用量，新用户可获免费额度。

主要功能

• 面向开源与自定义模型的生产级推理
• 使用开源 Truss 框架打包模型
• 自动扩缩容与 GPU 编排
• 面向部署模型的监控与可观测性

适用场景

• 将自定义模型作为生产 API 部署
• 无需管理 GPU 即可扩展推理
• 为应用提供开源模型服务

定价

计费按算力用量，依据模型与硬件而定；新用户可获免费额度。

常见问题

Baseten 是什么？

Baseten 是一个平台，可将机器学习模型部署并作为可扩展的生产 API 提供服务。

Truss 是什么？

Truss 是 Baseten 的开源模型打包框架，用于标准化地部署模型。

Baseten 如何计费？

Baseten 按算力用量计费，依据模型与硬件而定，并附有新用户免费额度。

同类产品

• Amazon Bedrock — AWS 的托管服务，可通过单一 API 使用来自多家提供商的基础模型构建应用。
• Amazon Nova — AWS 推出的亚马逊自研基础模型与服务组合，覆盖文本、多模态、语音、定制模型构建以及可自动化界面操作的智能体。
• Azure AI Foundry — 微软的平台，可在 Azure 上构建、评估并部署 AI 应用与智能体。
• Cerebras — AI 算力公司，其推理云基于晶圆级硬件托管开放语言模型。
• Civitai — 用于分享与发现开放图像生成模型、LoRA 与生成作品的社区平台。
• Dify — 开源的 LLM 应用开发平台，提供可视化智能体工作流、RAG 流水线与模型管理。

查看Baseten的全部替代品 → · 查看全部平台与基础设施产品 →

来源

• Official website ↗
• Documentation ↗

本记录最近复核于 2026-07-29。

机器可读记录：/api/products/baseten.json · 发现错误？提交纠错