BentoML
来自 BentoML
概览
将AI模型及自定义推理流水线封装为可部署服务的Python框架。
infer developer-tools
- 许可证
- 未记录
- 分类
- 平台与基础设施
- 商业模式
- 开放（开放权重/源码）
- 可用性
- 未记录
- 发布
- 未记录
概述
典型用途包括向应用提供AI模型、生产推理端点部署。文档列明的能力包括：构建推理API及组合多个模型；将依赖和模型打包为可复现容器；自适应批处理及异步任务队列。
主要功能
- 构建推理API及组合多个模型
- 将依赖和模型打包为可复现容器
- 自适应批处理及异步任务队列
适用场景
- 向应用提供AI模型
- 生产推理端点部署
定价
开源项目自托管与购买托管平台是两种选择。托管服务有独立套餐及用量限制，自托管仍需承担基础设施和模型提供商费用。
档案信息
来源、日期与链接集中放在这里，正文只讲产品本身。
链接、日期与来源
- 记录更新
- 2026-11-03
选型档案
每个字段都标明取值依据。“未知”表示我们尚未核实，并不表示产品没有该能力。
选型档案11 个字段6 项未知
- 适合的任务
- 自行运行模型
依据所记录功能作出的编辑归类，非产品性能实测。
纠错 - 使用形态
- 库
依据所记录功能作出的编辑归类，非产品性能实测。
纠错 - 运行平台
- 未记录
本条目的来源核查尚未确认这一产品字段。
纠错 - 运行位置
- 自托管
依据所记录功能作出的编辑归类，非产品性能实测。
纠错 - 离线可用
- 未记录
本条目的来源核查尚未确认这一产品字段。
纠错 - 官方服务地区
- 未记录
本条目的来源核查尚未确认这一产品字段。
纠错 - 公开 API
- 是
依据所记录功能作出的编辑归类，非产品性能实测。
纠错 - 许可证
- 未记录
本条目的来源核查尚未确认这一产品字段。
纠错 - 商业使用
- 未记录
本条目的来源核查尚未确认这一产品字段。
纠错 - 界面语言
- 未记录
本条目的来源核查尚未确认这一产品字段。
纠错 - 计费
- 开源 企业报价 免费额度: 有 需要订阅: 否
价格为厂商公布的入门价，不含税；请以厂商页面为准。
纠错
各字段的证据来源
- 适合的任务
- 本站推断
- 使用形态
- 本站推断
- 运行平台
- 未知
- 运行位置
- 本站推断
- 离线可用
- 未知
- 官方服务地区
- 未知
- 公开 API
- 本站推断
- 许可证
- 未知
- 商业使用
- 未知
- 界面语言
- 未知
关键事实与证据
每条事实都列明适用条件、来源页面与核对日期。
-
能力: 构建推理API及组合多个模型 已核实 2026-11-03 docs.bentoml.com ↗
纠错
常见问题
BentoML适合工作流中的哪个环节？
将AI模型及自定义推理流水线封装为可部署服务的Python框架。 构建推理API及组合多个模型.
选择BentoML前应比较哪些费用和限制？
开源项目自托管与购买托管平台是两种选择。托管服务有独立套餐及用量限制，自托管仍需承担基础设施和模型提供商费用。
同类产品
- DeepInfra — 提供模型API、私有部署和GPU资源的推理云。
- Novita AI — 整合托管模型API、GPU基础设施与隔离智能体沙箱的AI云。
- NVIDIA Dynamo-Triton — 原Triton Inference Server，支持GPU和CPU部署的多框架推理服务器。
- NVIDIA NIM — 在NVIDIA基础设施部署预训练及定制模型的容器化推理微服务。
- SambaCloud — SambaNova托管推理服务，现品牌为SambaCloud，支持OpenAI兼容请求。
- Aleph Alpha — 德国 AI 公司，为工业、公共部门与国防客户构建主权大语言模型与企业 AI 平台。
来源
本记录最近复核于 2026-11-03。
机器可读记录：/api/products/bentoml.json · 发现错误？提交纠错