NVIDIA Dynamo-Triton
来自 NVIDIA
概览
原Triton Inference Server，支持GPU和CPU部署的多框架推理服务器。
infer developer-tools
- 许可证
- 未记录
- 分类
- 平台与基础设施
- 商业模式
- 开放（开放权重/源码）
- 可用性
- 未记录
- 发布
- 未记录
概述
典型用途包括向应用提供AI模型、生产推理端点部署。文档列明的能力包括：提供TensorRT、PyTorch、ONNX等后端模型服务；动态批处理及并发模型执行；带监控的HTTP和gRPC推理端点。
主要功能
- 提供TensorRT、PyTorch、ONNX等后端模型服务
- 动态批处理及并发模型执行
- 带监控的HTTP和gRPC推理端点
适用场景
- 向应用提供AI模型
- 生产推理端点部署
定价
开源软件可在自己的基础设施运行。计算、存储和外部模型API用量另计，不包含托管服务。
档案信息
来源、日期与链接集中放在这里，正文只讲产品本身。
链接、日期与来源
- 记录更新
- 2026-11-03
选型档案
每个字段都标明取值依据。“未知”表示我们尚未核实，并不表示产品没有该能力。
选型档案11 个字段6 项未知
- 适合的任务
- 自行运行模型
依据所记录功能作出的编辑归类，非产品性能实测。
纠错 - 使用形态
- 自建服务
依据所记录功能作出的编辑归类，非产品性能实测。
纠错 - 运行平台
- 未记录
本条目的来源核查尚未确认这一产品字段。
纠错 - 运行位置
- 自托管
依据所记录功能作出的编辑归类，非产品性能实测。
纠错 - 离线可用
- 未记录
本条目的来源核查尚未确认这一产品字段。
纠错 - 官方服务地区
- 未记录
本条目的来源核查尚未确认这一产品字段。
纠错 - 公开 API
- 是
依据所记录功能作出的编辑归类，非产品性能实测。
纠错 - 许可证
- 未记录
本条目的来源核查尚未确认这一产品字段。
纠错 - 商业使用
- 未记录
本条目的来源核查尚未确认这一产品字段。
纠错 - 界面语言
- 未记录
本条目的来源核查尚未确认这一产品字段。
纠错 - 计费
- 开源 企业报价 免费额度: 有 需要订阅: 否
价格为厂商公布的入门价，不含税；请以厂商页面为准。
纠错
各字段的证据来源
- 适合的任务
- 本站推断
- 使用形态
- 本站推断
- 运行平台
- 未知
- 运行位置
- 本站推断
- 离线可用
- 未知
- 官方服务地区
- 未知
- 公开 API
- 本站推断
- 许可证
- 未知
- 商业使用
- 未知
- 界面语言
- 未知
关键事实与证据
每条事实都列明适用条件、来源页面与核对日期。
-
能力: 提供TensorRT、PyTorch、ONNX等后端模型服务 已核实 2026-11-03 developer.nvidia.com ↗
纠错
常见问题
NVIDIA Dynamo-Triton适合工作流中的哪个环节？
原Triton Inference Server，支持GPU和CPU部署的多框架推理服务器。 提供TensorRT、PyTorch、ONNX等后端模型服务.
选择NVIDIA Dynamo-Triton前应比较哪些费用和限制？
开源软件可在自己的基础设施运行。计算、存储和外部模型API用量另计，不包含托管服务。
同类产品
- BentoML — 将AI模型及自定义推理流水线封装为可部署服务的Python框架。
- DeepInfra — 提供模型API、私有部署和GPU资源的推理云。
- Novita AI — 整合托管模型API、GPU基础设施与隔离智能体沙箱的AI云。
- NVIDIA NIM — 在NVIDIA基础设施部署预训练及定制模型的容器化推理微服务。
- SambaCloud — SambaNova托管推理服务，现品牌为SambaCloud，支持OpenAI兼容请求。
- Aleph Alpha — 德国 AI 公司，为工业、公共部门与国防客户构建主权大语言模型与企业 AI 平台。
来源
本记录最近复核于 2026-11-03。
机器可读记录：/api/products/nvidia-dynamo-triton.json · 发现错误？提交纠错