Ollama
编辑建议——非已核实事实
开源工具，可通过简单的命令行界面在本机运行开放的大语言模型。
开放（开放权重/源码） MIT
适用场景
- 私密、离线的 AI 对话与编程辅助
- 无云端成本地针对 LLM API 进行本地开发
- 实验与比较开放模型
定价: Ollama 免费且开源；可选的托管服务单独提供。
本记录最近复核于 2026-10-10。
平台与基础设施
LM Studio 替代品
LM Studio（LM Studio）属于平台与基础设施，以下是 8 个可进一步比较的候选产品。
候选项来自现有指南的同组产品、已有对比关系，或同分类下的具体共同标签。这是候选清单，不是排名或实测结果。
Jan
编辑建议 · 引用已核实事实
在本地运行开放语言模型的开源桌面应用，可作为离线的 ChatGPT 替代品。
开放（开放权重/源码） Apache-2.0（main 分支；已确认的标签：v0.5.18-rc1-beta 与 v0.6.0 为 Apache-2.0，v0.5.16 与 v0.5.17 为 AGPL-3.0；其他历史版本未逐一核对）
适用场景
- 在个人硬件上做私密离线 AI 聊天
- 对着 OpenAI 风格 API 做本地开发
- 无需 GPU 云即可试验开放模型
定价: Jan 免费开源；若连接云模型，用户可选向第三方提供商付费。
本记录最近复核于 2026-10-13。
Open WebUI
在指南《AI 平台与基础设施》中同组出现
可扩展的自托管 AI 界面，支持离线运行，并可连接 Ollama 及兼容 OpenAI 的本地或远程模型。
开放（开放权重/源码） BSD-3-Clause
适用场景
- 公司服务器上的私有 ChatGPT 风格界面
- 带权限的团队访问本地模型
- 完全离线的文档问答
定价: Open WebUI 免费开源可自托管；企业方案付费增加自定义主题、SLA 与支持。
本记录最近复核于 2026-10-10。
vLLM
在指南《AI 平台与基础设施》中同组出现
面向大语言模型的开源推理与服务引擎，以高吞吐的 PagedAttention 而知名。
开放（开放权重/源码） Apache-2.0
适用场景
- 在生产中高吞吐服务开放大模型
- 自托管兼容 OpenAI 的推理端点
- 高效大模型推理的基准与研究
定价: vLLM 以 Apache-2.0 免费开源；成本限于所运行的 GPU 基础设施。
本记录最近复核于 2026-10-10。
Baseten
相关：同样适合自行运行模型
将机器学习模型部署并作为可扩展 API 提供服务的平台。
付费
适用场景
- 将自定义模型作为生产 API 部署
- 无需管理 GPU 即可扩展推理
- 为应用提供开源模型服务
定价: 专用 GPU 计算按分钟计费且空闲不计费，模型 API 按百万 token 计费，新账户附带额度。
本记录最近复核于 2026-10-09。
Cerebras
相关：同样适合自行运行模型
AI 算力公司，其推理云基于晶圆级硬件托管开放语言模型。
免费增值
适用场景
- 为实时应用提供低延迟推理
- 以高生成速度运行开放模型
- 在专用硬件上扩展大型模型工作负载
定价: 推理按 token 计费并提供免费试用；训练系统与本地部署另行销售。
本记录最近复核于 2026-10-09。
Fal.ai
相关：同样适合自行运行模型
生成式媒体推理平台，可通过高速 API 运行扩散模型等各类模型。
付费
适用场景
- 为应用加入图像与视频生成
- 规模化服务开放扩散模型
- 原型化生成式媒体流水线
定价: 按每次推理或计算秒用量计费；新开发者有免费额度。
本记录最近复核于 2026-10-09。
Fireworks AI
相关：同样适合自行运行模型
推理平台，可快速托管并微调开源生成式 AI 模型。
付费
适用场景
- 在生产环境中以低延迟提供开放模型服务
- 在自定义数据上微调模型
- 以最小代码改动从闭源 API 迁移
定价: 计费按用量，按 token 或用量计算；新用户可获免费额度，专用容量另行报价。
本记录最近复核于 2026-09-10。
切换到 Ollama
编辑建议——非已核实事实
适用情形： 你更偏好 Ollama 的模型管理与 API 工作流，且已有为该生态配置的工具；LM Studio 本身也提供 CLI 和无界面模式。
切换要点： 单独配置 Ollama 的模型和客户端端点，不应假定 LM Studio 的模型名称与服务配置可以原样转移。
需要放弃： 此迁移更换的是运行时与客户端配置；仅为获得 CLI 或无界面运行而迁移并无必要，因为 LM Studio 也有相关文档。
切换到 Jan
编辑建议 · 引用已核实事实
适用情形： 你需要一个可审查、可修改的开源客户端。
切换要点： 安装该桌面应用并重新下载模型。
需要放弃： Jan 采用宽松许可，但它是不同的运行时；模型支持并不完全一致。
证据: 已核实 2026-10-13 Jan — Apache-2.0 适用条件: janhq/jan 中的 Jan 应用代码：main 分支为 Apache-2.0（精简声明）。在已逐一确认的 tag 中，v0.5.18-rc1-beta 与 v0.6.0 为 Apache-2.0（标准 Apache-2.0 文本），v0.5.16 与 v0.5.17 为 AGPL-3.0；其他历史版本未逐一核对。不覆盖模型权重，权重需另行下载。 raw.githubusercontent.com ↗