Groq
来自 Groq
概览
由自研 LPU 硬件驱动的 AI 推理平台，可以极低延迟托管开放语言模型。
inference llm-hosting infrastructure
- 许可证
- 未记录
- 分类
- 平台与基础设施
- 商业模式
- 免费增值
- 可用性
- 全球
- 发布
- 2024-02
概述
Groq 是一个 AI 推理平台，由其自研的 LPU（语言处理单元）硬件驱动。它以极低延迟托管 Llama 等开放语言模型，专注于高速的 token 生成。提供 OpenAI 兼容 API，含免费档位与按 token 计费的付费用量。
主要功能
- 基于自研 LPU 硬件的极速推理
- 通过 Groq 控制台提供的 OpenAI 兼容 API
- 面向开放模型的低延迟服务
- 与 NVIDIA GPU 协同工作的 LPX 系统
适用场景
- 需要快速响应的延迟敏感型应用
- 实时助手与智能体
- 高速托管开放模型
定价
提供含免费档位的推理 API；付费用量按 token 计费，不同模型价格各异。
档案信息
来源、日期与链接集中放在这里，正文只讲产品本身。
链接、日期与来源
- 记录更新
- 2026-09-10
- 成立时间
- 2016
- 总部所在地
- US
选型档案
每个字段都标明取值依据。“未知”表示我们尚未核实，并不表示产品没有该能力。
选型档案11 个字段3 项未知
- 适合的任务
- 自行运行模型
从记录推导：类别“platforms”。
纠错 - 使用形态
- 网页应用
托管型产品，记录中没有桌面/CLI 标签；推定为网页交付。
纠错 - 运行平台
- 网页
由记录描述/功能/标签中的平台用词推导而来。
纠错 - 运行位置
- 厂商云服务
厂商托管型产品；未记录自托管选项。
纠错 - 离线可用
- 未记录
记录中不包含离线运行的声明。
纠错 - 官方服务地区
- 全球
与记录中已有的可用地域字段（“global”）一致。
纠错 - 公开 API
- 是
记录提到了 API 接口面。
纠错 - 许可证
- proprietary
商业产品；记录中未发布源代码许可证。
纠错 - 商业使用
- 未记录
商业产品；此处所审条款未声明非商业限制，但这一点未经验证。
纠错 - 界面语言
- 未记录
本轮所读的任何厂商页面都未说明产品自身的界面语言；保留该键是为了日后能作答，而不是留空。
纠错 - 计费
- 订阅 免费额度: 有限 需要订阅: 否
价格为厂商公布的入门价，不含税；请以厂商页面为准。
纠错
各字段的证据来源
- 适合的任务
- 本站推断
- 使用形态
- 本站推断
- 运行平台
- 本站推断
- 运行位置
- 本站推断
- 离线可用
- 本站推断
- 官方服务地区
- 本站推断
- 公开 API
- 本站推断
- 许可证
- 本站推断
- 商业使用
- 本站推断
- 界面语言
- 未知
常见问题
Groq 提供什么？
Groq 提供由其自研 LPU 硬件驱动的高速 AI 推理，以极低延迟托管开放语言模型。
LPU 是什么？
LPU（语言处理单元）是 Groq 自研的芯片，专为语言模型的高速、低延迟推理而设计。
Groq 免费吗？
Groq 提供含免费档位的 API；付费用量按各模型的每 token 定价计算。
Groq 的记录没有确立哪些内容？
本记录没有收录 Groq 的公开文档页或定价页，因为厂商站点上没有同站页面可被确认，其许可条款、地区覆盖与支持语言也未确立。
同类产品
- Baseten — 将机器学习模型部署并作为可扩展 API 提供服务的平台。
- Cerebras — AI 算力公司，其推理云基于晶圆级硬件托管开放语言模型。
- Fal.ai — 生成式媒体推理平台，可通过高速 API 运行扩散模型等各类模型。
- Fireworks AI — 推理平台，可快速托管并微调开源生成式 AI 模型。
- Together AI — 用于运行、微调与托管开源 AI 模型的云平台，提供无服务器与专用端点。
- Modal — 以按量计费方式运行 AI 与数据工作负载的无服务器云平台。
相关指南
来源
本记录最近复核于 2026-09-10。
机器可读记录：/api/products/groq.json · 发现错误？提交纠错