Groq
von Groq · groq.com ↗
KI-Inferenzplattform mit spezieller LPU-Hardware für das latenzarme Bereitstellen offener Sprachmodelle.
inference llm-hosting infrastructure
- Kategorie
- Plattformen & Infrastruktur
- Geschäftsmodell
- Freemium
- Verfügbarkeit
- Weltweit
- Veröffentlicht
- 2024-02
- Eintrag aktualisiert
- 2026-07-29
- Gegründet
- 2016
- Hauptsitz
- US
- Kanonische URL
- https://globalaiproductindex.com/de/products/groq/
Überblick
Groq ist eine KI-Inferenzplattform, angetrieben von ihrer speziellen LPU-Hardware (Language Processing Unit). Sie stellt offene Sprachmodelle wie Llama mit sehr geringer Latenz bereit und ist auf schnelle Token-Generierung ausgelegt. Sie bietet eine OpenAI-kompatible API mit einer kostenlosen Stufe und nutzungsbasierter Abrechnung pro Token.
Wichtige Funktionen
- Inferenz mit sehr geringer Latenz auf spezieller LPU-Hardware
- Gehostete Inferenz für offene Modelle wie Llama
- OpenAI-kompatible API für einfache Migration
- Schnelle Token-Generierung für Echtzeitanwendungen
Anwendungsfälle
- Latenzarme Antworten für Konversationsanwendungen liefern
- Offene Modelle mit hohem Durchsatz ausführen
- Agenten und Streaming für Echtzeit-Erlebnisse antreiben
Preise
Bietet eine Inferenz-API mit einer kostenlosen Stufe; die kostenpflichtige Nutzung wird pro Token abgerechnet und variiert je nach Modell.
Häufig gestellte Fragen
Was bietet Groq?
Groq bietet schnelle KI-Inferenz, angetrieben von seiner speziellen LPU-Hardware, und stellt offene Sprachmodelle mit sehr geringer Latenz bereit.
Was ist eine LPU?
Die LPU (Language Processing Unit) ist Groqs speziell entwickelter Chip für schnelle, latenzarme Inferenz von Sprachmodellen.
Ist Groq kostenlos?
Groq bietet eine API mit einer kostenlosen Stufe; die kostenpflichtige Nutzung folgt dem Preis pro Token jedes Modells.
Ähnliche Produkte
- Amazon Bedrock — Verwalteter AWS-Dienst, um Anwendungen mit Foundation-Modellen mehrerer Anbieter über eine einzige API zu erstellen.
- Amazon Nova — AWS-Portfolio amazon-eigener Foundation-Modelle und Dienste für Text, Multimodalität, Sprache, den Bau eigener Modelle und UI-automatisierende Agenten.
- Azure AI Foundry — Microsofts Plattform zum Erstellen, Bewerten und Bereitstellen von KI-Anwendungen und -Agenten auf Azure.
- Baseten — Plattform zum Bereitstellen und Betreiben von Machine-Learning-Modellen als skalierbare APIs.
- Cerebras — KI-Compute-Unternehmen, dessen Inferenz-Cloud offene Sprachmodelle auf Wafer-Scale-Hardware bereitstellt.
- Civitai — Community-Plattform zum Teilen und Entdecken offener Bildgenerierungsmodelle, LoRAs und generierter Kunst.
Alle Groq-Alternativen → · Alle Produkte in Plattformen & Infrastruktur →
Quellen
Dieser Eintrag wurde zuletzt am 2026-07-29 geprüft.
Maschinenlesbarer Eintrag: /api/products/groq.json · Fehler entdeckt? Korrektur vorschlagen