Redaktioneller Vorschlag · zitiert einen geprüften Fakt
Desktop-Anwendung zum Entdecken, Herunterladen und lokalen Ausführen offener großer Sprachmodelle.
Freemium
Anwendungsfälle
- Chatmodelle vollständig offline für Privatsphäre ausführen
- Lokale Entwicklung gegen einen Endpunkt im OpenAI-Stil
- Offene Modelle auf persönlicher Hardware vergleichen
Preise: Geprüft am 2026-11-02: Free umfasst lokale Modelle und Bionic Agent. Bionic+ kostet 20 USD/Monat, Pro 100 USD/Monat für optionale Cloud-Kontingente; zusätzliche Nutzung wird über Cloud-Credits abgedeckt. Diese Einzeltarife sind verfügbar; nur Team-Abos werden noch angekündigt.
Preise ↗ · Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-11-02 geprüft.
Redaktioneller Vorschlag · zitiert einen geprüften Fakt
Quelloffene Desktop-App zum lokalen Ausführen offener Sprachmodelle als Offline-Alternative zu ChatGPT.
Offen (offene Gewichte/Quellcode) Apache-2.0 (main-Zweig; bestätigte Tags: Apache-2.0 bei v0.5.18-rc1-beta und v0.6.0, AGPL-3.0 bei v0.5.16 und v0.5.17; übrige Versionen nicht einzeln geprüft)
Anwendungsfälle
- Privater Offline-KI-Chat auf persönlicher Hardware
- Lokale Entwicklung gegen eine API im OpenAI-Stil
- Offene Modelle ohne GPU-Cloud ausprobieren
Preise: Jan ist kostenlos und Open Source; Nutzer zahlen optional Drittanbieter, wenn sie Cloud-Modelle verbinden.
Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-10-13 geprüft.
Gemeinsam im Leitfaden „KI-Plattformen und -Infrastruktur“
Erweiterbare, selbst gehostete KI-Oberfläche, die offline läuft und sich mit lokalen oder entfernten Modellen wie Ollama und OpenAI-kompatiblen APIs verbindet.
Offen (offene Gewichte/Quellcode) BSD-3-Clause
Anwendungsfälle
- Private ChatGPT-artige Oberfläche auf Unternehmensservern
- Teamzugang zu lokalen Modellen mit Berechtigungen
- Dokument-Q&A vollständig offline
Preise: Open WebUI ist kostenlos und Open Source zum Selbsthosten; ein Enterprise-Plan ergänzt eigenes Theming, SLAs und Support gegen Gebühr.
Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-10-10 geprüft.
Gemeinsam im Leitfaden „KI-Plattformen und -Infrastruktur“
Quelloffene Inferenz- und Serving-Engine für große Sprachmodelle, bekannt für das durchsatzstarke PagedAttention.
Offen (offene Gewichte/Quellcode) Apache-2.0
Anwendungsfälle
- Offene LLMs in Produktion mit hohem Durchsatz bedienen
- Einen OpenAI-kompatiblen Inferenz-Endpunkt selbst hosten
- Benchmarking und Forschung zu effizienter LLM-Inferenz
Preise: vLLM ist kostenlos und Open Source unter Apache-2.0; Kosten beschränken sich auf die GPU-Infrastruktur, auf der es läuft.
Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-10-10 geprüft.
Gemeinsam im Leitfaden „Lokale und private Dokument-Fragen“
Familie offener großer Sprachmodelle von Meta, die die Generationen Llama 3 und Llama 4 in mehreren Größen umfasst.
Offen (offene Gewichte/Quellcode) Llama Community License
Anwendungsfälle
- Selbst gehostete Assistenten und private Deployments
- Fine-Tuning für domänenspezifische Anwendungen
- Forschung zu großen Sprachmodellen
Preise: Llama-Gewichte sind unter der Community-Lizenz kostenlos herunterladbar; viele Anbieter bieten gehostete Inferenz zu nutzungsbasierten Preisen.
Quellen
Dieser Eintrag wurde zuletzt am 2026-09-04 geprüft.
Verwandt: gleiche Aufgabe Modelle selbst betreiben
Plattform zum Bereitstellen und Betreiben von Machine-Learning-Modellen als skalierbare APIs.
Kostenpflichtig
Anwendungsfälle
- Benutzerdefinierte Modelle als Produktions-APIs bereitstellen
- Inferenz skalieren, ohne GPUs zu verwalten
- Offene Modelle für Anwendungen betreiben
Preise: Dedizierte GPU-Compute wird pro Minute abgerechnet, Leerlauf ist kostenlos; Modell-APIs werden pro Million Tokens abgerechnet, neue Konten erhalten Credits.
Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-10-09 geprüft.
Verwandt: gleiche Aufgabe Modelle selbst betreiben
KI-Compute-Unternehmen, dessen Inferenz-Cloud offene Sprachmodelle auf Wafer-Scale-Hardware bereitstellt.
Freemium
Anwendungsfälle
- Latenzarme Inferenz für Echtzeitanwendungen bereitstellen
- Offene Modelle mit hohen Generierungsgeschwindigkeiten ausführen
- Große Modell-Workloads auf spezialisierter Hardware skalieren
Preise: Inferenz wird pro Token abgerechnet und startet mit einer kostenlosen Testphase; Trainingssysteme und On-Premises-Deployments werden separat verkauft.
Quellen
Dieser Eintrag wurde zuletzt am 2026-10-09 geprüft.
Verwandt: gleiche Aufgabe Modelle selbst betreiben
Inferenzplattform für generative Medien, die Diffusions- und andere Modelle über eine schnelle API ausführt.
Kostenpflichtig
Anwendungsfälle
- Bild- und Videogenerierung in Apps einbauen
- Offene Diffusionsmodelle in großem Maßstab bedienen
- Generative Medien-Pipelines prototypen
Preise: Die Preisgestaltung ist nutzungsbasiert pro Inferenz oder Rechensekunde; neue Entwickler erhalten kostenlose Credits.
Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-10-09 geprüft.