Redaktioneller Vorschlag — kein geprüfter Fakt
Open-Source-Tool zum lokalen Ausführen offener großer Sprachmodelle auf dem eigenen Rechner über eine einfache Kommandozeile.
Offen (offene Gewichte/Quellcode) MIT
Anwendungsfälle
- Privater, offline nutzbarer KI-Chat und Coding-Assistenz
- Lokale Entwicklung gegen eine LLM-API ohne Cloud-Kosten
- Offene Modelle experimentell nutzen und vergleichen
Preise: Ollama ist kostenlos und Open Source; optionale gehostete Dienste werden separat angeboten.
Preise ↗ · Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-10-10 geprüft.
Redaktioneller Vorschlag · zitiert einen geprüften Fakt
Quelloffene Desktop-App zum lokalen Ausführen offener Sprachmodelle als Offline-Alternative zu ChatGPT.
Offen (offene Gewichte/Quellcode) Apache-2.0 (main-Zweig; bestätigte Tags: Apache-2.0 bei v0.5.18-rc1-beta und v0.6.0, AGPL-3.0 bei v0.5.16 und v0.5.17; übrige Versionen nicht einzeln geprüft)
Anwendungsfälle
- Privater Offline-KI-Chat auf persönlicher Hardware
- Lokale Entwicklung gegen eine API im OpenAI-Stil
- Offene Modelle ohne GPU-Cloud ausprobieren
Preise: Jan ist kostenlos und Open Source; Nutzer zahlen optional Drittanbieter, wenn sie Cloud-Modelle verbinden.
Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-10-13 geprüft.
Gemeinsam im Leitfaden „KI-Plattformen und -Infrastruktur“
Erweiterbare, selbst gehostete KI-Oberfläche, die offline läuft und sich mit lokalen oder entfernten Modellen wie Ollama und OpenAI-kompatiblen APIs verbindet.
Offen (offene Gewichte/Quellcode) BSD-3-Clause
Anwendungsfälle
- Private ChatGPT-artige Oberfläche auf Unternehmensservern
- Teamzugang zu lokalen Modellen mit Berechtigungen
- Dokument-Q&A vollständig offline
Preise: Open WebUI ist kostenlos und Open Source zum Selbsthosten; ein Enterprise-Plan ergänzt eigenes Theming, SLAs und Support gegen Gebühr.
Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-10-10 geprüft.
Gemeinsam im Leitfaden „KI-Plattformen und -Infrastruktur“
Quelloffene Inferenz- und Serving-Engine für große Sprachmodelle, bekannt für das durchsatzstarke PagedAttention.
Offen (offene Gewichte/Quellcode) Apache-2.0
Anwendungsfälle
- Offene LLMs in Produktion mit hohem Durchsatz bedienen
- Einen OpenAI-kompatiblen Inferenz-Endpunkt selbst hosten
- Benchmarking und Forschung zu effizienter LLM-Inferenz
Preise: vLLM ist kostenlos und Open Source unter Apache-2.0; Kosten beschränken sich auf die GPU-Infrastruktur, auf der es läuft.
Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-10-10 geprüft.
Verwandt: gleiche Aufgabe Modelle selbst betreiben
Plattform zum Bereitstellen und Betreiben von Machine-Learning-Modellen als skalierbare APIs.
Kostenpflichtig
Anwendungsfälle
- Benutzerdefinierte Modelle als Produktions-APIs bereitstellen
- Inferenz skalieren, ohne GPUs zu verwalten
- Offene Modelle für Anwendungen betreiben
Preise: Dedizierte GPU-Compute wird pro Minute abgerechnet, Leerlauf ist kostenlos; Modell-APIs werden pro Million Tokens abgerechnet, neue Konten erhalten Credits.
Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-10-09 geprüft.
Verwandt: gleiche Aufgabe Modelle selbst betreiben
KI-Compute-Unternehmen, dessen Inferenz-Cloud offene Sprachmodelle auf Wafer-Scale-Hardware bereitstellt.
Freemium
Anwendungsfälle
- Latenzarme Inferenz für Echtzeitanwendungen bereitstellen
- Offene Modelle mit hohen Generierungsgeschwindigkeiten ausführen
- Große Modell-Workloads auf spezialisierter Hardware skalieren
Preise: Inferenz wird pro Token abgerechnet und startet mit einer kostenlosen Testphase; Trainingssysteme und On-Premises-Deployments werden separat verkauft.
Quellen
Dieser Eintrag wurde zuletzt am 2026-10-09 geprüft.
Verwandt: gleiche Aufgabe Modelle selbst betreiben
Inferenzplattform für generative Medien, die Diffusions- und andere Modelle über eine schnelle API ausführt.
Kostenpflichtig
Anwendungsfälle
- Bild- und Videogenerierung in Apps einbauen
- Offene Diffusionsmodelle in großem Maßstab bedienen
- Generative Medien-Pipelines prototypen
Preise: Die Preisgestaltung ist nutzungsbasiert pro Inferenz oder Rechensekunde; neue Entwickler erhalten kostenlose Credits.
Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-10-09 geprüft.
Verwandt: gleiche Aufgabe Modelle selbst betreiben
Inferenzplattform für das schnelle Bereitstellen und Feinabstimmen von quelloffenen generativen KI-Modellen.
Kostenpflichtig
Anwendungsfälle
- Offene Modelle mit niedriger Latenz in Produktion bereitstellen
- Modelle mit eigenen Daten feinabstimmen
- Mit minimalen Codeänderungen von geschlossenen APIs migrieren
Preise: Nutzungsbasierte Abrechnung pro Token oder Volumen; für neue Nutzer gibt es kostenlose Credits, dedizierte Kapazität wird separat angeboten.
Preise ↗ · Dokumentation ↗ · Quellen
Dieser Eintrag wurde zuletzt am 2026-09-10 geprüft.