KoboldCpp
Lokaler Einzeldatei-Runner für GGUF-Sprachmodelle mit integrierter Browserschnittstelle für Story- und Textgenerierung.
GGUF-Textmodelle über eine Browserseite auf dem eigenen PC steuern, mit integrierten Story-Schreibmodi.
KoboldCpp ist eine kostenlose Software zum Ausführen von GGUF-Großsprachmodellen auf dem eigenen Computer, mit einer gebündelten Webschnittstelle zum Schreiben von Geschichten und Texten. Sie eignet sich für Autorinnen und Autoren, die eine Textgenerierung wünschen, die auf ihrem Rechner bleibt, und die Modelldateien problemlos selbst herunterladen können.
Was es ist
Es ist eine einzelne, auf llama.cpp basierende Exe-Datei, die ein GGUF-Modell lädt und die KoboldAI Lite-Schnittstelle unter localhost:5001 öffnet. Diese Schnittstelle bietet Chat-, Abenteuer-, Instruktions- und Story-Schreibmodi mit Speicher, Weltinformationen, Autorennotizen und gespeicherten Geschichten. Sie kann auch KoboldAI-, OpenAI- und Ollama-kompatible Endpunkte bereitstellen, sodass andere Apps sie als Modell-Backend nutzen.
Für wen
Es eignet sich für Autorinnen, Autoren und Bastler, die eine lokale, private Textgenerierung wünschen und bereit sind, ein Modell auszuwählen und herunterzuladen. Es ist weniger geeignet, wenn Sie einen ausgereiften Manuskript-Editor oder einen gehosteten Dienst ohne Hardware-Sorgen suchen.
Wichtige Funktionen
Download einer Datei
Eine einzige ausführbare Datei für Windows, Linux oder macOS, kein Installationsprogramm oder zusätzliche Abhängigkeiten.
Story-Schreibmodi
Die gebündelte Schnittstelle bietet Story-, Abenteuer-, Chat- und Instruktionsmodi.
Speicher und Weltinformationen
Autorennotizen, Speicher und Weltinformationen helfen, lange Texte konsistent zu halten.
CPU- oder GPU-Ausführung
Läuft auf CPU oder GPU mit vollständigem oder teilweisem Offloading; eine GPU ist optional.
Kompatible APIs
Stellt KoboldAI-, OpenAI- und Ollama-Stil-Endpunkte für andere Apps bereit.
Zusätzliche Generierungsarten
Fügt optional Bild-, Sprach- und Musikgenerierung mit kompatiblen Modellen hinzu.
Startklar in 3 Schritten
Unser ehrliches Fazit
Stärken
- Laut README ist es eine einzige ausführbare Datei ohne Installation, was den ersten Start einfach macht.
- Eine dedizierte GPU ist optional; Modellgröße und Kontextlänge bestimmen, wie viel Speicher Sie benötigen.
- Speicher, Weltinformationen und Autorennotizen sind in die Schnittstelle integriert, was bei langer Prosa hilft.
- Andere Apps können es über KoboldAI-, OpenAI- oder Ollama-kompatible Endpunkte als Backend nutzen.
Schwächen
- Modelle sind nicht enthalten: Sie müssen ein GGUF-Modell separat finden und herunterladen sowie Einstellungen für Ihre Hardware wählen.
- Größere Modelle erfordern beträchtlichen Arbeitsspeicher (RAM) oder VRAM, und die Geschwindigkeit allein auf der CPU ist bei großen Modellen langsam.
- Die Ausgabegüte hängt vollständig vom geladenen Modell ab; die Software stellt keines zur Verfügung.
- Die AGPL-3.0 findet Anwendung, und gebündelte Komponenten behalten ihre eigenen Lizenzen (MIT, Apache 2.0), weshalb das Weiterverteilen modifizierter Builds Sorgfalt erfordert.
Preise & Lizenz
Kostenlos unter AGPL-3.0, und die Projektseiten zeigen keinen kostenpflichtigen Tarif. Ihre Kosten bestehen aus dem Computer und den heruntergeladenen Modelldateien.
Stellen für Deutschsprachige
767 offene Remote-Stellen im KI-Training, aktualisiert am 14. November 2026; die meisten zahlen $20–$175 pro Stunde. 11 davon suchen Deutschsprachige. Zekai listet sie kostenlos; die Bewerbung läuft über die Plattform des Arbeitgebers.
Alternativen
Diese bewerteten KI-Tools erledigen die Aufgabe sofort — aus unserem bewerteten Verzeichnis.
Nutze es, oder lass es uns einrichten
FAQ
Brauche ich eine Grafikkarte?
Nein. Laut README ist eine dedizierte GPU optional und die Modellgröße sowie Kontextlänge bestimmen den benötigten Speicher.
Ist ein Modell enthalten?
Nein. Modelle müssen separat beschafft werden; der Launcher bietet Vorlagen und die README verweist auf Beispiel-GGUF-Modelle.
Welche gefälschte Website sollte ich meiden?
Die README warnt vor der böswilligen Fake-Website koboldcpp.com und weist darauf hin, dass offizielle Downloads auf GitHub Releases und koboldcpp.net zu finden sind.
