Jan
Eine Desktop-Chat-App, die offene LLMs auf dem eigenen Computer ausführt und sich über eigene API-Schlüssel auch mit Cloud-Modellen verbindet.
Laden Sie offene Modelle von HuggingFace herunter, chatten Sie lokal oder binden Sie Schlüssel von OpenAI, Anthropic und Groq ein.
Jan ist eine Desktop-App zum Chatten mit großen Sprachmodellen, die auf Ihrem eigenen Computer laufen. Sie eignet sich für Personen, die einen ChatGPT-ähnlichen Assistenten wünschen, ohne Prompts an einen Anbieter zu senden, und die gerne selbst Modelle auswählen und herunterladen.
Was es ist
Jan lädt offene Modelle wie Llama, Gemma, Qwen und GPT-oss von HuggingFace herunter und führt sie über eine integrierte llama.cpp-Engine aus. Die App kann sich zudem mit OpenAI, Anthropic, Mistral, Groq und MiniMax verbinden und stellt einen OpenAI-kompatiblen Server auf localhost:1337 für andere Programme bereit.
Für wen
Die App passt für Fachleute, die sensible Texte entwerfen, zusammenfassen oder recherchieren und diese auf dem Laptop behalten möchten. Sie ist weniger geeignet, wenn Sie einen Team-Arbeitsbereich mit gemeinsamen Dokumentenbibliotheken benötigen, da die README eine Einzelbenutzer-Desktop-App und keinen Mehrbenutzer-Server beschreibt.
Wichtige Funktionen
Lokale Modell-Downloads
Laden Sie Llama-, Gemma-, Qwen- oder GPT-oss-Modelle von HuggingFace herunter und führen Sie sie auf Ihrer eigenen Hardware aus.
Cloud-Schlüssel neben lokalen
Verbinden Sie OpenAI, Anthropic, Mistral, Groq oder MiniMax in derselben App wie Ihre lokalen Modelle.
Benutzerdefinierte Assistenten
Erstellen Sie spezialisierte Assistenten für wiederkehrende Aufgaben, anstatt Anweisungen immer wieder neu einzugeben.
Lokale API auf Port 1337
Andere Anwendungen können Jan über einen OpenAI-kompatiblen Server unter localhost:1337 aufrufen.
MCP-Agenten-Tools
Die Unterstützung des Model Context Protocol ermöglicht es Modellen, externe Tools für agentenbasierte Arbeit aufzurufen.
GPU-Engine-Varianten
Die integrierte llama.cpp-Engine liefert CPU-, Vulkan-, Metal-, CUDA- und ROCm-Varianten.
Startklar in 3 Schritten
Unser ehrliches Fazit
Stärken
- Es gibt Installationsprogramme für Windows, macOS, Linux (deb, AppImage, Flatpak) und den Microsoft Store, sodass Sie kein Terminal zum Starten benötigen.
- Eine Benutzeroberfläche deckt sowohl Offline-Modelle als auch kostenpflichtige Cloud-Modelle ab, sodass Sie diese mit demselben Prompt vergleichen können.
- Der OpenAI-kompatible Server unter localhost:1337 ermöglicht es Skripten und anderen Apps, die bereits heruntergeladenen Modelle wiederzuverwenden.
- Die README listet den ungefähren Speicherbedarf pro Modellgröße auf, sodass Sie Ihre Hardware einschätzen können, bevor Sie etwas herunterladen.
Schwächen
- Lokale Modelle benötigen echten Speicher: Die README empfiehlt unter macOS 8GB RAM für 3B-Modelle, 16GB für 7B und 32GB für 13B.
- Die Qualität hängt vom gewählten Modell ab; kleine lokale Modelle erreichen nicht das Niveau der großen Cloud-Modelle, mit denen sich Jan ebenfalls verbinden kann.
- Es handelt sich um eine Einzelbenutzer-Desktop-App, daher gibt es keinen gemeinsamen Team-Arbeitsbereich, keine Berechtigungen oder Dokumentenbibliothek.
- Das Kompilieren aus dem Quellcode erfordert Node.js, Yarn, Make und Rust, und CUDA-Builds benötigen zusätzliche Toolchains unter Windows.
Preise & Lizenz
Jan ist kostenlos unter der Apache 2.0-Lizenz. Die README und jan.ai zeigen keinen kostenpflichtigen Tarif für Jan; wenn Sie Cloud-Anbieter wie OpenAI oder Anthropic anbinden, bezahlen Sie diese Anbieter über Ihre eigenen API-Schlüssel.
Stellen für Deutschsprachige
768 offene Remote-Stellen im KI-Training, aktualisiert am 14. November 2026; die meisten zahlen $20–$175 pro Stunde. 11 davon suchen Deutschsprachige. Zekai listet sie kostenlos; die Bewerbung läuft über die Plattform des Arbeitgebers.
Alternativen
Diese bewerteten KI-Tools erledigen die Aufgabe sofort — aus unserem bewerteten Verzeichnis.
Nutze es, oder lass es uns einrichten
FAQ
Funktioniert Jan ohne Internetverbindung?
Sobald Sie ein Modell heruntergeladen haben, besagt die README, dass alles lokal läuft, wenn Sie es so wünschen. Das Herunterladen von Modellen und die Nutzung von Cloud-Anbietern erfordern weiterhin eine Verbindung.
Wie viel RAM benötige ich?
Die README gibt für macOS Richtwerte an: 8GB für 3B-Modelle, 16GB für 7B und 32GB für 13B. Windows benötigt Version 10 oder neuer mit GPU-Unterstützung für NVIDIA, AMD und Intel Arc.
Können andere Apps die Modelle in Jan nutzen
Ja. Jan betreibt einen OpenAI-kompatiblen lokalen Server unter localhost:1337, den andere Anwendungen aufrufen können.
