AnythingLLM
Ein privater KI-Arbeitsbereich, der mit Ihren Dokumenten chattet und Agents ausführt, mit lokalen oder Cloud-LLMs, auf dem Desktop oder in Docker.
Desktop-App oder Docker-Server mit integriertem RAG, Agents, MCP und Mehrbenutzer-Berechtigungen.
AnythingLLM ist eine All-in-One-App zum Erstellen eines privaten ChatGPT über Ihre eigenen Dokumente. Unternehmen und Einzelberater, die eine Dokumenten-Frage-Antwort-Funktion mit einer Auswahl an lokalen oder Cloud-Modellen suchen, sollten einen Blick darauf werfen, insbesondere wenn ein Team gemeinsamen Zugriff benötigt.
Was es ist
Sie verbinden ein lokales oder Cloud-LLM, fügen PDFs, DOCX- und TXT-Dateien hinzu und chatten mit Quellenangaben damit. Es bietet zudem einen No-Code-Agent-Builder, MCP-Kompatibilität, geplante Aufgaben, Speicher und eine Entwickler-API und unterstützt viele Vektordatenbanken mit LanceDB als Standard.
Für wen
Es eignet sich für kleine Unternehmen, Berater und Teams, die einen internen Assistenten für Kunden- oder Richtliniendokumente benötigen. Mehrbenutzer-Berechtigungen, White-Labelling und das einbettbare Website-Chat-Widget sind nur für Docker verfügbar, sodass die Desktop-App allein kein Team bedienen wird.
Wichtige Funktionen
Dokumenten-Chat mit Zitaten
Laden Sie PDF-, TXT-, DOCX- und andere Dateien hoch und stellen Sie Fragen mit Quellenangaben.
No-Code-Agent-Builder
Erstellen Sie Agenten-Abläufe ohne Code sowie benutzerdefinierte Agenten-Fähigkeiten und MCP-kompatible Tools.
Dynamisches Modell-Routing
Von Ihnen definierte Regeln senden jeden Chat an den Anbieter und das Modell, das am besten dazu passt.
Geplante Aufgaben
Führen Sie wiederkehrende Prompts nach einem Cron-Zeitplan mit vollen Agenten-Funktionen aus.
Mehrbenutzer-Berechtigungen
Kontrollieren Sie den Zugriff und die Erfahrung pro Benutzer auf einer gemeinsam genutzten Instanz (nur Docker-Version).
Einbettbares Chat-Widget
Platzieren Sie ein benutzerdefiniertes Chat-Widget auf Ihrer Website (nur Docker-Version).
Startklar in 3 Schritten
Unser ehrliches Fazit
Stärken
- Es verbindet sich mit Dutzenden von LLM-Anbietern und neun Vektordatenbanken, sodass Sie nicht an einen Modell-Anbieter gebunden sind.
- Eine integrierte lokale Engine führt Modelle auf CPU oder GPU (NVIDIA über CUDA, AMD und Intel über Vulkan) ohne separate Installation aus.
- Bereitstellungsvorlagen sind für Docker, AWS, GCP, DigitalOcean, Render, Railway und andere vorhanden.
- Die Desktop-App ist ein einzelner Download für macOS, Windows und Linux, sodass eine Person ohne Server beginnen kann.
Schwächen
- Team-Funktionen (Mehrbenutzer, White-Labelling, Einbettungs-Widget) erfordern die Docker-Version, was den Betrieb und die Wartung eines Servers bedeutet.
- Die Antwortqualität hängt von dem von Ihnen gewählten Modell und Embedder ab; lokale Modelle erfordern leistungsfähige Hardware.
- Die App sendet anonyme Nutzungstelemetrie, es sei denn, Sie setzen DISABLE_TELEMETRY oder schalten sie in der Datenschutz-Seitenleiste aus.
- Es ist eine breite Plattform mit vielen Einstellungen, sodass das Anpassen des Retrievers für große Dokumentensets Zeit in Anspruch nimmt.
Preise & Lizenz
Die Software ist unter der MIT-Lizenz auf dem Desktop oder selbstgehostet mit Docker kostenlos. Die Preisseite des Projekts (https://anythingllm.com/pricing) zeigt gehostete Tarife: Basic für $50/Monat, Pro für $99/Monat und Enterprise auf Anfrage; Sie verwenden Ihren eigenen LLM-API-Schlüssel.
Stellen für Deutschsprachige
863 offene Remote-Stellen im KI-Training, aktualisiert am 15. November 2026; die meisten zahlen $20–$170 pro Stunde. 12 davon suchen Deutschsprachige. Zekai listet sie kostenlos; die Bewerbung läuft über die Plattform des Arbeitgebers.
Alternativen
Diese bewerteten KI-Tools erledigen die Aufgabe sofort — aus unserem bewerteten Verzeichnis.
Nutze es, oder lass es uns einrichten
FAQ
Gibt es eine gehostete Version?
Ja. Die Preisseite listet einen gehosteten Basic-Tarif für $50/Monat und Pro für $99/Monat sowie eine Enterprise-Stufe zur Kontaktaufnahme auf. Das Self-Hosting mit Docker ist kostenlos.
Können mehrere Personen eine Instanz nutzen?
Ja, mit der Docker-Version. Mehrbenutzer-Unterstützung und Berechtigungen pro Benutzer werden als reine Docker-Funktionen aufgeführt.
Sendet es meine Daten irgendwohin?
Es sammelt anonyme Nutzungsereignisse wie den Installationstyp und dass ein Chat gesendet wurde, jedoch nicht deren Inhalt. Sie können dies mit DISABLE_TELEMETRY deaktivieren, und von Ihnen ausgewählte externe LLM-Anbieter erhalten weiterhin Ihre Prompts.
