Langfuse
LLM-Engineering-Plattform zum Tracen von Agenten, Verwalten von Prompts, Ausführen von Evals und Verfolgen von Kosten und Latenz.
Agentenaufrufe tracen, Prompts versionieren, LLM-as-a-Judge-Evals ausführen und Kosten im Blick behalten – in der Cloud oder auf eigenen Servern.
Langfuse ist eine Open-Source-KI-Engineering-Plattform für Agenten-Evaluierung und Observability. Sie nimmt Traces von Ihrer LLM-App entgegen, verwaltet Prompts und führt Evaluierungen durch. Sie richtet sich an Entwickler von LLM-Apps, die sehen möchten, was jeder Aufruf bewirkt hat und was er gekostet hat.
Was es ist
Sie instrumentieren Ihre App mit den Python- oder JS/TS-SDKs, OpenTelemetry oder Integrationen wie OpenAI, LangChain, LlamaIndex oder LiteLLM, und Traces erscheinen in Langfuse. Von dort aus versionieren Sie Prompts, führen LLM-as-a-Judge- oder manuelle Evaluierungen durch und erstellen Dashboards für Latenz, Kosten und Qualität. Ein Beta-KI-Gateway leitet Modellaufrufe über einen Endpunkt weiter.
Für wen
Es eignet sich für Teams, die LLM-Funktionen veröffentlichen und Tracing sowie Evals über einfache Logs hinaus benötigen. Für ein kleines Hobbyprojekt mit nur gelegentlichen Modellaufrufen ist es zu umfangreich, und Self-Hosting erfordert Betriebsinfrastruktur.
Wichtige Funktionen
Tracing für LLM-Apps
LLM-Aufrufe, Retrieval, Embedding und Agentenaktionen als Traces verfolgen.
Prompt-Management
Prompts versionieren, gemeinsam bearbeiten und cachen sowie ohne erneutes Deployment ändern.
Evaluierungen
LLM-as-a-Judge, Code-Evaluatoren, Nutzerfeedback und manuelles Labeling.
AI Gateway (beta)
Ein Endpunkt für Anbieteraufrufe mit zentralen Schlüsseln und Kostenverfolgung.
Dashboards und Metriken-API
Latenz, Kosten und Qualität mit benutzerdefinierten Dashboards und Benachrichtigungen verfolgen.
OpenTelemetry-basiertes Ingest
Jede OpenTelemetry-instrumentierte App oder jeder Collector kann Traces senden.
Startklar in 3 Schritten
Unser ehrliches Fazit
Stärken
- Basiert auf OpenTelemetry, sodass bereits instrumentierte Apps Traces ohne benutzerdefiniertes SDK senden können.
- Prompt-Versionen und Labels können geändert werden, ohne den Anwendungscode anzupassen.
- Viele Integrationen sind aufgeführt, darunter OpenAI, LangChain, LlamaIndex, LiteLLM und verschiedene Agenten-Frameworks.
- Ein Cloud-Hobby-Tarif ist kostenlos und erfordert keine Kreditkarte.
Schwächen
- Self-Hosting ist echter Betriebsaufwand: Docker Compose eignet sich für eine einzelne VM, aber die README nennt Kubernetes mit Helm als bevorzugtes Produktions-Deployment.
- Enterprise-Funktionen befinden sich in separaten ee-Verzeichnissen unter einer anderen Lizenz als der MIT-Kern.
- Skill Management und das AI Gateway sind als Beta gekennzeichnet.
- Die Cloud-Nutzung wird nach Einheiten abgerechnet, wobei der kostenlose Hobby-Tarif auf 50k Einheiten pro Monat und 30 Tage Datenzugriff beschränkt ist.
Preise & Lizenz
Der Kern steht unter der MIT-Lizenz und ist für das Self-Hosting kostenlos. Langfuse Cloud (https://langfuse.com/pricing) bietet einen kostenlosen Hobby-Tarif mit 50k Einheiten pro Monat, Core für $29 pro Monat, Pro für $199 pro Monat und Enterprise für $2499 pro Monat, wobei zusätzliche Einheiten $8 pro 100k kosten.
Stellen für Deutschsprachige
870 offene Remote-Stellen im KI-Training, aktualisiert am 14. November 2026; die meisten zahlen $20–$170 pro Stunde. 12 davon suchen Deutschsprachige. Zekai listet sie kostenlos; die Bewerbung läuft über die Plattform des Arbeitgebers.
Alternativen
Diese bewerteten KI-Tools erledigen die Aufgabe sofort — aus unserem bewerteten Verzeichnis.
Nutze es, oder lass es uns einrichten
FAQ
Kann ich Langfuse selbst hosten?
Ja. Die README bietet Docker Compose für eine einzelne Maschine, Helm für Kubernetes und Terraform-Templates für AWS, Azure und GCP.
Was kostet Langfuse Cloud?
Die Preisseite zeigt den Hobby-Tarif kostenlos, Core für $29 pro Monat, Pro für $199 pro Monat und Enterprise für $2499 pro Monat.
Funktioniert es mit LangChain oder OpenAI?
Ja. Die README listet Integrationen für OpenAI, LangChain und LangGraph, LlamaIndex, LiteLLM, das Vercel AI SDK und weitere auf.
