Langfuse
एजेंट्स को ट्रेस करने, प्रॉम्प्ट्स प्रबंधित करने, मूल्यांकन (evals) चलाने और लागत तथा विलंबता (latency) को ट्रैक करने के लिए LLM इंजीनियरिंग प्लेटफ़ॉर्म।
क्लाउड या अपने खुद के सर्वर पर एजेंट कॉल्स को ट्रेस करें, प्रॉम्प्ट्स के वर्शन बनाएं, LLM-as-a-judge evals चलाएं और लागत पर नज़र रखें।
Langfuse एजेंट मूल्यांकन और ऑब्जर्वएबिलिटी के लिए एक ओपन-सोर्स AI इंजीनियरिंग प्लेटफ़ॉर्म है। यह आपके LLM ऐप से ट्रेसेज़ को इनजेस्ट करता है, प्रॉम्प्ट्स प्रबंधित करता है और मूल्यांकन चलाता है। यह LLM ऐप बनाने वाले उन डेवलपर्स के लिए उपयुक्त है जो देखना चाहते हैं कि प्रत्येक कॉल ने क्या किया और उसकी लागत क्या आई।
यह क्या है
आप Python या JS/TS SDKs, OpenTelemetry या OpenAI, LangChain, LlamaIndex या LiteLLM जैसे इंटीग्रेशन का उपयोग करके अपने ऐप को इंस्ट्रूमेंट करते हैं, और ट्रेसेज़ Langfuse में दिखाई देते हैं। वहाँ से आप प्रॉम्प्ट्स के वर्शन बनाते हैं, LLM-as-a-judge या मैन्युअल मूल्यांकन चलाते हैं, और विलंबता, लागत तथा गुणवत्ता के लिए डैशबोर्ड बनाते हैं। एक बीटा AI Gateway मॉडल कॉल्स को एक ही एंडपॉइंट के माध्यम से रूट करता है।
किसके लिए
यह उन टीमों के लिए उपयुक्त है जो ऐसे LLM फीचर्स शिप कर रही हैं जिन्हें लॉग्स से परे ट्रेसिंग और evals की आवश्यकता है। यदि आप केवल कभी-कभार किसी मॉडल को कॉल करते हैं, तो यह किसी छोटे हॉबी प्रोजेक्ट की आवश्यकता से अधिक है, और self-hosting में ऐसा बुनियादी ढांचा शामिल है जिसे आपको संचालित करना होगा।
मुख्य विशेषताएँ
LLM ऐप्स के लिए ट्रेसिंग
LLM कॉल्स, रिट्रीवल, एम्बेडिंग और एजेंट एक्शन को ट्रेसेज़ के रूप में ट्रैक करें।
प्रॉम्प्ट प्रबंधन
प्रॉम्प्ट्स के वर्शन बनाएं, उन पर सहयोग करें और उन्हें कैश करें, तथा रीपड़ेप्लॉय किए बिना उनमें बदलाव करें।
मूल्यांकन (Evaluations)
LLM-as-a-judge, कोड मूल्यांकनकर्ता, यूज़र फीडबैक और मैन्युअल लेबलिंग।
AI Gateway (बीटा)
सेंट्रल कीज़ और कॉस्ट ट्रैकिंग के साथ प्रदाता कॉल्स के लिए एक एंडपॉइंट।
डैशबोर्ड और मेट्रिक्स API
कस्टम डैशबोर्ड और अलर्ट के साथ विलंबता, लागत और गुणवत्ता को ट्रैक करें।
OpenTelemetry-आधारित इनजेस्ट
कोई भी OpenTelemetry-इंस्ट्रूमेंटेड ऐप या कलेक्टर ट्रेसेज़ भेज सकता है।
3 चरणों में तैयार
हमारा ईमानदार फैसला
क्या अच्छा है
- OpenTelemetry पर निर्मित, इसलिए मौजूदा इंस्ट्रूमेंटेड ऐप्स कस्टम SDK के बिना ट्रेसेज़ भेज सकते हैं।
- एप्लिकेशन कोड को बदले बिना प्रॉम्प्ट वर्शन और लेबल बदले जा सकते हैं।
- OpenAI, LangChain, LlamaIndex, LiteLLM और कई एजेंट फ्रेमवर्क सहित कई इंटीग्रेशन सूचीबद्ध हैं।
- Cloud Hobby प्लान निःशुल्क है और इसके लिए किसी क्रेडिट कार्ड की आवश्यकता नहीं है।
कहाँ कमी है
- Self-hosting एक वास्तविक ऑपरेशंस जॉब है: Docker Compose एक सिंगल VM के लिए उपयुक्त है, लेकिन README में Kubernetes with Helm को पसंदीदा प्रोडक्शन डिप्लॉयमेंट बताया गया है।
- Enterprise फीचर्स MIT कोर से अलग लाइसेंस के तहत अलग ee निर्देशिकाओं में मौजूद हैं।
- Skill Management और AI Gateway को बीटा के रूप में लेबल किया गया है।
- Cloud उपयोग यूनिट्स में मापा जाता है, जिसमें निःशुल्क Hobby प्लान प्रति माह 50k यूनिट और 30 दिन के डेटा एक्सेस तक सीमित है।
मूल्य & लाइसेंस
कोर MIT-लाइसेंस प्राप्त है और self-host करने के लिए निःशुल्क है। Langfuse Cloud (https://langfuse.com/pricing) पर 50k यूनिट प्रति माह के साथ Hobby निःशुल्क, Core $29 प्रति माह, Pro $199 प्रति माह और Enterprise $2499 प्रति माह दिखाता है, जिसमें $8 प्रति 100k पर अतिरिक्त यूनिट्स मिलती हैं।
हिंदी बोलने वालों के लिए जॉब्स
876 खुले रिमोट AI-ट्रेनिंग रोल, 15 नवंबर 2026 को अपडेट; ज़्यादातर में $20–$170 प्रति घंटा। इनमें से 5 हिंदी बोलने वालों के लिए हैं। Zekai इन्हें मुफ़्त में लिस्ट करता है; आवेदन एम्प्लॉयर के प्लेटफ़ॉर्म पर जाता है।
विकल्प
ये समीक्षित AI टूल यही काम तुरंत करते हैं — हमारी स्कोर की गई डायरेक्टरी से।
इसे उपयोग करें, या हमसे सेट करवाएं
सामान्य प्रश्न
क्या मैं Langfuse को self-host कर सकता हूँ?
हाँ। README सिंगल मशीन के लिए Docker Compose, Kubernetes के लिए Helm और AWS, Azure तथा GCP के लिए Terraform टेम्पलेट प्रदान करता है।
Langfuse Cloud की लागत क्या है?
मूल्य निर्धारण पृष्ठ पर Hobby निःशुल्क, Core $29 प्रति माह, Pro $199 प्रति माह और Enterprise $2499 प्रति माह दिखाई देता है।
क्या यह LangChain या OpenAI के साथ काम करता है?
हाँ। README में OpenAI, LangChain और LangGraph, LlamaIndex, LiteLLM, Vercel AI SDK और अन्य के लिए इंटीग्रेशन सूचीबद्ध हैं।
