KoboldCpp
GGUF LLM के लिए सिंगल-फ़ाइल लोकल रनर जिसमें कहानी और टेक्स्ट जनरेशन के लिए एक इन-बिल्ट ब्राउज़र इंटरफ़ेस है।
कहानी-लेखन मोड इन-बिल्ट के साथ, अपने खुद के PC पर ब्राउज़र पेज से GGUF टेक्स्ट मॉडल चलाएं।
KoboldCpp आपके अपने कंप्यूटर पर GGUF LLM चलाने के लिए मुफ़्त सॉफ़्टवेयर है, जिसमें कहानी और टेक्स्ट लिखने के लिए एक बंडल किया हुआ वेब इंटरफ़ेस है। यह उन लेखकों के लिए उपयुक्त है जो ऐसा टेक्स्ट जनरेशन चाहते हैं जो उनकी मशीन पर रहे और जो खुद मॉडल फ़ाइलें डाउनलोड करने में सहज हों।
यह क्या है
यह llama.cpp पर बनी एक सिंगल एक्सेक्यूटेबल है जो GGUF मॉडल लोड करती है और localhost:5001 पर KoboldAI Lite इंटरफ़ेस खोलती है। वह इंटरफ़ेस मेमोरी, वर्ल्ड इंफो, ऑथर्स नोट्स और सहेजी गई कहानियों के साथ चैट, एडवेंचर, इंस्ट्रक्ट और कहानी-लेखन मोड प्रदान करता है। यह KoboldAI, OpenAI और Ollama-कम्पैटिबल एंडपॉइंट्स को भी उजागर कर सकता है ताकि अन्य ऐप्स इसे अपने मॉडल बैकएंड के रूप में उपयोग करें।
किसके लिए
यह लेखकों और शौकीनों के लिए उपयुक्त है जो लोकल, प्राइवेट टेक्स्ट जनरेशन चाहते हैं और मॉडल चुनने और डाउनलोड करने के इच्छुक हैं। यदि आप एक पॉलिश्ड पांडुलिपि संपादक या हार्डवेयर के बारे में सोचे बिना एक होस्टेड सेवा चाहते हैं, तो यह खराब विकल्प है।
मुख्य विशेषताएँ
वन-फ़ाइल डाउनलोड
Windows, Linux या macOS के लिए एक सिंगल एक्सेक्यूटेबल, कोई इंस्टॉलर या अतिरिक्त डिपेंडेंसी नहीं।
कहानी-लेखन मोड
बंडल किया हुआ इंटरफ़ेस कहानी, एडवेंचर, चैट और इंस्ट्रक्ट मोड प्रदान करता है।
मेमोरी और वर्ल्ड इंफो
ऑथर्स नोट्स, मेमोरी और वर्ल्ड इंफो लंबे टेक्स्ट को सुसंगत रखने में मदद करते हैं।
CPU या GPU चलना
फुल या आंशिक ऑफलोडिंग के साथ CPU या GPU पर चलता है; एक GPU वैकल्पिक है।
कम्पैटिबल API
अन्य ऐप्स के लिए KoboldAI, OpenAI और Ollama-शैली के एंडपॉइंट्स को उजागर करता है।
अतिरिक्त जनरेशन प्रकार
कम्पैटिबल मॉडल के साथ वैकल्पिक रूप से इमेज, स्पीच और म्यूजिक जनरेशन जोड़ता है।
3 चरणों में तैयार
हमारा ईमानदार फैसला
क्या अच्छा है
- README का कहना है कि यह बिना इंस्टॉलेशन के एक एक्सेक्यूटेबल है, जिससे पहला रन आसान हो जाता है।
- एक समर्पित GPU वैकल्पिक है; मॉडल का आकार और कॉन्टेक्स्ट लंबाई तय करती है कि आपको कितनी मेमोरी की आवश्यकता है।
- मेमोरी, वर्ल्ड इंफो और ऑथर्स नोट्स इंटरफ़ेस में इन-बिल्ट हैं, जो लंबी कहानियों में मदद करते हैं।
- अन्य ऐप्स KoboldAI, OpenAI या Ollama-कम्पैटिबल एंडपॉइंट्स के माध्यम से इसे अपने बैकएंड के रूप में उपयोग कर सकते हैं।
कहाँ कमी है
- मॉडल शामिल नहीं हैं: आपको अलग से एक GGUF मॉडल खोजना और डाउनलोड करना होगा और अपने हार्डवेयर के लिए सेटिंग्स चुननी होंगी।
- बड़े मॉडल को गंभीर RAM या VRAM की आवश्यकता होती है, और बड़े मॉडल के लिए अकेले CPU पर गति धीमी होगी।
- आउटपुट की गुणवत्ता पूरी तरह से आपके द्वारा लोड किए गए मॉडल पर निर्भर करती है; सॉफ़्टवेयर एक प्रदान नहीं करता है।
- AGPL-3.0 लागू होता है, और बंडल किए गए घटकों के अपने लाइसेंस (MIT, Apache 2.0) हैं, इसलिए संशोधित बिल्ड को पुनर्वितरित करने के लिए सावधानी की आवश्यकता है।
मूल्य & लाइसेंस
AGPL-3.0 के तहत मुफ़्त, और प्रोजेक्ट के पृष्ठों पर कोई भुगतान योजना नहीं दिखती है। आपकी लागत कंप्यूटर और आपके द्वारा डाउनलोड किए जाने वाले किसी भी मॉडल फ़ाइल की है।
हिंदी बोलने वालों के लिए जॉब्स
767 खुले रिमोट AI-ट्रेनिंग रोल, 14 नवंबर 2026 को अपडेट; ज़्यादातर में $20–$175 प्रति घंटा। इनमें से 5 हिंदी बोलने वालों के लिए हैं। Zekai इन्हें मुफ़्त में लिस्ट करता है; आवेदन एम्प्लॉयर के प्लेटफ़ॉर्म पर जाता है।
विकल्प
ये समीक्षित AI टूल यही काम तुरंत करते हैं — हमारी स्कोर की गई डायरेक्टरी से।
इसे उपयोग करें, या हमसे सेट करवाएं
सामान्य प्रश्न
क्या मुझे ग्राफिक्स कार्ड की आवश्यकता है?
नहीं। README का कहना है कि एक समर्पित GPU वैकल्पिक है और यह कि मॉडल का आकार और कॉन्टेक्स्ट लंबाई उस मेमोरी को निर्धारित करती है जिसकी आपको आवश्यकता है।
क्या कोई मॉडल शामिल है?
नहीं। मॉडल अलग से प्राप्त किए जाने चाहिए; लॉन्चर टेम्पलेट प्रदान करता है और README उदाहरण GGUF मॉडल की ओर इशारा करता है।
मुझे किस नकली साइट से बचना चाहिए?
README चेतावनी देता है कि koboldcpp.com एक दुर्भावनापूर्ण नकली साइट है और आधिकारिक डाउनलोड GitHub Releases और koboldcpp.net पर हैं।
