Ollama
macOS, Windows, Linux और Docker पर स्थानीय रूप से ओपन-सोर्स भाषा मॉडल चलाएं, प्रबंधित करें और सर्व करें।
मॉडल वेट, निष्فيذ and कस्टम प्रॉम्प्ट्स को स्थानीय CLI सेवा और HTTP API में बंडल करता है।
Ollama आपको अपनी मशीन या सर्वर पर स्थानीय रूप से ओपन-सोर्स बड़े भाषा मॉडल चलाने की अनुमति देता है। यह Gemma, Qwen और DeepSeek जैसे मॉडल सर्व करने के लिए एक सरल CLI और स्थानीय REST API प्रदान करता है। सॉफ्टवेयर डेवलपर्स को अपने एप्लिकेशन, IDE और एजेंट वर्कफ़्लो में स्थानीय AI को एकीकृत करने के लिए इसका उपयोग करना चाहिए।
यह क्या है
Ollama ओपन LLM वेट और कॉन्फ़िगरेशन को llama.cpp द्वारा संचालित पुन: प्रयोज्य Modelfiles में पैक करता है। यह प्रत्यक्ष एप्लिकेशन एकीकरण के लिए आधिकारिक Python और JavaScript लाइब्रेरी के साथ-साथ एक localhost REST एंडपॉइंट प्रदान करता है। आप स्थानीय मॉडल को सीधे Claude Code या Copilot जैसे एजेंट फ्रेमवर्क के साथ जोड़ने के लिए समर्पित CLI बाइंडिंग भी लॉन्च कर सकते हैं।
किसके लिए
यह उन डेवलपर्स और टीम लीड के लिए उपयुक्त है जिन्हें कोडिंग टूल्स और प्राइवेट API एंडपॉइंट्स के लिए स्थानीय, ऑफ़लाइन LLM इन्फफेरेंस की आवश्यकता होती है। यह उन इंजीनियरों के लिए उपयुक्त नहीं है जिनके पास स्थानीय GPU मेमोरी की कमी है या जो हार्डवेयर संसाधनों को प्रबंधित किए बिना होस्टेड एंटरप्राइज़-स्केल इन्फफेरेंस चाहते हैं। यदि आप विशेष रूप से मालिकाना क्लाउड मॉडल API पर निर्भर हैं तो यह कम आदर्श है।
मुख्य विशेषताएँ
वन-कमांड मॉडल निष्पादन
वेट डाउनलोड करता है और एक ही टर्मिनल कमांड के साथ स्थानीय चैट सत्र शुरू करता है।
अंतर्निहित डेवलपर HTTP API
चैट और टेक्स्ट पूर्णता के लिए स्थानीय HTTP एंडपॉइंट्स को उजागर करता है।
CLI कोडिंग एकीकरण
Claude Code और Copilot CLI जैसे टूल्स के लिए सीधे बाइंडिंग लॉन्च करता है।
कस्टम Modelfile कॉन्फ़िगरेशन
पुनरुत्पादक कॉन्फ़िगरेशन फ़ाइलों में सिस्टम प्रॉम्प्ट, पैरामीटर और बेस वेट को परिभाषित करता है।
3 चरणों में तैयार
हमारा ईमानदार फैसला
क्या अच्छा है
- Claude Code, OpenCode और Copilot CLI जैसे डेवलपर टूल्स के लिए डायरेक्ट लॉन्चर एकीकरण।
- आधिकारिक Python और JavaScript क्लाइंट SDKs के साथ एक स्थानीय REST एंडपॉइंट को उजागर करता है।
- CPU और GPU क्वांटाइज्ड इन्फफेरेंस के लिए बैकएंड के रूप में llama.cpp का उपयोग करता है।
- macOS, Windows, Linux और Docker कंटेनरों के लिए नेटिव इंस्टॉलर प्रदान करता है।
कहाँ कमी है
- बड़े मॉडल पैरामीटर को प्रभावी ढंग से चलाने के लिए महत्वपूर्ण स्थानीय RAM या GPU VRAM की आवश्यकता होती है।
- बॉक्स से बाहर एक नेटिव अंतर्निहित ग्राफिकल इंटरफ़ेस प्रदान नहीं करता है।
- मॉडल संदर्भ लंबाई और प्रतिक्रिया उत्पादन गति पूरी तरह से आपके हार्डवेयर पर निर्भर करती है।
- स्थानीय रूप से उच्च-प्रदर्शन वाले मॉडल चलाने से होस्ट मशीन की बिजली की खपत और हार्डवेयर तनाव बढ़ता है।
मूल्य & लाइसेंस
Ollama MIT लाइसेंस के तहत पूरी तरह से मुफ़्त और open source है। रिपॉजिटरी में कोई भी भुगतान किए गए होस्टेड टियर प्रदान नहीं किए गए हैं, इसलिए आपकी एकमात्र लागत मॉडल को स्वयं होस्ट करने के लिए आवश्यक हार्डवेयर और बिजली है।
हिंदी बोलने वालों के लिए जॉब्स
874 खुले रिमोट AI-ट्रेनिंग रोल, 15 नवंबर 2026 को अपडेट; ज़्यादातर में $20–$170 प्रति घंटा। इनमें से 5 हिंदी बोलने वालों के लिए हैं। Zekai इन्हें मुफ़्त में लिस्ट करता है; आवेदन एम्प्लॉयर के प्लेटफ़ॉर्म पर जाता है।
विकल्प
ये समीक्षित AI टूल यही काम तुरंत करते हैं — हमारी स्कोर की गई डायरेक्टरी से।
इसे उपयोग करें, या हमसे सेट करवाएं
सामान्य प्रश्न
क्या Ollama में वेब इंटरफ़ेस शामिल है?
नहीं, Ollama एक बैकग्राउंड सर्विस और CLI टूल के रूप में चलता है, हालाँकि Open WebUI जैसी कम्युनिटी प्रोजेक्ट्स इसके REST API से जुड़ती हैं।
हुड के तहत Ollama को कौन सा इंजन पावर देता है?
Ollama मॉडल निष्पादन और परिमाणीकरण (क्वांटाइजेशन) को प्रबंधित करने के लिए llama.cpp का उपयोग करता है।
