आपके काम के लिए रेटेड एआई टूल
AI ट्रेन करके कमाएँ
🤝 आप फ्री & ओपन सोर्स लाइब्रेरी में हैं — समुदाय द्वारा बनाए गए टूल जिन्हें आप बिना भुगतान किए उपयोग कर सकते हैं। हमारी स्कोर की गई AI डायरेक्टरी से अलग एक अवधारणा।
होम › फ्री & ओपन सोर्स › सॉफ्टवेयर › LocalAI
✦ फ्री & ओपन सोर्ससॉफ्टवेयर

LocalAI

ड्रॉप-इन OpenAI, Anthropic और ElevenLabs API एंडपॉइंट्स का उपयोग करके स्थानीय स्तर पर LLM, ऑडियो, विजन और इमेज मॉडल चलाएं।

मल्टी-मॉडल मॉडल के लिए सेल्फ-होस्टेड लोकल AI इंजन

किसी भी CPU या GPU हार्डवेयर पर मानक API एंडपॉइंट्स के पीछे लोकल LLM, स्पीच और इमेज मॉडल सर्व करें।

हमेशा के लिए मुफ़्त · ओपन सोर्स · MIT
✓ Light setup✓ ब्राउज़र-आधारित✓ रियल-टाइम सहयोग
8.4
ZEKAI
शक्तिशाली लोकल API इंजन।
फ्री & ओपन सोर्स · सॉफ्टवेयर
सेटअप की आसानी6
उपयोगिता9
रखरखाव9.5
समुदाय9.2
★ 49,003
गिटहब
Sep 2026
अपडेटेड
MIT
लाइसेंस
🛠 खुद होस्ट नहीं करना चाहते? हम इसे सेट कर सकते हैं →
⚡ त्वरित उत्तर

LocalAI एक सेल्फ-होस्टेड इन्फेरेंस इंजन है जो OpenAI, Anthropic और ElevenLabs से मेल खाने वाले मानक API के माध्यम से लोकल मॉडल सर्व करता है। यह मालिकाना हार्डवेयर या क्लाउड एक्सेस की आवश्यकता के बिना कंज्यूमर CPU, Apple Silicon और समर्पित GPU पर चलता है। आप इसका उपयोग अपने स्वयं के बुनियादी ढांचे पर गोपनीयता-केंद्रित AI एप्लिकेशन और सॉफ्टवेयर टूल बनाने के लिए कर सकते हैं।

इस पर चलता है
Cross-platform
होस्टिंग
Self-host
भाषाएँ
Go
लाइसेंस
MIT

यह क्या है

यह प्लेटफ़ॉर्म टेक्स्ट, विजन, ऑडियो और वीडियो मॉडल को संभालने के लिए मांग पर खींचे जाने वाले मॉड्यूलर कंटेनर बैकएंड के रूप में llama.cpp, vLLM और whisper.cpp जैसे बैकएंड इंजन चलाता है। इसमें टेनेंट ऑथेंटिकेशन, प्रति-उपयोगकर्ता उपयोग ट्रैकिंग और एक अंतर्निहित टर्मिनल एजेंट शामिल है जो अनुमोदन पर कमांड निष्पादित करता है। यह HuggingFace, Ollama registries और OCI इमेज से सीधे मॉडल खींचने का भी समर्थन करता है।

किसके लिए

यह सॉफ्टवेयर इंजीनियरों और IT टीमों के अनुकूल है जिन्हें एप्लिकेशन बनाने या लोकल मॉडल सर्व करने के लिए सेल्फ-होस्टेड, गोपनीयता-अनुपालन AI एंडपॉइंट्स की आवश्यकता होती है। यह ऐसे वातावरण के लिए आदर्श है जहाँ डेटा ऑन-प्रिमाइसेस रहना चाहिए या क्लाउड API की लागत बहुत अधिक है। यह बिना किसी कंटेनर कॉन्फ़िगरेशन वाले वन-क्लिक डेस्कटॉप क्लाइंट की तलाश करने वाले गैर-तकनीकी उपयोगकर्ताओं के लिए अभिप्रेत नहीं है।

मुख्य विशेषताएँ

ऑन-डिमांड बैकएंड आर्किटेक्चर

llama.cpp या vLLM जैसी मॉड्यूलर बैकएंड इमेज तभी डाउनलोड करता है जब विशिष्ट मॉडल को उनकी आवश्यकता होती है।

ड्रॉप-इन API संगतता

रिमोट OpenAI, Anthropic, ElevenLabs और Ollama एंडपॉइंट्स को लोकल मॉडल सर्वर से बदलता है।

मल्टी-हार्डवेयर कंप्यूट समर्थन

CPU, NVIDIA CUDA, AMD ROCm, Intel oneAPI, Apple Silicon और Vulkan बैकएंड पर मॉडल निष्पादित करता है।

अंतर्निहित स्वायत्त एजेंट इंजन

टूल आह्वान, फ़ाइल निरीक्षण और RAG क्वेरी प्रोसेसिंग में सक्षम टर्मिनल एजेंट वर्कफ़्लो शामिल हैं।

मल्टी-यूज़र एक्सेस नियंत्रण

टेनेंट ऑथेंटिकेशन, प्रति-उपयोगकर्ता कोटा, API कुंजियाँ और विस्तृत संसाधन उपयोग ट्रैकिंग प्रबंधित करता है।

कैसे शुरू करें

3 चरणों में तैयार

1
अपने हार्डवेयर के लिए उपयुक्त CPU या GPU ड्राइवर फ़्लैग के साथ Docker या Podman का उपयोग करके कंटेनर लॉन्च करें।
2
HuggingFace, Ollama registries या मॉडल गैलरी से CLI का उपयोग करके अपने इंस्टेंस में मॉडल लोड करें।
3
मानक OpenAI या Anthropic एंडपॉइंट्स का उपयोग करके अपने सॉफ्टवेयर टूल या क्लाइंट लाइब्रेरी को अपने लोकल होस्ट पोर्ट पर इंगित करें।
सच कहें तो

हमारा ईमानदार फैसला

क्या अच्छा है

  • एकीकृत API अनुबंधों के माध्यम से LLM, विजन, ऑडियो जनरेशन और स्पीच रिकग्निशन मॉडल सर्व करता है।
  • महंगे अलग GPU की सख्त आवश्यकता के बिना सीधे कमोडिटी CPU हार्डवेयर पर चलता है।
  • साझा टीम एक्सेस के लिए बॉक्स से बाहर मल्टी-यूज़र प्रबंधन, API कुंजियाँ और रेट कोटा शामिल हैं।
  • HuggingFace, Ollama OCI registries, मानक कंटेनर registries या YAML कॉन्फ़िगरेशन से सीधे मॉडल लोड करता है।

कहाँ कमी है

  • Docker या कंटेनर रनटाइम कॉन्फ़िगरेशन, ड्राइवर सेटअप और कमांड-लाइन प्रबंधन की आवश्यकता होती है।
  • केवल CPU बुनियादी ढांचे पर बड़े मॉडल चलाने से GPU निष्पादन की तुलना में काफी अधिक विलंबता मिलती है।
  • लोकल मॉडल स्टोरेज, RAM आवंटन और बैकएंड इमेज डाउनलोड का प्रबंधन करने के लिए चल रहे सिस्टम रखरखाव की आवश्यकता होती है।
लागत

मूल्य & लाइसेंस

LocalAI MIT लाइसेंस के तहत मुफ़्त और open source है। इसमें शामिल एकमात्र लागत मॉडल को चलाने के लिए आवश्यक लोकल हार्डवेयर, सर्वर बुनियादी ढांचे और बिजली की व्यवस्था करने से आती है।

पेड वर्क

हिंदी बोलने वालों के लिए जॉब्स

877 खुले रिमोट AI-ट्रेनिंग रोल, 16 नवंबर 2026 को अपडेट; ज़्यादातर में $20–$175 प्रति घंटा। इनमें से 5 हिंदी बोलने वालों के लिए हैं। Zekai इन्हें मुफ़्त में लिस्ट करता है; आवेदन एम्प्लॉयर के प्लेटफ़ॉर्म पर जाता है।

सभी खुले रोल देखें →
तुलना

विकल्प

🎁 फ्री & ओपन-सोर्स विकल्प

ये समीक्षित AI टूल यही काम तुरंत करते हैं — हमारी स्कोर की गई डायरेक्टरी से।

और पाएं

इसे उपयोग करें, या हमसे सेट करवाएं

📄 मुफ़्त PDF: सॉफ्टवेयर के लिए LocalAI
आपका पहला परिणाम पाने के लिए सरल भाषा में गाइड। आपके इनबॉक्स में।
🔔 64 लोग पूरा वीडियो ट्यूटोरियल चाहते हैं — अपना वोट जोड़ें
🛠 खुद सेट नहीं करना चाहते?
हम LocalAI को आपके लिए इंस्टॉल, होस्ट और कॉन्फ़िगर करेंगे — और आपकी टीम को प्रशिक्षित करेंगे।
हमसे करवाएं ↗
प्रश्न

सामान्य प्रश्न

क्या मुझे LocalAI चलाने के लिए GPU की आवश्यकता है?

नहीं, LocalAI NVIDIA, AMD, Intel, Apple Silicon और Vulkan त्वरण के साथ शुद्ध CPU निष्पादन का समर्थन करता है।

LocalAI छोटे संसाधन पदचिह्न को कैसे बनाए रखता है?

यह एक संयोज्य वास्तुकला का उपयोग करता है जो मॉडल को आवश्यकता होने पर ही बैकएंड निर्भरता को अलग कंटेनर इमेज के रूप में खींचता है।

क्या मैं OpenAI API कॉल के प्रत्यक्ष प्रतिस्थापन के रूप में LocalAI का उपयोग कर सकता हूँ?

हाँ, LocalAI OpenAI-संगत REST एंडपॉइंट्स को उजागर करता है ताकि आप अपनी मौजूदा क्लाइंट लाइब्रेरी में बेस URL बदल सकें।

रडार

ताज़ा AI समाचार

✉️ साप्ताहिक मुफ़्त टूलकिट
सॉफ्टवेयर के लिए सर्वश्रेष्ठ नए फ्री & ओपन-सोर्स टूल — हर हफ्ते एक छोटा ईमेल, आपकी भाषा में।
मुफ़्त · 1 ईमेल/सप्ताह · कभी भी अनसब्सक्राइब करें
AI ट्रेनिंग से पैसे कमाएँ →

Google में Zekai को सबसे पहले देखें