आपके काम के लिए रेटेड एआई टूल
AI ट्रेन करके कमाएँ
🤝 आप फ्री & ओपन सोर्स लाइब्रेरी में हैं — समुदाय द्वारा बनाए गए टूल जिन्हें आप बिना भुगतान किए उपयोग कर सकते हैं। हमारी स्कोर की गई AI डायरेक्टरी से अलग एक अवधारणा।
होम › फ्री & ओपन सोर्स › साइबर सुरक्षा › garak
✦ फ्री & ओपन सोर्ससाइबर सुरक्षा

garak

हैलुसिनेशन, डेटा लीक और प्रॉम्प्ट इंजेक्शन की जाँच करने वाला एक LLM वल्नेरिएबिलिटी स्कैनर।

Garak: द LLM वल्नेरिएबिलिटी स्कैनर

LLM की कमियों और असफलताओं की जाँच के लिए जनरेटिव AI रेड-टीमिंग और असेसमेंट किट।

हमेशा के लिए मुफ़्त · ओपन सोर्स · Apache-2.0
✓ Light setup✓ ब्राउज़र-आधारित✓ रियल-टाइम सहयोग
8
ZEKAI
आवश्यक LLM सुरक्षा स्कैनर
फ्री & ओपन सोर्स · साइबर सुरक्षा
सेटअप की आसानी6
उपयोगिता8
रखरखाव9.5
समुदाय8.5
★ 9,495
गिटहब
Oct 2026
अपडेटेड
Apache-2.0
लाइसेंस
🛠 खुद होस्ट नहीं करना चाहते? हम इसे सेट कर सकते हैं →
⚡ त्वरित उत्तर

Garak एक कमांड-लाइन टूल है जो स्टैटिक, डायनेमिक और एडेप्टिव प्रोब्स के माध्यम से जाँच करता है कि क्या लार्ज लैंग्वेज मॉडल अनपेक्षित तरीकों से फेल होते हैं। इसे जनरेटिव AI तैनाती का मूल्यांकन करने वाले सुरक्षा पेशेवरों और डेवलपर्स के लिए डिज़ाइन किया गया है।

इस पर चलता है
Cross-platform
होस्टिंग
Desktop
भाषाएँ
Python
लाइसेंस
Apache-2.0

यह क्या है

यह टूल हैलुसिनेशन, डेटा लीक, प्रॉम्प्ट इंजेक्शन, गलत सूचना, टॉक्सिसिटी जनरेशन और जेलब्रेक के लिए जाँच करता है। यह nmap या Metasploit की तरह काम करता है, लेकिन विशेष रूप से LLM और डायलॉग सिस्टम में कमियों का पता लगाने के लिए बनाया गया है।

किसके लिए

यह प्रोडक्शन में तैनात करने से पहले मॉडल की मजबूती का परीक्षण करने वाले सुरक्षा इंजीनियरों और AI प्रैक्टिशनर्स के लिए उपयुक्त है। यह स्वचालित, वन-क्लिक ग्राफिकल वेब इंटरफेस चाहने वाले गैर-तकनीकी उपयोगकर्ताओं के लिए उपयुक्त नहीं है।

मुख्य विशेषताएँ

स्टैटिक और डायनेमिक प्रोब्स

LLM असफलता के तरीकों का पूरी तरह से पता लगाने के लिए कई प्रोब प्रकारों को जोड़ता है।

व्यापक मॉडल समर्थन

Hugging Face, OpenAI API, AWS Bedrock, Replicate और कस्टम REST एंडपॉइंट से कनेक्ट होता है।

Metasploit-शैली का वर्कफ़्लो

पारंपरिक पैनेट्रेशन टेस्टिंग की अवधारणाओं को सीधे जनरेटिव AI के डोमेन में लाता है।

कैसे शुरू करें

3 चरणों में तैयार

1
python -m pip install -U garak का उपयोग करके PyPI से टूल इंस्टॉल करें।
2
वैकल्पिक रूप से, pip का उपयोग करके सीधे GitHub से डेवलपमेंट वर्जन इंस्टॉल करें।
3
यदि स्रोत से इंस्टॉल कर रहे हैं, तो निर्भरता (dependencies) प्रबंधित करने के लिए एक समर्पित Conda एनवायरनमेंट सेट अप करें।
सच कहें तो

हमारा ईमानदार फैसला

क्या अच्छा है

  • कार्यप्रणाली में nmap या Metasploit के समान, जिससे सुरक्षा पेशेवरों के लिए इसे समझना आसान हो जाता है।
  • Hugging Face, Bedrock और OpenAI सहित बैकएंड LLM प्रदाताओं की एक विस्तृत श्रृंखला का समर्थन करता है।
  • प्रॉम्प्ट इंजेक्शन, टॉक्सिसिटी और डेटा लीक जैसे मुद्दों की एक व्यापक सूची के लिए जाँच करता है।
  • Linux, Windows और macOS पर मल्टी-प्लेटफ़ॉर्म परीक्षण के साथ सक्रिय विकास।

कहाँ कमी है

  • अपनी विशिष्ट निर्भरता (dependencies) के साथ कमांड-लाइन इंटरफेस का उपयोग करने की आवश्यकता होती है।
  • वाणिज्यिक API के खिलाफ व्यापक स्कैन चलाने से महत्वपूर्ण टोकन उपयोग लागत आ सकती है।
  • ठीक से कॉन्फ़िगर करने के लिए सुरक्षा परीक्षण और Python पर्यावरण प्रबंधन में तकनीकी कौशल की आवश्यकता होती है।
लागत

मूल्य & लाइसेंस

अपने open source लाइसेंस के तहत निःशुल्क, जिसमें एकमात्र वित्तीय लागत सॉफ्टवेयर को चलाने और लक्षित मॉडल को स्कैन करते समय लगने वाले किसी भी API उपयोग शुल्क से आती है।

पेड वर्क

हिंदी बोलने वालों के लिए जॉब्स

879 खुले रिमोट AI-ट्रेनिंग रोल, 15 नवंबर 2026 को अपडेट; ज़्यादातर में $20–$175 प्रति घंटा। इनमें से 5 हिंदी बोलने वालों के लिए हैं। Zekai इन्हें मुफ़्त में लिस्ट करता है; आवेदन एम्प्लॉयर के प्लेटफ़ॉर्म पर जाता है।

सभी खुले रोल देखें →
तुलना

विकल्प

🎁 फ्री & ओपन-सोर्स विकल्प

ये समीक्षित AI टूल यही काम तुरंत करते हैं — हमारी स्कोर की गई डायरेक्टरी से।

और पाएं

इसे उपयोग करें, या हमसे सेट करवाएं

📄 मुफ़्त PDF: साइबर सुरक्षा के लिए garak
आपका पहला परिणाम पाने के लिए सरल भाषा में गाइड। आपके इनबॉक्स में।
🔔 64 लोग पूरा वीडियो ट्यूटोरियल चाहते हैं — अपना वोट जोड़ें
🛠 खुद सेट नहीं करना चाहते?
हम garak को आपके लिए इंस्टॉल, होस्ट और कॉन्फ़िगर करेंगे — और आपकी टीम को प्रशिक्षित करेंगे।
हमसे करवाएं ↗
प्रश्न

सामान्य प्रश्न

garak किस बात का परीक्षण करता है?

यह हैलुसिनेशन, डेटा लीक, प्रॉम्प्ट इंजेक्शन, गलत सूचना, टॉक्सिसिटी जनरेशन और जेलब्रेक के लिए जाँच करता है।

garak किन मॉडलों को स्कैन कर सकता है?

यह Hugging Face मॉडल, Replicate, OpenAI API, AWS Bedrock, LiteLLM, llama.cpp के माध्यम से स्थानीय gguf मॉडल और सामान्य REST एंडपॉइंट का समर्थन करता है।

रडार

ताज़ा AI समाचार

✉️ साप्ताहिक मुफ़्त टूलकिट
साइबर सुरक्षा के लिए सर्वश्रेष्ठ नए फ्री & ओपन-सोर्स टूल — हर हफ्ते एक छोटा ईमेल, आपकी भाषा में।
मुफ़्त · 1 ईमेल/सप्ताह · कभी भी अनसब्सक्राइब करें
AI ट्रेनिंग से पैसे कमाएँ →

Google में Zekai को सबसे पहले देखें