garak
ماسح الثغرات الأمنية لنماذج LLM الذي يفحص بحثاً عن الهلوسة، وتسريب البيانات، وتوجيه الأوامر المحقونة.
مجموعة أدوات لاختبار الاختراق والتقييم بالذكاء الاصطناعي التوليدي لفحص اخفاقات وضعف نماذج LLM.
Garak هي أداة سطر أوامر تحقق مما إذا كانت النماذج اللغوية الكبيرة تفشل بطرق غير مقصودة من خلال الفحوصات الثابتة والديناميكية والتكيفية. وهي مصممة لمحترفي الأمان والمطورين الذين يقيمون عمليات انتشار الذكاء الاصطناعي التوليدي.
ما هو
تفحص الأداة بحثاً عن الهلوسة، وتسريب البيانات، وحقن التوجيه، والمعلومات الخاطئة، وتوليد السمية، والاختراقات. وهي تعمل بشكل مشابه لـ nmap أو Metasploit، ولكنها مبنية خصيصاً لاستكشاف نقاط الضعف في نماذج LLM وأنظمة الحوار.
لمن هو
تتناسب مع مهندسي الأمان وممارسي الذكاء الاصطناعي الذين يختبرون متانة النموذج قبل نشر الإنتاج. ولا تناسب المستخدمين غير التقنيين البحثين عن واجهات ويب رسومية تلقائية بنقرة واحدة.
أهم الميزات
فحوصات ثابتة وديناميكية
يجمع بين أنواع فحص متعددة لاستكشاف أوضاع فشل LLM بدقة.
دعم واسع للنماذج
يتصل بـ Hugging Face و OpenAI API و AWS Bedrock و Replicate وناطق REST المخصصة.
سیر عمل بأسلوب Metasploit
يجلب مفاهيم اختبار الاختراق التقليدية مباشرة إلى مجال الذكاء الاصطناعي التوليدي.
جاهز للعمل في 3 خطوات
حكمنا الصادق
ما يميّزه
- يقارن بـ nmap أو Metasploit في المنهجية، مما يجعله مألوفاً لمحترفي الأمان.
- يدعم مجموعة واسعة من مزودي الخلفية لـ LLM بما في ذلك Hugging Face و Bedrock و OpenAI.
- يفحص قائمة شاملة من المشكلات مثل حقن التوجيه والسمية وتسريب البيانات.
- تطوير نشط مع اختبار متعدد المنصات عبر Linux و Windows و macOS.
أين يقصّر
- يتطلب استخدام واجهة سطر الأوامر مع مجموعة التبعيات الخاصة به.
- تشغيل عمليات مسح واسعة النطاق ضد واجهات API التجارية يمكن أن يکبد تكاليف استخدام رموز كبيرة.
- يتطلب مهارة تقنية في اختبار الأمان وإدارة بيئة Python للتكوين بشكل صحيح.
التسعير والرخصة
مجاني بموجب ترخيصه open source، مع التكلفة المالية الوحيدة القادمة من تشغيل البرمجيات وأي رسوم لاستخدام API تكبدتها أثناء فحص النماذج المستهدفة.
وظائف للناطقين بالعربية
880 وظيفة مفتوحة عن بعد في تدريب الذكاء الاصطناعي، آخر تحديث ١٥ نوفمبر ٢٠٢٦؛ أجر معظمها $20–$175 في الساعة. منها 2 وظائف تطلب متحدثين بالعربية. يعرضها ذكائي مجانًا، والتقديم يتم على منصة جهة التوظيف.
البدائل
أدوات الذكاء الاصطناعي المُراجَعة هذه تؤدي المهمة فوراً — من دليلنا المُقيَّم.
استخدمه، أو دعنا نُعِدّه لك
الأسئلة الشائعة
ما الذي يختبره garak؟
يفحص بحثاً عن الهلوسة، وتسريب البيانات، وحقن التوجيه، والمعلومات الخاطئة، وتوليد السمية، والاختراقات.
ما هي النماذج التي يمكن لـ garak مسحها؟
يدعم نماذج Hugging Face و Replicate و OpenAI API و AWS Bedrock و LiteLLM ونماذج gguf المحلية عبر llama.cpp ونقاط نهاية REST العامة.
