AngelSlim
مجموعة أدوات ضغط النماذج لسير عمل نماذج LLM وVLM والانتشار بكفاءة.
مجموعة أدوات شاملة لضغط وتكميم وتقطير نماذج LLM وVLM ونماذج الانتشار.
AngelSlim هي مجموعة أدوات مفتوحة المصدر لضغط النماذج صممتها Tencent للنماذج الكبيرة مثل Hunyuan وQwen وDeepSeek. وهي مناسبة لمهندسي الصوت والذكاء الاصطناعي وبنية النماذج الذين يحتاجون إلى تقليل مساحة النماذج من خلال التكميم المتقدم وفك التشفير التخميني.
ما هو
توفر مجموعة الأدوات إطار عمل موحداً لخوارزميات التكميم مثل INT4 وFP8 وNVFP4، إلى جانب أطر عمل فك التشفير التخميني مثل Eagle3 وDFlare وDFly. كما تدمج آليات الانتباه المتفرق وتقطير الوعي بالتكميم القائم على الحجم لتحسين نشر النماذج الكبيرة.
لمن هو
تتناسب مع مهندسي وباحثي التعلم الآلي الذين ينشرون نماذج لغوية ضخمة أو متعددة الوسائط على الأجهزة المحدودة. ولا تتناسب مع ممارسي الصوت الباحثين عن إضافات محطات عمل الصوت الرقمي عالية المستوى أو المبدعين غير التقنيين.
أهم الميزات
تكميم متنوع
يدعم خوارزميات FP8 وINT8 وINT4 وNVFP4 وخوارزميات التكميم الثلاثي المخصصة.
فك التشفير التخميني
ينفذ أطر عمل Eagle3 وDFlare وDFly وMTP لتسريع الاستدلال الشامل.
الانتباه المتفرق
يضمن خوارزميات الانتباه المتفرق لكتل Stem وMInference لتسريع التعبئة المسبقة للسياق الطويل.
التقطير المكمم
يوفر دعم التقطير الواعي بالتكميم على Megatron-Core للتدريب الموزع.
جاهز للعمل في 3 خطوات
حكمنا الصادق
ما يميّزه
- ي دمج خوارزميات الضغط السائدة في إطار عمل موحد واحد
- يدعم طرق التكميم المتطرفة وصولاً إلى إصدارات النماذج 1.25-bit و2-bit
- يوفر استراتيجيات فك تشفير تخميني متخصصة مثل دمج طبقات انتشار الكتل
- يمكن من تكميم النماذج الكبيرة مثل Qwen3-235B وDeepSeek-R1 على وحدة رسوميات (GPU) واحدة
أين يقصّر
- يتطلب مهارة تقنية متقدمة في أطر عمل التعلم العميق والتدريب الموزع
- لا يذكر ترخيصاً محدداً مفتوح المصدر في بيانات تعريف مستودعه
- لا يزال تشغيل النماذج المضغوطة الضخمة يتطلب موارد كبيرة من وحدة الرسوميات أو ذاكرة النظام
التسعير والرخصة
يتم توفير البرنامج عبر مستودع GitHub الخاص به، والتكلفة الوحيدة هي تشغيله بنفسك على أجهزتك الخاصة.
وظائف للناطقين بالعربية
876 وظيفة مفتوحة عن بعد في تدريب الذكاء الاصطناعي، آخر تحديث ١٥ نوفمبر ٢٠٢٦؛ أجر معظمها $20–$170 في الساعة. منها 2 وظائف تطلب متحدثين بالعربية. يعرضها ذكائي مجانًا، والتقديم يتم على منصة جهة التوظيف.
