محرك ذكاء اصطناعي هجين بين الحافة والسحابة يوفر نماذج لغة كبيرة محلية، ونماذج رؤية، وخدمات تفريغ صوتي للأجهزة المحمولة والأجهزة القابلة للارتداء.
قم بتشغيل نماذج لغة كبيرة مُكممة، ونماذج رؤية، وتفريغ صوتي بشكل أصلي على الهواتف المحمولة والأجهزة القابلة للارتداء.
Cactus هو محرك استدلال عالي الأداء مخصص للأجهزة المحمولة والأجهزة القابلة للارتداء، ويدعم نماذج النصوص والصوت والرؤية. يناسب مطوري الأجهزة المحمولة والمهندسين الذين يتطلعون إلى نشر خطوط أنابيب ذكاء اصطناعي محلية مع إمكانية التسليم السحابي الاختياري.
يوفر رسم بياني للحوسبة بدون نسخ، ونواة معالجة مركزية ورسومية عبر بنيات متعددة، وتقنيات تكميم مخصصة تعتمد على الدوران تتراوح من 4 بت وصولاً إلى 1 بت. يتيح المحرك واجهات برمجة تطبيقات متوافقة مع OpenAI ويتعامل تلقائياً مع الاسترجاع المعزز للتوليد (RAG) جنباً إلى جنب مع استدعاء الأدوات على الجهاز عبر نموذج Needle الخاص به.
يناسب المطورين الذين يدمجون الذكاء الاصطناعي على الجهاز في تطبيقات iOS أو Android أو macOS أو التطبيقات المضمنة. لا يناسب الفرق التي تتطلب استدلالاً مستضافاً سحابياً بالكامل دون قيود الأجهزة المحلية.
تقنيات تكميم مخصصة تقيس النماذج من دقة أوزان 4 بت وصولاً إلى 1 بت.
يتعامل رسم Cactus البياني المحسن مع عمليات التناسور، ضرب المصفوفات، والانتباه محلياً.
يوفر محرك Cactus واجهات قياسية لإكمال الدردشة، البث، الرؤية، واستدعاء الأدوات.
يقوم بتوجيه الاستعلامات الصعبة تلقائياً إلى السحابة بناءً على عتبات ثقة النموذج المحلي.
البرنامج مفتوح المصدر بدون رسوم ترخيص محددة في بيانات المستودع الوصفية. التكلفة الوحيدة هي تشغيله بنفسك على الأجهزة المحلية أو دفع تكاليف استخدام واجهة برمجة التطبيقات للتسليم السحابي.
876 وظيفة مفتوحة عن بعد في تدريب الذكاء الاصطناعي، آخر تحديث ١٥ نوفمبر ٢٠٢٦؛ أجر معظمها $20–$170 في الساعة. منها 2 وظائف تطلب متحدثين بالعربية. يعرضها ذكائي مجانًا، والتقديم يتم على منصة جهة التوظيف.
تم اختبار عائلات نماذج Liquid و Gemma و Whisper و Parakeet و Qwen صراحة، إلى جانب أي نموذج من HuggingFace عبر التحويل.
نعم، يتضمن وضعاً هجيناً يوجّه الاستعلامات الصعبة إلى السحابة عندما تنخفض ثقة النموذج المحلي عن عتبة محددة.
شاهد Zekai أولاً في جوجل