قم بتشغيل نماذج LLMs، الصوت، الرؤية، والصور محلياً باستخدام نقاط نهاية API المتوافقة مع OpenAI، Anthropic، وElevenLabs.
قم بتقديم نماذج LLMs المحلية، والكلام، والصور خلف نقاط نهاية API قياسية على أي وحدة معالجة مركزية (CPU) أو رسومية (GPU).
LocalAI هو محرك استدلال ذاتي الاستضافة يقدم نماذج محلية من خلال واجهات برمجة تطبيقات قياسية تتطابق مع OpenAI، Anthropic، وElevenLabs. يعمل على وحدات المعالجة المركزية للمستهلكين، Apple Silicon، وحدات معالجة الرسوميات المخصصة دون الحاجة إلى أجهزة احتكارية أو وصول سحابي. يمكنك استخدامه لبناء تطبيقات وأدوات برمجية تركز على الخصوصية على بنيتك التحتية الخاصة.
تشغل المنصة محركات خلفية مثل llama.cpp، vLLM، وwhisper.cpp كحاويات خلفية نمطية يتم جلبها عند الطلب للتعامل مع نماذج النص، والرؤية، والصوت، والفيديو. تتضمن مصادقة المستأجرين، وتتبع الاستخدام لكل مستخدم، وكيل طرفية مدمج ينفذ الأوامر عند الموافقة. كما يدعم السحب المباشر للنماذج من HuggingFace، سجلات Ollama، وصور OCI.
هذا المحرك مناسب لمهندسي البرمجيات وفرق تكنولوجيا المعلومات الذين يحتاجون إلى نقاط نهاية ذكاء اصطناعي ذاتية الاستضافة ومتوافقة مع الخصوصية لبناء التطبيقات أو تقديم النماذج المحلية. إنه مثالي للبيئات التي يجب فيها بقاء البيانات محلياً أو عندما تكون تكاليف API السحابية باهظة. وهو غير مخصص للمستخدمين غير التقنيين الذين يبحثون عن عميل سطح مكتب بنقرة واحدة بدون أي تكوين للحاويات.
تقوم بتنزيل صور خلفية نمطية مثل llama.cpp أو vLLM فقط عندما تتطلبها نماذج محددة.
يستبدل نقاط نهاية OpenAI، Anthropic، ElevenLabs، وOllama البعيدة بخوادم نماذج محلية.
ينفيذ النماذج عبر بيئات CPU، NVIDIA CUDA، AMD ROCm، Intel oneAPI، Apple Silicon، وVulkan.
يتضمن سير عمل وكيل الطرفية القادر على استدعاء الأدوات، فحص الملفات، ومعالجة استعلامات RAG.
يدير مصادقة المستأجرين، حصص الاستخدام لكل مستخدم، مفاتيح API، وتتبع تفصيلي لاستخدام الموارد.
LocalAI مجاني ومفتوح المصدر بموجب ترخيص MIT. التكلفة الوحيدة المعنية تنشأ من توفير الأجهزة المحلية، والبنية التحتية للخادم، والكهرباء اللازمة لتشغيل النماذج.
874 وظيفة مفتوحة عن بعد في تدريب الذكاء الاصطناعي، آخر تحديث ١٥ نوفمبر ٢٠٢٦؛ أجر معظمها $20–$170 في الساعة. منها 2 وظائف تطلب متحدثين بالعربية. يعرضها ذكائي مجانًا، والتقديم يتم على منصة جهة التوظيف.
أدوات الذكاء الاصطناعي المُراجَعة هذه تؤدي المهمة فوراً — من دليلنا المُقيَّم.
لا، يدعم LocalAI التنفيذ البحت على CPU إلى جانب تسريع NVIDIA، AMD، Intel، Apple Silicon، وVulkan.
يستخدم هندسة قابلة للتركيب تسحب تبعيات الخلفية كصور حاويات منفصلة فقط عندما يحتاج النموذج إليها.
نعم، يكشف LocalAI عن نقاط نهاية REST متوافقة مع OpenAI حتى تتمكن من تغيير عنوان URL الأساسي في مكتبات العملاء الحالية لديك.
شاهد Zekai أولاً في جوجل