LocalAI
OpenAI, Anthropic ve ElevenLabs API uç noktalarıyla uyumlu drop-in yapısını kullanarak LLM'leri, ses, görme ve görsel modellerini yerel olarak çalıştırın.
Herhangi bir CPU veya GPU donanımı üzerinde standart API uç noktaları arkasında yerel LLM, konuşma ve görsel modellerine hizmet verin.
LocalAI, OpenAI, Anthropic ve ElevenLabs ile eşleşen standart API'ler aracılığıyla yerel modellere hizmet veren self-hosted bir çıkarım motorudur. Özel donanım veya bulut erişimi gerektirmeden tüketici sınıfı CPU'larda, Apple Silicon'da ve özel GPU'larda çalışır. Gizlilik odaklı AI uygulamaları ve yazılım araçları oluşturmak için kendi altyapınızda kullanabilirsiniz.
Nedir
Platform, metin, görme, ses ve video modellerini işlemek için talep üzerine çekilen llama.cpp, vLLM ve whisper.cpp gibi arka uç motorlarını modüler kapsayıcı arka uçları olarak çalıştırır. Kiracı kimlik doğrulaması, kullanıcı başına kullanım takibi ve onay üzerine komutlar çalıştıran yerleşik bir terminal ajanı içerir. Ayrıca HuggingFace, Ollama kayıt defterleri ve OCI imajlarından doğrudan model indirmeyi destekler.
Kimler için
Uygulamalar oluşturmak veya yerel modellere hizmet vermek için self-hosted, gizliliğe uygun AI uç noktalarına ihtiyaç duyan yazılım mühendisleri ve IT ekipleri için uygundur. Verilerin şirket içinde kalması gereken veya bulut API maliyetlerinin çok yüksek olduğu ortamlar için idealdir. Hiçbir kapsayıcı yapılandırması gerektirmeyen tek tıkla çalışan bir masaüstü istemcisi arayan teknik olmayan kullanıcılara yönelik değildir.
Temel özellikler
Talep üzerine arka uç mimarisi
Belirli modeller gerektirdiğinde llama.cpp veya vLLM gibi modüler arka uç imajlarını yalnızca o zaman indirir.
Drop-in API uyumluluğu
Uzak OpenAI, Anthropic, ElevenLabs ve Ollama uç noktalarını yerel model sunucularıyla değiştirir.
Çoklu donanım işlem desteği
Modelleri CPU, NVIDIA CUDA, AMD ROCm, Intel oneAPI, Apple Silicon ve Vulkan arka uçlarında çalıştırır.
Yerleşik otonom ajan motoru
Araç çağırma, dosya inceleme ve RAG sorgu işleme yeteneklerine sahip terminal ajanı iş akışları içerir.
Çok kullanıcıklı erişim kontrolü
Kiracı kimlik doğrulamasını, kullanıcı başına kotaları, API anahtarlarını ve ayrıntılı kaynak kullanımı takibini yönetir.
3 adımda hazır
Dürüst kararımız
Artıları
- Birleştirilmiş API sözleşmeleri aracılığıyla LLM, görme, ses üretimi ve konuşma tanıma modellerine hizmet verir.
- Katı bir şekilde pahalı ayrık GPU'lar gerektirmeden doğrudan standart CPU donanımı üzerinde çalışır.
- Paylaşılan ekip erişimi için kutudan çıktığı gibi çoklu kullanıcı yönetimi, API anahtarları ve oran kotaları içerir.
- Modelleri doğrudan HuggingFace, Ollama OCI kayıt defterlerinden, standart kapsayıcı kayıt defterlerinden veya YAML yapılandırmalarından yükler.
Eksileri
- Docker veya kapsayıcı çalışma zamanı yapılandırması, sürücü kurulumu ve komut satırı yönetimi gerektirir.
- CPU tabanlı altyapıda daha büyük modelleri çalıştırmak, GPU yürütmesine göre önemli ölçüde daha yüksek gecikme süresi sağlar.
- Yerel model depolama alanını, RAM tahsislerini ve arka uç imaj indirmelerini yönetmek sürekli sistem bakımı gerektirir.
Fiyatlar & lisans
LocalAI, MIT lisansı altında ücretsiz ve open source bir yazılımdır. İlgili tek maliyet, modelleri çalıştırmak için gereken yerel donanımın, sunucu altyapısının ve elektriğin sağlanmasından kaynaklanır.
Türkçe konuşanlar için işler
874 açık uzaktan yapay zeka eğitimi işi, 15 Kasım 2026 tarihinde güncellendi; çoğu saatlik $20–$170 ödüyor. Bunların 2 tanesi Türkçe konuşanlar için. Zekai ücretsiz listeler; başvuru işverenin platformunda yapılır.
Alternatifler
İncelenmiş bu AI araçları aynı işi anında yapar — puanlı dizinimizden.
Kullanın ya da biz kuralım
SSS
LocalAI çalıştırmak için bir GPU'ya ihtiyacım var mı?
Hayır, LocalAI, NVIDIA, AMD, Intel, Apple Silicon ve Vulkan hızlandırmasının yanı sıra saf CPU yürütmesini de destekler.
LocalAI düşük bir kaynak ayak izini nasıl koruyor?
Bir modelin arka uç bağımlılıklarına yalnızca ihtiyaç duyduğunda ayrı kapsayıcı imajları olarak çeken birleştirilebilir bir mimari kullanır.
LocalAI'ı OpenAI API çağrılarının doğrudan yerine kullanabilir miyim?
Evet, LocalAI, mevcut istemci kütüphanelerinizdeki temel URL'yi değiştirmenize olanak tanıyan OpenAI uyumlu REST uç noktaları sunar.
