Execute modelos de LLM, áudio, visão e imagem localmente usando endpoints de API compatíveis com OpenAI, Anthropic e ElevenLabs.
Sirva LLMs locais, fala e modelos de imagem atrás de endpoints de API padrão em qualquer hardware de CPU ou GPU.
O LocalAI é um mecanismo de inferência auto-hospedado que serve modelos locais por meio de APIs padrão compatíveis com OpenAI, Anthropic e ElevenLabs. Ele roda em CPUs de consumidor, Apple Silicon e GPUs dedicadas, sem exigir hardware proprietário ou acesso à nuvem. Você pode usá-lo para criar aplicativos de IA com foco em privacidade e ferramentas de software em sua própria infraestrutura.
A plataforma executa motores de backend como llama.cpp, vLLM e whisper.cpp como backends de contêiner modulares baixados sob demanda para lidar com modelos de texto, visão, áudio e vídeo. Ela inclui autenticação de locatários, rastreamento de uso por usuário e um agente de terminal embutido que executa comandos mediante aprovação. Ela também suporta o download direto de modelos do HuggingFace, registros do Ollama e imagens OCI.
É adequado para engenheiros de software e equipes de TI que precisam de endpoints de IA auto-hospedados e em conformidade com a privacidade para construir aplicativos ou servir modelos locais. É ideal para ambientes onde os dados devem permanecer on-premise ou os custos de API em nuvem são proibitivos. Não se destina a usuários não técnicos que procuram um cliente de desktop de um clique sem configuração de contêiner.
Baixa imagens de backend modulares como llama.cpp ou vLLM apenas quando modelos específicos as exigem.
Substitui endpoints remotos da OpenAI, Anthropic, ElevenLabs e Ollama por servidores de modelos locais.
Executa modelos em backends de CPU, NVIDIA CUDA, AMD ROCm, Intel oneAPI, Apple Silicon e Vulkan.
Inclui fluxos de trabalho de agente de terminal capazes de invocação de ferramentas, inspeção de arquivos e processamento de consultas RAG.
Gerencia autenticação de locatários, cotas por usuário, chaves de API e rastreamento detalhado de uso de recursos.
O LocalAI é gratuito e open source sob a licença MIT. O único custo envolvido vem do provisionamento do hardware local, infraestrutura de servidor e eletricidade necessários para executar os modelos.
873 vagas remotas abertas de treinamento de IA, atualizadas em 15 de novembro de 2026; a maioria paga $20–$170 por hora. 8 delas pedem falantes de português. O Zekai lista de graça; a candidatura vai para a plataforma do empregador.
Estas ferramentas de IA avaliadas fazem o mesmo trabalho na hora — do nosso diretório avaliado.
Não, o LocalAI suporta execução pura em CPU juntamente com aceleração NVIDIA, AMD, Intel, Apple Silicon e Vulkan.
Ele usa uma arquitetura composível que puxa dependências de backend como imagens de contêiner separadas apenas quando um modelo precisa delas.
Sim, o LocalAI expõe endpoints REST compatíveis com a OpenAI para que você possa alterar a URL base em suas bibliotecas de cliente existentes.
Veja o Zekai primeiro no Google