Um scanner de vulnerabilidades de LLM que investiga alucinações, vazamento de dados e prompt injection.
Kit de Red-teaming e avaliação de IA generativa para investigar falhas e fraquezas de LLMs.
O garak é uma ferramenta de linha de comando que verifica se grandes modelos de linguagem falham de maneiras indesejadas por meio de sondas estáticas, dinâmicas e adaptativas. Ele foi criado para profissionais de segurança e desenvolvedores que avaliam implantações de IA generativa.
A ferramenta investiga alucinações, vazamento de dados, prompt injection, desinformação, geração de toxicidade e jailbreaks. Funciona de maneira semelhante ao nmap ou Metasploit, mas foi construída especificamente para explorar fraquezas em LLMs e sistemas de diálogo.
É adequado para engenheiros de segurança e profissionais de IA que testam a robustez do modelo antes da implantação em produção. Não é adequado para usuários não técnicos que buscam interfaces web gráficas automatizadas e de um clique.
Combina vários tipos de sondas para explorar exaustivamente os modos de falha de LLMs.
Conecta-se ao Hugging Face, OpenAI API, AWS Bedrock, Replicate e endpoints REST personalizados.
Traz conceitos tradicionais de teste de penetração diretamente para o domínio da IA generativa.
Gratuito sob sua licença open source, sendo que o único custo financeiro vem da execução do software e de quaisquer taxas de uso de API incorridas ao escanear modelos de destino.
879 vagas remotas abertas de treinamento de IA, atualizadas em 15 de novembro de 2026; a maioria paga $20–$175 por hora. 8 delas pedem falantes de português. O Zekai lista de graça; a candidatura vai para a plataforma do empregador.
Estas ferramentas de IA avaliadas fazem o mesmo trabalho na hora — do nosso diretório avaliado.
Ele investiga alucinações, vazamento de dados, prompt injection, desinformação, geração de toxicidade e jailbreaks.
Ele suporta modelos do Hugging Face, Replicate, OpenAI API, AWS Bedrock, LiteLLM, modelos gguf locais via llama.cpp e endpoints REST gerais.
Veja o Zekai primeiro no Google