Ferramentas de IA avaliadas para o seu trabalho
Ganhe treinando IA
🤝 Você está na biblioteca Grátis & Open Source — ferramentas feitas pela comunidade que você pode usar sem pagar. Um conceito diferente do nosso diretório de IA avaliado.
Início › Grátis & Open Source › Cibersegurança › garak
✦ Grátis & open sourceCibersegurança

garak

Um scanner de vulnerabilidades de LLM que investiga alucinações, vazamento de dados e prompt injection.

Garak: O Scanner de Vulnerabilidades de LLM

Kit de Red-teaming e avaliação de IA generativa para investigar falhas e fraquezas de LLMs.

Grátis para sempre · open source · Apache-2.0
✓ Light setup✓ No navegador✓ Colaboração em tempo real
8
ZEKAI
Scanner de segurança de LLM essencial
Grátis & open source · Cibersegurança
Facilidade de configuração6
Utilidade8
Manutenção9.5
Comunidade8.5
★ 9,495
GITHUB
Oct 2026
ATUALIZADO
Apache-2.0
LICENÇA
🛠 Não quer hospedar você mesmo? Nós configuramos para você →
⚡ Resposta rápida

O garak é uma ferramenta de linha de comando que verifica se grandes modelos de linguagem falham de maneiras indesejadas por meio de sondas estáticas, dinâmicas e adaptativas. Ele foi criado para profissionais de segurança e desenvolvedores que avaliam implantações de IA generativa.

Funciona em
Cross-platform
Hospedagem
Desktop
Idiomas
Python
Licença
Apache-2.0

O que é

A ferramenta investiga alucinações, vazamento de dados, prompt injection, desinformação, geração de toxicidade e jailbreaks. Funciona de maneira semelhante ao nmap ou Metasploit, mas foi construída especificamente para explorar fraquezas em LLMs e sistemas de diálogo.

Para quem

É adequado para engenheiros de segurança e profissionais de IA que testam a robustez do modelo antes da implantação em produção. Não é adequado para usuários não técnicos que buscam interfaces web gráficas automatizadas e de um clique.

Recursos principais

Sondas estáticas e dinâmicas

Combina vários tipos de sondas para explorar exaustivamente os modos de falha de LLMs.

Amplo suporte a modelos

Conecta-se ao Hugging Face, OpenAI API, AWS Bedrock, Replicate e endpoints REST personalizados.

Fluxo de trabalho estilo Metasploit

Traz conceitos tradicionais de teste de penetração diretamente para o domínio da IA generativa.

Como começar

Pronto em 3 passos

1
Instale a ferramenta a partir do PyPI usando python -m pip install -U garak.
2
Alternativamente, instale a versão de desenvolvimento diretamente do GitHub usando o pip.
3
Configure um ambiente Conda dedicado para gerenciar dependências caso faça a instalação a partir do código-fonte.
Falando sério

Nosso veredito honesto

Pontos fortes

  • Compara-se ao nmap ou Metasploit na metodologia, tornando-o familiar para profissionais de segurança.
  • Suporta uma ampla variedade de provedores de LLM de backend, incluindo Hugging Face, Bedrock e OpenAI.
  • Investiga uma lista abrangente de problemas como prompt injection, toxicidade e vazamento de dados.
  • Desenvolvimento ativo com testes multiplataforma em Linux, Windows e macOS.

Onde deixa a desejar

  • Requer o uso da interface de linha de comando com seu próprio conjunto específico de dependências.
  • Executar varreduras extensas em APIs comerciais pode gerar custos significativos de uso de tokens.
  • Requer habilidade técnica em testes de segurança e gerenciamento de ambiente Python para configurar corretamente.
Custo

Preços & licença

Gratuito sob sua licença open source, sendo que o único custo financeiro vem da execução do software e de quaisquer taxas de uso de API incorridas ao escanear modelos de destino.

Trabalho remunerado

Vagas para quem fala português

879 vagas remotas abertas de treinamento de IA, atualizadas em 15 de novembro de 2026; a maioria paga $20–$175 por hora. 8 delas pedem falantes de português. O Zekai lista de graça; a candidatura vai para a plataforma do empregador.

Ver todas as vagas abertas →
Comparar

Alternativas

🎁 Alternativas grátis & open source

Estas ferramentas de IA avaliadas fazem o mesmo trabalho na hora — do nosso diretório avaliado.

Saiba mais

Use, ou deixe que a gente configure

📄 PDF grátis: garak para Cibersegurança
Um guia em linguagem simples para o seu primeiro resultado. Enviado ao seu e-mail.
🔔 64 pessoas querem um tutorial em vídeo completo — adicione seu voto
🛠 Não quer configurar você mesmo?
Nós instalamos, hospedamos e configuramos o garak para você — e treinamos sua equipe.
Deixe com a gente ↗
Perguntas

FAQ

O que o garak testa?

Ele investiga alucinações, vazamento de dados, prompt injection, desinformação, geração de toxicidade e jailbreaks.

Quais modelos o garak pode escanear?

Ele suporta modelos do Hugging Face, Replicate, OpenAI API, AWS Bedrock, LiteLLM, modelos gguf locais via llama.cpp e endpoints REST gerais.

Radar

Últimas notícias de IA

✉️ O kit gratuito semanal
As melhores novas ferramentas grátis & open source para Cibersegurança — um e-mail curto por semana, no seu idioma.
Grátis · 1 e-mail/semana · cancele quando quiser
Ganhe dinheiro treinando IA →

Veja o Zekai primeiro no Google