garak
Un escáner de vulnerabilidades para LLM que busca alucinaciones, fugas de datos y inyecciones de comandos.
Kit de evaluación y red-teaming de IA generativa para explorar fallos y debilidades de LLM.
Garak es una herramienta de línea de comandos que comprueba si los grandes modelos de lenguaje fallan de formas no deseadas mediante pruebas estáticas, dinámicas y adaptativas. Está diseñada para profesionales de la seguridad y desarrolladores que evalúan despliegues de IA generativa.
Qué es
La herramienta busca alucinaciones, fugas de datos, inyección de comandos, desinformación, generación de toxicidad y jailbreaks. Funciona de manera similar a nmap o Metasploit, pero está diseñada específicamente para explorar debilidades en LLMs y sistemas de diálogo.
Para quién
Es adecuada para ingenieros de seguridad y profesionales de la IA que prueban la solidez del modelo antes de su despliegue en producción. No es adecuada para usuarios no técnicos que buscan interfaces web gráficas automatizadas de un solo clic.
Funciones clave
Pruebas estáticas y dinámicas
Combina múltiples tipos de pruebas para explorar a fondo los modos de fallo de los LLM.
Amplio soporte de modelos
Se conecta a Hugging Face, OpenAI API, AWS Bedrock, Replicate y endpoints REST personalizados.
Flujo de trabajo al estilo Metasploit
Lleva conceptos tradicionales de pruebas de penetración directamente al ámbito de la IA generativa.
Listo en 3 pasos
Nuestro veredicto honesto
Lo mejor
- Su metodología se compara con nmap o Metasploit, lo que resulta familiar para los profesionales de la seguridad.
- Compatible con una amplia gama de proveedores de LLM de backend, incluidos Hugging Face, Bedrock y OpenAI.
- Analiza una lista exhaustiva de problemas como inyección de comandos, toxicidad y fugas de datos.
- Desarrollo activo con pruebas multiplataforma en Linux, Windows y macOS.
Sus límites
- Requiere el uso de la interfaz de línea de comandos con su propio conjunto específico de dependencias.
- Ejecutar análisis exhaustivos en APIs comerciales puede generar costes significativos por el uso de tokens.
- Requiere conocimientos técnicos en pruebas de seguridad y gestión de entornos de Python para configurarlo correctamente.
Precios y licencia
Gratis bajo su licencia open source, siendo el único coste financiero el derivado de ejecutar el software y cualquier tarifa de uso de la API incurrida al escanear los modelos objetivo.
Empleos para hispanohablantes
879 puestos remotos abiertos de entrenamiento de IA, actualizados el 15 de noviembre de 2026; la mayoría paga $20–$175 por hora. 22 de ellos piden hispanohablantes. Zekai los lista gratis; la solicitud va a la plataforma del empleador.
Alternativas
Estas herramientas de IA evaluadas hacen el mismo trabajo al instante — de nuestro directorio puntuado.
Úsalo, o deja que lo configuremos
FAQ
¿Qué evalúa garak?
Busca alucinaciones, fugas de datos, inyección de comandos, desinformación, generación de toxicidad y jailbreaks.
¿Qué modelos puede escanear garak?
Es compatible con modelos de Hugging Face, Replicate, OpenAI API, AWS Bedrock, LiteLLM, modelos locales gguf mediante llama.cpp y endpoints REST generales.
