garak
Сканер уязвимостей LLM, проверяющий модели на галлюцинации, утечки данных и prompt injection.
Набор для red-тестирования и оценки генеративного ИИ для поиска сбоев и слабых мест LLM.
Garak — это инструмент командной строки, который проверяет большие языковые модели на непредвиденные сбои с помощью статических, динамических и адаптивных зондов. Он предназначен для специалистов по безопасности и разработчиков, оценивающих развертывания генеративного ИИ.
Что это
Инструмент проверяет наличие галлюцинаций, утечек данных, prompt injection, дезинформации, генерации токсичного контента и jailbreak. Он работает аналогично nmap или Metasploit, но создан специально для поиска слабых мест в LLM и диалоговых системах.
Для кого
Он подходит инженерам по безопасности и специалистам по ИИ, тестирующим надежность модели перед развертыванием в production. Он не подходит нетехническим пользователям, ищущим автоматизированные графические веб-интерфейсы в один клик.
Ключевые возможности
Статические и динамические зонды
Сочетает в себе несколько типов зондов для тщательного изучения режимов сбоев LLM.
Широкая поддержка моделей
Подключается к Hugging Face, OpenAI API, AWS Bedrock, Replicate и кастомным REST endpoint'ам.
Рабочий процесс в стиле Metasploit
Переносит концепции традиционного тестирования на проникновение непосредственно в область генеративного ИИ.
Готово за 3 шага
Наш честный вердикт
Плюсы
- Похож на nmap или Metasploit по методологии, что делает его привычным для специалистов по безопасности.
- Поддерживает широкий спектр бэкенд-провайдеров LLM, включая Hugging Face, Bedrock и OpenAI.
- Проверяет исчерпывающий список проблем, таких как prompt injection, токсичность и утечки данных.
- Активная разработка с кроссплатформенным тестированием на Linux, Windows и macOS.
Минусы
- Требует использования интерфейса командной строки со своим специфическим набором зависимостей.
- Запуск масштабных сканирований коммерческих API может повлечь за собой значительные расходы на токены.
- Требует технических навыков в тестировании безопасности и управлении средой Python для правильной настройки.
Цены и лицензия
Бесплатно под лицензией open source, единственные финансовые затраты связаны с запуском ПО и платой за использование API при сканировании целевых моделей.
Вакансии для носителей русского языка
879 открытых удалённых вакансий по обучению ИИ, обновлено 15 ноября 2026 г.; в большинстве оплата $20–$175 в час. Из них 2 — для носителей русского языка. Zekai публикует их бесплатно; отклик уходит на платформу работодателя.
Альтернативы
Эти проверенные ИИ-инструменты делают то же самое мгновенно — из нашего оценённого каталога.
Используйте сами или мы всё настроим
Вопросы
Что тестирует garak?
Он проверяет на наличие галлюцинаций, утечек данных, prompt injection, дезинформации, генерации токсичного контента и jailbreak.
Какие модели может сканировать garak?
Он поддерживает модели Hugging Face, Replicate, OpenAI API, AWS Bedrock, LiteLLM, локальные gguf модели через llama.cpp и общие REST endpoint'ы.
