garak
Halisinasyonları, veri sızıntılarını ve prompt injection açıklarını test eden bir LLM güvenlik zafiyeti tarayıcısı.
LLM hatalarını ve zayıflıklarını test etmek için Üretken Yapay Zeka Red-teaming ve Değerlendirme Kiti.
Garak; statik, dinamik ve uyarlamalı testler aracılığıyla büyük dil modellerinin istenmeyen şekillerde başarısız olup olmadığını kontrol eden bir komut satırı aracıdır. Üretken yapay zeka dağıtımlarını değerlendiren güvenlik uzmanları ve geliştiriciler için tasarlanmıştır.
Nedir
Araç halüsinasyonları, veri sızıntılarını, prompt injection açıklarını, yanlış bilgileri, toksisite üretimini ve jailbreak durumlarını test eder. nmap veya Metasploit'e benzer şekilde çalışır, ancak özellikle LLM'lerdeki ve diyalog sistemlerindeki zayıflıkları keşfetmek için oluşturulmuştur.
Kimler için
Üretim ortamına geçişten önce model dayanıklılığını test eden güvenlik mühendisleri ve yapay zeka uygulayıcıları için uygundur. Otomatik, tek tıkla çalışan grafiksel web arayüzleri arayan teknik olmayan kullanıcılar için uygun değildir.
Temel özellikler
Statik ve dinamik testler
LLM hata modlarını kapsamlı bir şekilde keşfetmek için birden fazla test türünü birleştirir.
Geniş model desteği
Hugging Face, OpenAI API, AWS Bedrock, Replicate ve özel REST uç noktalarına bağlanır.
Metasploit tarzı iş akışı
Geleneksel sızma testi konseptlerini doğrudan üretken yapay zeka alanına taşır.
3 adımda hazır
Dürüst kararımız
Artıları
- Metodoloji olarak nmap veya Metasploit ile benzerlik göstererek güvenlik profesyonellerine aşinalık sunar.
- Hugging Face, Bedrock ve OpenAI dahil olmak üzere çok çeşitli arka uç LLM sağlayıcılarını destekler.
- Prompt injection, toksisite ve veri sızıntısı gibi kapsamlı bir sorun listesini test eder.
- Linux, Windows ve macOS üzerinde çoklu platform testleriyle aktif geliştirme sürecindedir.
Eksileri
- Kendi özel bağımlılık kümesiyle komut satırı arayüzünün kullanılmasını gerektirir.
- Ticarî API'lere karşı kapsamlı taramalar çalıştırmak önemli token kullanım maliyetlerine yol açabilir.
- Doğru şekilde yapılandırmak için güvenlik testi ve Python ortam yönetimi konularında teknik beceri gerektirir.
Fiyatlar & lisans
Open source lisansı altında ücretsizdir; tek finansal maliyeti, yazılımı çalıştırmaktan ve hedef modelleri tararken oluşan API kullanım ücretlerinden kaynaklanır.
Türkçe konuşanlar için işler
880 açık uzaktan yapay zeka eğitimi işi, 15 Kasım 2026 tarihinde güncellendi; çoğu saatlik $20–$175 ödüyor. Bunların 2 tanesi Türkçe konuşanlar için. Zekai ücretsiz listeler; başvuru işverenin platformunda yapılır.
Alternatifler
İncelenmiş bu AI araçları aynı işi anında yapar — puanlı dizinimizden.
Kullanın ya da biz kuralım
SSS
Garak neyi test eder?
Halüsinasyonları, veri sızıntılarını, prompt injection açıklarını, yanlış bilgileri, toksisite üretimini ve jailbreak'leri test eder.
Garak hangi modelleri tarayabilir?
Hugging Face modellerini, Replicate, OpenAI API, AWS Bedrock, LiteLLM, llama.cpp üzerinden yerel gguf modellerini ve genel REST uç noktalarını destekler.
