Rehber bağlantılı sınav · Orta Seviye
Ajan Korkulukları Testi
Çıkış ve giriş filtrelerini, en az ayrıcalıklı araçları, kırmızı ekip oluşturmayı, NIST izlemeyi ve güvenlik kontrollerinin sınırlarını değerlendirin.
Soru 1 arasında 8
Ajan korkuluklarının asıl amacı nedir?
Her soruyu önizleyin8 sorular
Testi çözdüğünüzde cevaplar ve açıklamalar görünür.
- Ajan korkuluklarının asıl amacı nedir?
- Güvenlik ve uyumluluk amacıyla bir temsilcinin yapabileceklerini, söyleyebileceklerini veya erişebileceklerini kısıtlamak
- Temsilcilerin daha yavaş yanıt vermesini sağlamak için
- Temsilcinin kelime dağarcığını artırmak için
- Temel modeli tamamen değiştirmek için
- Bir 'çıkış korkuluğu' tipik olarak ne işe yarar?
- Yalnızca gelen kullanıcı istemlerini ekranlar
- Temsilcinin yanıtlarını teslimattan önce toksik, yanlış veya uygunsuz içerik açısından kontrol eder
- Modelin eğitimini hızlandırır
- Temsilciye daha fazla araç erişimi sağlar
- 'En az ayrıcalık ilkesi' korkuluklara nasıl uygulanır?
- Temsilciye mümkün olan her türlü izin verilmiştir
- Temsilci hiçbir şey için izin istememelidir
- Aracı yalnızca dar kapsamlı araçlara, anahtarlara ve ihtiyaç duyduğu sınırlamalara sahip olur
- Kolaylık sağlamak için temsilciye yönetici erişimi verildi
- Korkuluklarda kullanılan 'yargıç' veya doğrulayıcı model nedir?
- Temsilcinin ana yanıtlarını oluşturmak için
- Kullanıcı şifrelerini saklamak için
- Yalnızca dilleri çevirmek için
- Temsilcinin çıktılarına güvenlik veya doğruluk açısından not vermek veya doğruluk kontrolü yapmak
- Korkulukları düşman girdilerine karşı test etmek neden önemlidir?
- Saldırganlar jailbreak yapmayı denedikleri için korkuluklara körü körüne güvenmek yerine incelenmeleri gerekiyor
- Aracıyı bilerek yavaşlatır
- Herhangi bir kurala olan ihtiyacı ortadan kaldırır
- Modelin asla hata yapmayacağını garanti eder
- Hangi örnek etkili bir korkuluğu göstermektedir?
- Harcama limiti olmayan bir satın alma temsilcisi
- Modelin dışında işlem başına 100 ABD doları tutarında sabit bir tavan sınırı uygulanan bir satın alma temsilcisi
- İstediği komutu çalıştırabilen bir aracı
- Tüm izinleri yok sayan bir aracı
- What does NIST’s Generative AI Profile say content filters can do?
- Guarantee that all false or harmful content is removed
- Verify that every generated answer is factually correct
- Use rule-based or machine-learning methods to flag problematic inputs and outputs
- Replace all post-deployment monitoring
- What can a NIST post-deployment monitoring plan include for generative AI?
- A guarantee that all outputs will be safe
- A replacement for pre-deployment testing
- An instruction to ignore user-reported issues
- Mechanisms to capture user input and support appeal, override, incident response, and updates