Kuiz berkaitan panduan · Sederhana Tahap
Kuiz Pengawal Ejen
Menilai penapis output dan input, alat yang mempunyai keistimewaan paling rendah, pasukan merah, pemantauan NIST dan had kawalan keselamatan.
soalan 1 daripada 8
Apakah tujuan utama pagar ejen?
Pratonton setiap soalan8 soalan
Jawapan dan penjelasan muncul semasa anda mengambil kuiz.
- Apakah tujuan utama pagar ejen?
- Untuk mengekang perkara yang boleh dilakukan oleh ejen, katakan, atau akses untuk keselamatan dan pematuhan
- Untuk membuat ejen bertindak balas dengan lebih perlahan
- Untuk menambah perbendaharaan kata ejen
- Untuk menggantikan model asas sepenuhnya
- Apakah yang biasanya dilakukan oleh 'pengadang keluaran'?
- Skrin gesaan pengguna masuk sahaja
- Menyemak tindak balas ejen untuk kandungan toksik, palsu atau tidak patuh sebelum penghantaran
- Mempercepatkan latihan model
- Memberi ejen lebih banyak akses alat
- Bagaimanakah 'prinsip keistimewaan paling rendah' digunakan pada pagar tindakan?
- Ejen diberi setiap kebenaran yang mungkin
- Ejen mesti meminta kebenaran untuk apa-apa
- Ejen hanya mendapat alat, kunci dan had skop sempit yang diperlukannya
- Ejen diberikan akses pentadbir untuk kemudahan
- Apakah model 'hakim' atau pengesah yang digunakan dalam pagar?
- Untuk menjana jawapan utama ejen
- Untuk menyimpan kata laluan pengguna
- Untuk menterjemah bahasa sahaja
- Untuk menilai atau menyemak fakta output ejen untuk keselamatan atau ketepatan
- Mengapakah ujian pagar terhadap input musuh penting?
- Kerana penyerang mencuba jailbreak, jadi pagar mesti disiasat dan bukannya dipercayai secara membuta tuli
- Ia sengaja menjadikan ejen lebih perlahan
- Ia menghilangkan keperluan untuk sebarang peraturan
- Ia menjamin model tidak pernah membuat kesilapan
- Contoh yang manakah menunjukkan pagar tindakan yang berkesan?
- Ejen pembelian tanpa had perbelanjaan
- Ejen pembelian dengan had $100 setiap transaksi yang dikuatkuasakan di luar model
- Ejen yang boleh menjalankan sebarang arahan yang dikehendakinya
- Ejen yang mengabaikan semua kebenaran
- What does NIST’s Generative AI Profile say content filters can do?
- Guarantee that all false or harmful content is removed
- Verify that every generated answer is factually correct
- Use rule-based or machine-learning methods to flag problematic inputs and outputs
- Replace all post-deployment monitoring
- What can a NIST post-deployment monitoring plan include for generative AI?
- A guarantee that all outputs will be safe
- A replacement for pre-deployment testing
- An instruction to ignore user-reported issues
- Mechanisms to capture user input and support appeal, override, incident response, and updates