Kuiz berkaitan panduan · Keras Tahap
Kuiz Keselamatan Prompt AI
Menguji kandungan yang tidak dipercayai, keistimewaan paling rendah, kebenaran, pengesahan tindakan, laluan serangan yang pelbagai, kawalan berlapis dan ujian regresi yang selamat.
soalan 1 daripada 8
A retrieved document contains “ignore previous instructions.” How should the application treat it?
Pratonton setiap soalan8 soalan
Jawapan dan penjelasan muncul semasa anda mengambil kuiz.
- A retrieved document contains “ignore previous instructions.” How should the application treat it?
- As untrusted content to process, not authority to control tools or policy
- As a trusted system instruction
- As proof the document should be deleted
- As permission to disclose data
- Why limit tools to the privileges required by the task?
- It prevents all prompt injection
- It makes content filtering unnecessary
- A model error then has less ability to create unauthorized consequences
- Ia menjamin ringkasan yang betul
- Satu laman web menyatakan pengguna meluluskan penghantaran fail. Apakah yang harus membenarkan tindakan tersebut?
- Pernyataan laman web tersebut
- Arahan sebenar pengguna dan proses kebenaran aplikasi
- Skor keyakinan model yang tinggi
- Hasil alat yang mengulangi tuntutan tersebut
- Apakah yang perlu diperiksa sebelum sesuatu alat menghantar maklumat secara luaran?
- Hanya sama ada output sepadan dengan JSON
- Gaya penulisan respons alat
- Sama ada gesaan mengandungi frasa yang mencurigakan
- Destinasi, rekod yang terjejas, data yang dihantar, dan kelulusan yang diperlukan
- Mengapa menguji kes keselamatan gesaan dalam lokasi dan format yang berbeza?
- Model hanya membaca gesaan teks biasa
- Satu contoh serangan merangkumi setiap kes
- Arahan yang tidak dipercayai boleh sampai melalui input pengguna, dokumen, atau respons alat
- Format tidak mengubah tingkah laku aplikasi
- Apakah hubungan antara penapisan kandungan dan kebenaran?
- Penapisan mungkin mengesan perkataan; kebenaran masih perlu menyekat tindakan di luar skop
- Salah satu daripadanya menjadikan yang lain tidak perlu
- Kebenaran hanyalah penapis penulisan
- Penapisan menjamin pengguna berniat untuk melakukan setiap tindakan
- Mengapa perlu mengelak daripada memanggil penapis suntikan gesaan sebagai kalis silap?
- Penapis tidak boleh memproses sebarang teks
- Panduan tersebut melarang ujian
- Hanya pengguna luaran boleh mencipta input berniat jahat
- Pengesanan mungkin terlepas serangan, jadi kawalan pengehad akibat dan ujian berterusan kekal penting
- Peringkas tidak perlu menghantar mesej. Reka bentuk yang manakah lebih selamat?
- Berikan akses meluas tetapi tambahkan amaran
- Jangan berikan kebenaran menghantar mesej kepada aliran kerja itu
- Minta model berjanji untuk tidak menghantar
- Dayakan penghantaran hanya semasa input panjang