แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ
แบบทดสอบการโจมตีแบบฉีดพร้อมท์
ทบทวนขอบเขตความน่าเชื่อถือของคำสั่งและการแทรกทางอ้อม พร้อมด้วยการควบคุมเครื่องมือ การฝึกอบรมลำดับชั้น การหยุดชะงักของงาน และความเสี่ยงในการป้อนข้อมูลหลายรูปแบบ
คำถาม 1 ของ 8
Which trust failure can a prompt-injection attempt exploit?
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- Which trust failure can a prompt-injection attempt exploit?
- Adversarial instructions in task material being followed as authoritative commands
- A requirement that every model encrypt its entire context
- A guarantee that all models have administrator privileges
- A requirement that every model always obey every input
- การฉีดแบบ INDIRECT prompt แตกต่างจากการฉีดโดยตรงอย่างไร?
- ใช้ได้กับโมเดลรูปภาพเท่านั้น
- มันต้องมีการเข้าถึงทางกายภาพไปยังเซิร์ฟเวอร์
- คำแนะนำที่เป็นอันตรายอยู่ในแหล่งภายนอกที่โมเดลอ่านในภายหลัง ไม่ใช่ในข้อความของผู้ใช้เอง
- ดำเนินการโดยนักพัฒนาโดยตั้งใจ
- Which availability goal does the cited indirect-injection taxonomy include?
- Only stealing an entire training corpus in every attack
- Inhibiting useful responses or disrupting a search task
- Only changing a GPU’s physical memory size
- Only improving all authorized search results
- How can least-privilege tool permissions limit a successful injection’s consequences?
- They prove every allowed operation is harmless in every context
- They guarantee the model never proposes an injected action
- They remove the need for any output or action validation
- They restrict the operations and resources available to the workflow
- What behavior does the Instruction Hierarchy study aim to train?
- Sorting all retrieved words alphabetically
- Treating every webpage as more authoritative than the developer
- Following privileged instructions over conflicting lower-priority content
- Encrypting the model vocabulary with an image key
- เหตุใดการฉีดทันทีจึงเป็นอันตรายมากขึ้นเมื่อเจ้าหน้าที่ AI ได้รับเครื่องมือ
- เจ้าหน้าที่ที่ถูกหลอกสามารถดำเนินการได้จริง เช่น การส่งอีเมล การรันโค้ด หรือการรั่วไหลของข้อมูล
- เจ้าหน้าที่ทำงานช้าลงด้วยเครื่องมือ
- เครื่องมือทำให้โมเดลลืมการฝึก
- เครื่องมือเพิ่มความฉงนสนเท่ห์ของโมเดลเป็นสองเท่า
- Why should a prompt-injection evaluation cover images when an application accepts multimodal input?
- Images guarantee that all instructions are trustworthy
- An image can contain only one numerical scalar
- Plain-text testing automatically covers every image input
- Adversarial instructions can be embedded in an image channel
- Why is merely quoting an attack instruction not enough to establish that an application was compromised?
- Every quoted string necessarily changes system permissions
- The text may be legitimate analysis material and may never be executed as an instruction
- An attacker must modify all original model weights first
- No authorized user can ever discuss a security attack