แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ

แบบทดสอบการโจมตีแบบฉีดพร้อมท์

ทบทวนขอบเขตความน่าเชื่อถือของคำสั่งและการแทรกทางอ้อม พร้อมด้วยการควบคุมเครื่องมือ การฝึกอบรมลำดับชั้น การหยุดชะงักของงาน และความเสี่ยงในการป้อนข้อมูลหลายรูปแบบ

เส้นทางแนะนำที่เกี่ยวข้องการโจมตีแบบฉีดทันที
คำถาม 1 ของ 8

Which trust failure can a prompt-injection attempt exploit?

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. Which trust failure can a prompt-injection attempt exploit?
    • Adversarial instructions in task material being followed as authoritative commands
    • A requirement that every model encrypt its entire context
    • A guarantee that all models have administrator privileges
    • A requirement that every model always obey every input
  2. การฉีดแบบ INDIRECT prompt แตกต่างจากการฉีดโดยตรงอย่างไร?
    • ใช้ได้กับโมเดลรูปภาพเท่านั้น
    • มันต้องมีการเข้าถึงทางกายภาพไปยังเซิร์ฟเวอร์
    • คำแนะนำที่เป็นอันตรายอยู่ในแหล่งภายนอกที่โมเดลอ่านในภายหลัง ไม่ใช่ในข้อความของผู้ใช้เอง
    • ดำเนินการโดยนักพัฒนาโดยตั้งใจ
  3. Which availability goal does the cited indirect-injection taxonomy include?
    • Only stealing an entire training corpus in every attack
    • Inhibiting useful responses or disrupting a search task
    • Only changing a GPU’s physical memory size
    • Only improving all authorized search results
  4. How can least-privilege tool permissions limit a successful injection’s consequences?
    • They prove every allowed operation is harmless in every context
    • They guarantee the model never proposes an injected action
    • They remove the need for any output or action validation
    • They restrict the operations and resources available to the workflow
  5. What behavior does the Instruction Hierarchy study aim to train?
    • Sorting all retrieved words alphabetically
    • Treating every webpage as more authoritative than the developer
    • Following privileged instructions over conflicting lower-priority content
    • Encrypting the model vocabulary with an image key
  6. เหตุใดการฉีดทันทีจึงเป็นอันตรายมากขึ้นเมื่อเจ้าหน้าที่ AI ได้รับเครื่องมือ
    • เจ้าหน้าที่ที่ถูกหลอกสามารถดำเนินการได้จริง เช่น การส่งอีเมล การรันโค้ด หรือการรั่วไหลของข้อมูล
    • เจ้าหน้าที่ทำงานช้าลงด้วยเครื่องมือ
    • เครื่องมือทำให้โมเดลลืมการฝึก
    • เครื่องมือเพิ่มความฉงนสนเท่ห์ของโมเดลเป็นสองเท่า
  7. Why should a prompt-injection evaluation cover images when an application accepts multimodal input?
    • Images guarantee that all instructions are trustworthy
    • An image can contain only one numerical scalar
    • Plain-text testing automatically covers every image input
    • Adversarial instructions can be embedded in an image channel
  8. Why is merely quoting an attack instruction not enough to establish that an application was compromised?
    • Every quoted string necessarily changes system permissions
    • The text may be legitimate analysis material and may never be executed as an instruction
    • An attacker must modify all original model weights first
    • No authorized user can ever discuss a security attack