แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ

แบบทดสอบการรั่วซึมและการแยกระบบพร้อมท์

ทดสอบว่าพรอมต์รั่วทำงานอย่างไร แตกต่างจากการพรอมต์อินเจ็กต์อย่างไร และเหตุใดแอปที่ปลอดภัยจึงเก็บความลับและการบังคับใช้นอกพรอมต์ของระบบ

คำถาม 1 ของ 8

เหตุใดระบบจึงไม่สามารถรับประกันว่าระบบจะเป็นความลับได้

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. เหตุใดระบบจึงไม่สามารถรับประกันว่าระบบจะเป็นความลับได้
    • System prompts are stored on public servers
    • The model reads it as ordinary text in its context, and keeping it private is only a learned tendency
    • All APIs publish system prompts automatically
    • System prompts are deleted after each message
  2. พรอมต์รั่วต่างจากพรอมต์ฉีดอย่างไร?
    • พวกเขาเป็นสิ่งเดียวกันทุกประการ
    • Leaking is about extracting hidden content, while injection is about making the model follow the attacker's instructions
    • Injection only affects images
    • Leaking only happens with open-source models
  3. มีอะไรเปิดเผยในแชท Bing Chat ชื่อดังในเดือนกุมภาพันธ์ 2023 บ้าง?
    • Microsoft's source code
    • User passwords
    • Instructions including the internal codename Sydney
    • ข้อมูลการฝึกของโมเดล
  4. คู่มือกล่าวว่าแนวทางใดเป็นวิธีที่ปลอดภัยที่สุดในการจัดการคีย์ API ที่แอปต้องการ
    • Put it in the system prompt with a note saying 'keep this secret'
    • Encode it in base64 inside the prompt
    • Keep it in server-side code or a secrets manager and give the model scoped tools
    • Split it across several messages
  5. เหตุใดตัวกรองเอาท์พุตธรรมดาจึงไม่สามารถหยุดการรั่วไหลได้
    • Filters slow the model too much to be used
    • Attackers can ask for the prompt paraphrased, translated or extracted a piece at a time
    • Filters only work on images
    • Output filters block all responses
  6. What is the purpose of placing a canary string in a system prompt?
    • To make the model answer faster
    • To detect in logs when the prompt has been leaked
    • To encrypt the prompt
    • To prevent all injection attacks
  7. A support bot's refund limit is written in its prompt and also enforced in the backend. What happens if the prompt leaks?
    • Users can now issue unlimited refunds
    • The rule becomes known but cannot be bypassed because the backend still enforces it
    • The bot shuts down
    • The refund limit is automatically deleted
  8. Which document listed system prompt leakage as its own risk in its 2025 edition?
    • The OWASP Top 10 for LLM Applications
    • จีดีพีอาร์
    • The HTTP specification
    • The Unicode standard