แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ
แบบทดสอบการรั่วซึมและการแยกระบบพร้อมท์
ทดสอบว่าพรอมต์รั่วทำงานอย่างไร แตกต่างจากการพรอมต์อินเจ็กต์อย่างไร และเหตุใดแอปที่ปลอดภัยจึงเก็บความลับและการบังคับใช้นอกพรอมต์ของระบบ
คำถาม 1 ของ 8
เหตุใดระบบจึงไม่สามารถรับประกันว่าระบบจะเป็นความลับได้
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- เหตุใดระบบจึงไม่สามารถรับประกันว่าระบบจะเป็นความลับได้
- System prompts are stored on public servers
- The model reads it as ordinary text in its context, and keeping it private is only a learned tendency
- All APIs publish system prompts automatically
- System prompts are deleted after each message
- พรอมต์รั่วต่างจากพรอมต์ฉีดอย่างไร?
- พวกเขาเป็นสิ่งเดียวกันทุกประการ
- Leaking is about extracting hidden content, while injection is about making the model follow the attacker's instructions
- Injection only affects images
- Leaking only happens with open-source models
- มีอะไรเปิดเผยในแชท Bing Chat ชื่อดังในเดือนกุมภาพันธ์ 2023 บ้าง?
- Microsoft's source code
- User passwords
- Instructions including the internal codename Sydney
- ข้อมูลการฝึกของโมเดล
- คู่มือกล่าวว่าแนวทางใดเป็นวิธีที่ปลอดภัยที่สุดในการจัดการคีย์ API ที่แอปต้องการ
- Put it in the system prompt with a note saying 'keep this secret'
- Encode it in base64 inside the prompt
- Keep it in server-side code or a secrets manager and give the model scoped tools
- Split it across several messages
- เหตุใดตัวกรองเอาท์พุตธรรมดาจึงไม่สามารถหยุดการรั่วไหลได้
- Filters slow the model too much to be used
- Attackers can ask for the prompt paraphrased, translated or extracted a piece at a time
- Filters only work on images
- Output filters block all responses
- What is the purpose of placing a canary string in a system prompt?
- To make the model answer faster
- To detect in logs when the prompt has been leaked
- To encrypt the prompt
- To prevent all injection attacks
- A support bot's refund limit is written in its prompt and also enforced in the backend. What happens if the prompt leaks?
- Users can now issue unlimited refunds
- The rule becomes known but cannot be bypassed because the backend still enforces it
- The bot shuts down
- The refund limit is automatically deleted
- Which document listed system prompt leakage as its own risk in its 2025 edition?
- The OWASP Top 10 for LLM Applications
- จีดีพีอาร์
- The HTTP specification
- The Unicode standard