Bài kiểm tra có liên kết hướng dẫn · Cứng Cấp độ
Bài kiểm tra về rò rỉ nhắc nhở và trích xuất hệ thống
Kiểm tra cách hoạt động của tính năng rò rỉ lời nhắc, nó khác với việc đưa vào lời nhắc như thế nào và tại sao các ứng dụng bảo mật lại giữ bí mật và thực thi bên ngoài lời nhắc của hệ thống.
Câu hỏi 1 của 8
Tại sao lời nhắc hệ thống không thể được đảm bảo giữ bí mật?
Xem trước mọi câu hỏi8 câu hỏi
Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.
- Tại sao lời nhắc hệ thống không thể được đảm bảo giữ bí mật?
- System prompts are stored on public servers
- The model reads it as ordinary text in its context, and keeping it private is only a learned tendency
- All APIs publish system prompts automatically
- System prompts are deleted after each message
- Rò rỉ kịp thời khác với tiêm nhanh như thế nào?
- Chúng hoàn toàn giống nhau
- Leaking is about extracting hidden content, while injection is about making the model follow the attacker's instructions
- Injection only affects images
- Leaking only happens with open-source models
- Điều gì đã được tiết lộ trong vụ rò rỉ Trò chuyện Bing nổi tiếng vào tháng 2 năm 2023?
- Microsoft's source code
- User passwords
- Instructions including the internal codename Sydney
- Dữ liệu huấn luyện của mô hình
- Hướng dẫn cho biết cách tiếp cận nào là cách an toàn nhất để xử lý khóa API mà ứng dụng cần?
- Put it in the system prompt with a note saying 'keep this secret'
- Encode it in base64 inside the prompt
- Keep it in server-side code or a secrets manager and give the model scoped tools
- Split it across several messages
- Tại sao các bộ lọc đầu ra đơn giản không ngăn được rò rỉ?
- Filters slow the model too much to be used
- Attackers can ask for the prompt paraphrased, translated or extracted a piece at a time
- Filters only work on images
- Output filters block all responses
- What is the purpose of placing a canary string in a system prompt?
- To make the model answer faster
- To detect in logs when the prompt has been leaked
- To encrypt the prompt
- To prevent all injection attacks
- A support bot's refund limit is written in its prompt and also enforced in the backend. What happens if the prompt leaks?
- Users can now issue unlimited refunds
- The rule becomes known but cannot be bypassed because the backend still enforces it
- The bot shuts down
- The refund limit is automatically deleted
- Which document listed system prompt leakage as its own risk in its 2025 edition?
- The OWASP Top 10 for LLM Applications
- GDPR
- The HTTP specification
- The Unicode standard