Útmutatóhoz kapcsolódó kvíz · Kemény Szint
Azonnali szivárgás és a rendszer azonnali eltávolítása kvíz
Teszteli, hogyan működik az azonnali kiszivárgás, miben különbözik az azonnali befecskendezéstől, és hogy a biztonságos alkalmazások miért tartják meg a titkokat és a végrehajtást a rendszerkérésen kívül.
kérdés 1 -ból 8
Miért nem lehet garantálni, hogy egy rendszerkérdés titokban marad?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Miért nem lehet garantálni, hogy egy rendszerkérdés titokban marad?
- System prompts are stored on public servers
- The model reads it as ordinary text in its context, and keeping it private is only a learned tendency
- All APIs publish system prompts automatically
- System prompts are deleted after each message
- Miben különbözik az azonnali szivárgás az azonnali befecskendezéstől?
- Pontosan ugyanazok
- Leaking is about extracting hidden content, while injection is about making the model follow the attacker's instructions
- Injection only affects images
- Leaking only happens with open-source models
- Mi derült ki a jól ismert Bing Chat kiszivárogtatásból 2023 februárjában?
- Microsoft's source code
- User passwords
- Instructions including the internal codename Sydney
- A modell edzési adatai
- Az útmutató szerint melyik megközelítés a legbiztonságosabb módja az alkalmazásnak szükséges API-kulcs kezelésének?
- Put it in the system prompt with a note saying 'keep this secret'
- Encode it in base64 inside the prompt
- Keep it in server-side code or a secrets manager and give the model scoped tools
- Split it across several messages
- Miért nem képesek az egyszerű kimeneti szűrők megállítani a szivárgást?
- Filters slow the model too much to be used
- Attackers can ask for the prompt paraphrased, translated or extracted a piece at a time
- Filters only work on images
- Output filters block all responses
- What is the purpose of placing a canary string in a system prompt?
- To make the model answer faster
- To detect in logs when the prompt has been leaked
- To encrypt the prompt
- To prevent all injection attacks
- A support bot's refund limit is written in its prompt and also enforced in the backend. What happens if the prompt leaks?
- Users can now issue unlimited refunds
- The rule becomes known but cannot be bypassed because the backend still enforces it
- The bot shuts down
- The refund limit is automatically deleted
- Which document listed system prompt leakage as its own risk in its 2025 edition?
- The OWASP Top 10 for LLM Applications
- The GDPR
- The HTTP specification
- The Unicode standard