Kvíz spojený s průvodcem · Těžko úroveň
Okamžité úniky a kvíz okamžité extrakce systému
Testuje, jak funguje únik informací, jak se liší od okamžitého vložení a proč zabezpečené aplikace uchovávají tajemství a vynucování mimo systémovou výzvu.
Otázka 1 z 8
Proč nelze zaručit, že systémový prompt zůstane tajný?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Proč nelze zaručit, že systémový prompt zůstane tajný?
- System prompts are stored on public servers
- The model reads it as ordinary text in its context, and keeping it private is only a learned tendency
- All APIs publish system prompts automatically
- System prompts are deleted after each message
- Jak se liší únik promptu od injekce promptu?
- Jsou přesně to samé
- Leaking is about extracting hidden content, while injection is about making the model follow the attacker's instructions
- Injection only affects images
- Leaking only happens with open-source models
- Co bylo odhaleno ve známém úniku Bing Chat v únoru 2023?
- Microsoft's source code
- User passwords
- Instructions including the internal codename Sydney
- Tréninková data modelu
- Jaký přístup podle průvodce je nejbezpečnější způsob, jak zacházet s API klíčem, který aplikace potřebuje?
- Put it in the system prompt with a note saying 'keep this secret'
- Encode it in base64 inside the prompt
- Keep it in server-side code or a secrets manager and give the model scoped tools
- Split it across several messages
- Proč jednoduché výstupní filtry mohou selhat při zastavení úniku?
- Filters slow the model too much to be used
- Attackers can ask for the prompt paraphrased, translated or extracted a piece at a time
- Filters only work on images
- Output filters block all responses
- What is the purpose of placing a canary string in a system prompt?
- To make the model answer faster
- To detect in logs when the prompt has been leaked
- To encrypt the prompt
- To prevent all injection attacks
- A support bot's refund limit is written in its prompt and also enforced in the backend. What happens if the prompt leaks?
- Users can now issue unlimited refunds
- The rule becomes known but cannot be bypassed because the backend still enforces it
- The bot shuts down
- The refund limit is automatically deleted
- Which document listed system prompt leakage as its own risk in its 2025 edition?
- The OWASP Top 10 for LLM Applications
- GDPR
- The HTTP specification
- The Unicode standard