Gids-gekoppelde quiz · Moeilijk Niveau
Snel lekken en systeemprompt-extractiequiz
Test hoe prompt-lekken werkt, hoe dit verschilt van prompt-injectie en waarom beveiligde apps geheimen en handhaving buiten de systeemprompt bewaren.
Vraag 1 van 8
Waarom kan niet gegarandeerd worden dat een systeemprompt geheim blijft?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Waarom kan niet gegarandeerd worden dat een systeemprompt geheim blijft?
- Systeemprompts worden opgeslagen op openbare servers
- Het model leest het als gewone tekst in zijn context, en het privé houden ervan is slechts een aangeleerde neiging
- Alle API's publiceren automatisch systeemprompts
- Systeemprompts worden na elk bericht verwijderd
- Hoe verschilt snel lekken van onmiddellijk injecteren?
- Ze zijn precies hetzelfde
- Bij lekken gaat het om het extraheren van verborgen inhoud, terwijl bij injectie het model de instructies van de aanvaller moet laten volgen
- Injectie heeft alleen invloed op afbeeldingen
- Lekken gebeurt alleen bij open-sourcemodellen
- Wat werd er onthuld in het bekende Bing Chat-lek in februari 2023?
- De broncode van Microsoft
- Gebruikerswachtwoorden
- Instructies inclusief de interne codenaam Sydney
- De trainingsgegevens van het model
- Welke aanpak is volgens de gids de veiligste manier om met een API-sleutel om te gaan die de app nodig heeft?
- Zet het in de systeemprompt met de tekst 'bewaar dit geheim'
- Codeer het in base64 binnen de prompt
- Bewaar het in code aan de serverzijde of in een geheimenbeheerder en geef het model tools voor het bereik
- Verdeel het over meerdere berichten
- Waarom kunnen eenvoudige uitgangsfilters een lek niet stoppen?
- Filters vertragen het model te veel om te kunnen gebruiken
- Aanvallers kunnen vragen om de prompt stuk voor stuk te parafraseren, vertalen of uitpakken
- Filters werken alleen op afbeeldingen
- Uitvoerfilters blokkeren alle reacties
- Wat is het doel van het plaatsen van een kanarietekenreeks in een systeemprompt?
- Om het model sneller te laten antwoorden
- Om in logboeken te detecteren wanneer de prompt is gelekt
- Om de prompt te coderen
- Om alle injectie-aanvallen te voorkomen
- De terugbetalingslimiet van een ondersteuningsbot wordt in de prompt geschreven en ook in de backend afgedwongen. Wat gebeurt er als de prompt lekt?
- Gebruikers kunnen nu onbeperkt restituties verlenen
- De regel wordt bekend, maar kan niet worden omzeild omdat de backend deze nog steeds afdwingt
- De bot wordt afgesloten
- De terugbetalingslimiet wordt automatisch verwijderd
- In welk document werd in de editie van 2025 melding gemaakt van lekkage van systeemvragen als eigen risico?
- De OWASP Top 10 voor LLM-toepassingen
- De AVG
- De HTTP-specificatie
- De Unicode-standaard