Gids-gekoppelde quiz · Moeilijk Niveau

Snel lekken en systeemprompt-extractiequiz

Test hoe prompt-lekken werkt, hoe dit verschilt van prompt-injectie en waarom beveiligde apps geheimen en handhaving buiten de systeemprompt bewaren.

Vraag 1 van 8

Waarom kan niet gegarandeerd worden dat een systeemprompt geheim blijft?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Waarom kan niet gegarandeerd worden dat een systeemprompt geheim blijft?
    • Systeemprompts worden opgeslagen op openbare servers
    • Het model leest het als gewone tekst in zijn context, en het privé houden ervan is slechts een aangeleerde neiging
    • Alle API's publiceren automatisch systeemprompts
    • Systeemprompts worden na elk bericht verwijderd
  2. Hoe verschilt snel lekken van onmiddellijk injecteren?
    • Ze zijn precies hetzelfde
    • Bij lekken gaat het om het extraheren van verborgen inhoud, terwijl bij injectie het model de instructies van de aanvaller moet laten volgen
    • Injectie heeft alleen invloed op afbeeldingen
    • Lekken gebeurt alleen bij open-sourcemodellen
  3. Wat werd er onthuld in het bekende Bing Chat-lek in februari 2023?
    • De broncode van Microsoft
    • Gebruikerswachtwoorden
    • Instructies inclusief de interne codenaam Sydney
    • De trainingsgegevens van het model
  4. Welke aanpak is volgens de gids de veiligste manier om met een API-sleutel om te gaan die de app nodig heeft?
    • Zet het in de systeemprompt met de tekst 'bewaar dit geheim'
    • Codeer het in base64 binnen de prompt
    • Bewaar het in code aan de serverzijde of in een geheimenbeheerder en geef het model tools voor het bereik
    • Verdeel het over meerdere berichten
  5. Waarom kunnen eenvoudige uitgangsfilters een lek niet stoppen?
    • Filters vertragen het model te veel om te kunnen gebruiken
    • Aanvallers kunnen vragen om de prompt stuk voor stuk te parafraseren, vertalen of uitpakken
    • Filters werken alleen op afbeeldingen
    • Uitvoerfilters blokkeren alle reacties
  6. Wat is het doel van het plaatsen van een kanarietekenreeks in een systeemprompt?
    • Om het model sneller te laten antwoorden
    • Om in logboeken te detecteren wanneer de prompt is gelekt
    • Om de prompt te coderen
    • Om alle injectie-aanvallen te voorkomen
  7. De terugbetalingslimiet van een ondersteuningsbot wordt in de prompt geschreven en ook in de backend afgedwongen. Wat gebeurt er als de prompt lekt?
    • Gebruikers kunnen nu onbeperkt restituties verlenen
    • De regel wordt bekend, maar kan niet worden omzeild omdat de backend deze nog steeds afdwingt
    • De bot wordt afgesloten
    • De terugbetalingslimiet wordt automatisch verwijderd
  8. In welk document werd in de editie van 2025 melding gemaakt van lekkage van systeemvragen als eigen risico?
    • De OWASP Top 10 voor LLM-toepassingen
    • De AVG
    • De HTTP-specificatie
    • De Unicode-standaard