Quiz collegato alla guida · Difficile Livello

Quiz sulle perdite di messaggi e sull'estrazione dei messaggi di sistema

Verifica come funziona il prompt leak, in che modo differisce dal prompt injection e perché le app sicure mantengono segreti e imposizioni al di fuori del prompt del sistema.

Domanda 1 di 8

Perché non è possibile garantire che un prompt di sistema rimanga segreto?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Perché non è possibile garantire che un prompt di sistema rimanga segreto?
    • I prompt di sistema vengono archiviati su server pubblici
    • Il modello lo legge come testo ordinario nel suo contesto e mantenerlo privato è solo una tendenza appresa
    • Tutte le API pubblicano automaticamente le richieste di sistema
    • I prompt del sistema vengono eliminati dopo ogni messaggio
  2. In che modo la pronta perdita differisce dall'iniezione immediata?
    • Sono esattamente la stessa cosa
    • Il leaking riguarda l'estrazione del contenuto nascosto, mentre l'iniezione consiste nel far sì che il modello segua le istruzioni dell'aggressore
    • L'iniezione influisce solo sulle immagini
    • Le perdite si verificano solo con i modelli open source
  3. Cosa è stato rivelato nel noto leak della chat Bing del febbraio 2023?
    • Il codice sorgente di Microsoft
    • Password utente
    • Istruzioni che includono il nome in codice interno Sydney
    • I dati di training del modello
  4. Quale approccio, secondo la guida, è il modo più sicuro per gestire una chiave API necessaria all'app?
    • Inseriscilo nel prompt del sistema con una nota che dice "mantieni questo segreto"
    • Codificalo in base64 all'interno del prompt
    • Conservalo nel codice lato server o in un gestore dei segreti e fornisci gli strumenti con ambito del modello
    • Suddividilo in più messaggi
  5. Perché i semplici filtri di uscita non riescono a fermare una perdita?
    • I filtri rallentano troppo il modello per poter essere utilizzati
    • Gli aggressori possono chiedere il prompt parafrasato, tradotto o estratto un pezzo alla volta
    • I filtri funzionano solo sulle immagini
    • I filtri di output bloccano tutte le risposte
  6. Qual è lo scopo di inserire una stringa canary in un prompt di sistema?
    • Per far sì che il modello risponda più velocemente
    • Per rilevare nei log quando il prompt è trapelato
    • Per crittografare il prompt
    • Per prevenire tutti gli attacchi di iniezione
  7. Il limite di rimborso di un bot di supporto è scritto nel suo prompt e applicato anche nel backend. Cosa succede se il prompt perde?
    • Gli utenti possono ora emettere rimborsi illimitati
    • La regola diventa nota ma non può essere aggirata perché il backend la applica ancora
    • Il bot si spegne
    • Il limite di rimborso viene automaticamente cancellato
  8. Quale sistema elencato nei documenti comporta la fuga di informazioni come rischio proprio nella sua edizione 2025?
    • La Top 10 OWASP per le applicazioni LLM
    • Il GDPR
    • La specifica HTTP
    • Lo standard Unicode