Quiz collegato alla guida · Difficile Livello
Quiz sulle perdite di messaggi e sull'estrazione dei messaggi di sistema
Verifica come funziona il prompt leak, in che modo differisce dal prompt injection e perché le app sicure mantengono segreti e imposizioni al di fuori del prompt del sistema.
Domanda 1 di 8
Perché non è possibile garantire che un prompt di sistema rimanga segreto?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Perché non è possibile garantire che un prompt di sistema rimanga segreto?
- I prompt di sistema vengono archiviati su server pubblici
- Il modello lo legge come testo ordinario nel suo contesto e mantenerlo privato è solo una tendenza appresa
- Tutte le API pubblicano automaticamente le richieste di sistema
- I prompt del sistema vengono eliminati dopo ogni messaggio
- In che modo la pronta perdita differisce dall'iniezione immediata?
- Sono esattamente la stessa cosa
- Il leaking riguarda l'estrazione del contenuto nascosto, mentre l'iniezione consiste nel far sì che il modello segua le istruzioni dell'aggressore
- L'iniezione influisce solo sulle immagini
- Le perdite si verificano solo con i modelli open source
- Cosa è stato rivelato nel noto leak della chat Bing del febbraio 2023?
- Il codice sorgente di Microsoft
- Password utente
- Istruzioni che includono il nome in codice interno Sydney
- I dati di training del modello
- Quale approccio, secondo la guida, è il modo più sicuro per gestire una chiave API necessaria all'app?
- Inseriscilo nel prompt del sistema con una nota che dice "mantieni questo segreto"
- Codificalo in base64 all'interno del prompt
- Conservalo nel codice lato server o in un gestore dei segreti e fornisci gli strumenti con ambito del modello
- Suddividilo in più messaggi
- Perché i semplici filtri di uscita non riescono a fermare una perdita?
- I filtri rallentano troppo il modello per poter essere utilizzati
- Gli aggressori possono chiedere il prompt parafrasato, tradotto o estratto un pezzo alla volta
- I filtri funzionano solo sulle immagini
- I filtri di output bloccano tutte le risposte
- Qual è lo scopo di inserire una stringa canary in un prompt di sistema?
- Per far sì che il modello risponda più velocemente
- Per rilevare nei log quando il prompt è trapelato
- Per crittografare il prompt
- Per prevenire tutti gli attacchi di iniezione
- Il limite di rimborso di un bot di supporto è scritto nel suo prompt e applicato anche nel backend. Cosa succede se il prompt perde?
- Gli utenti possono ora emettere rimborsi illimitati
- La regola diventa nota ma non può essere aggirata perché il backend la applica ancora
- Il bot si spegne
- Il limite di rimborso viene automaticamente cancellato
- Quale sistema elencato nei documenti comporta la fuga di informazioni come rischio proprio nella sua edizione 2025?
- La Top 10 OWASP per le applicazioni LLM
- Il GDPR
- La specifica HTTP
- Lo standard Unicode