Quiz collegato alla guida · Medio Livello
Quiz sull'agente Guardrails
Valutare i filtri di output e di input, gli strumenti con privilegi minimi, il red-teaming, il monitoraggio NIST e i limiti dei controlli di sicurezza.
Domanda 1 di 8
Qual è lo scopo principale dei guardrail degli agenti?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Qual è lo scopo principale dei guardrail degli agenti?
- Per limitare ciò che un agente può fare, dire o accedere per motivi di sicurezza e conformità
- Per fare in modo che gli agenti rispondano più lentamente
- Per aumentare il vocabolario dell'agente
- Per sostituire interamente il modello sottostante
- Cosa fa in genere un "guardrail di uscita"?
- Visualizza solo i messaggi utente in entrata
- Controlla le risposte dell'agente per verificare la presenza di contenuti tossici, falsi o non conformi prima della consegna
- Velocizza l'addestramento del modello
- Concede all'agente un maggiore accesso agli strumenti
- Come si applica il "principio del privilegio minimo" ai guardrail d'azione?
- All'agente viene concessa ogni autorizzazione possibile
- L'agente non deve chiedere il permesso per niente
- L'agente ottiene solo gli strumenti, le chiavi e i limiti di cui ha un ambito ristretto
- All'agente viene concesso l'accesso amministrativo per comodità
- A cosa serve un modello "giudice" o validatore nei guardrail?
- Per generare le risposte principali dell'agente
- Per memorizzare le password degli utenti
- Per tradurre solo le lingue
- Per valutare o verificare i fatti dell'output dell'agente in termini di sicurezza o accuratezza
- Perché è importante testare i guardrail contro gli input avversari?
- Poiché gli aggressori tentano il jailbreak, i guardrail devono essere sondati anziché fidarsi ciecamente
- Rende l'agente più lento di proposito
- Elimina la necessità di qualsiasi regola
- Garantisce che il modello non commetta mai errori
- Quale esempio mostra un guardrail efficace?
- Un agente d'acquisto senza limiti di spesa
- Un agente di acquisto con un limite rigido di 100 dollari per transazione applicato al di fuori del modello
- Un agente che può eseguire qualsiasi comando desideri
- Un agente che ignora tutte le autorizzazioni
- Cosa dice il Generative AI Profile del NIST che i filtri dei contenuti possono fare?
- Garantire che tutti i contenuti falsi o dannosi vengano rimossi
- Verificare che ogni risposta generata sia effettivamente corretta
- Utilizza metodi basati su regole o di apprendimento automatico per segnalare input e output problematici
- Sostituisci tutto il monitoraggio post-distribuzione
- Cosa può includere un piano di monitoraggio post-implementazione del NIST per l’intelligenza artificiale generativa?
- Una garanzia che tutte le uscite saranno sicure
- Un sostituto per i test pre-distribuzione
- Un'istruzione per ignorare i problemi segnalati dagli utenti
- Meccanismi per acquisire l'input dell'utente e supportare ricorso, override, risposta agli incidenti e aggiornamenti