Quiz collegato alla guida · Medio Livello

Quiz sull'agente Guardrails

Valutare i filtri di output e di input, gli strumenti con privilegi minimi, il red-teaming, il monitoraggio NIST e i limiti dei controlli di sicurezza.

Percorsi guida correlatiAgente Guardrail
Domanda 1 di 8

Qual è lo scopo principale dei guardrail degli agenti?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Qual è lo scopo principale dei guardrail degli agenti?
    • Per limitare ciò che un agente può fare, dire o accedere per motivi di sicurezza e conformità
    • Per fare in modo che gli agenti rispondano più lentamente
    • Per aumentare il vocabolario dell'agente
    • Per sostituire interamente il modello sottostante
  2. Cosa fa in genere un "guardrail di uscita"?
    • Visualizza solo i messaggi utente in entrata
    • Controlla le risposte dell'agente per verificare la presenza di contenuti tossici, falsi o non conformi prima della consegna
    • Velocizza l'addestramento del modello
    • Concede all'agente un maggiore accesso agli strumenti
  3. Come si applica il "principio del privilegio minimo" ai guardrail d'azione?
    • All'agente viene concessa ogni autorizzazione possibile
    • L'agente non deve chiedere il permesso per niente
    • L'agente ottiene solo gli strumenti, le chiavi e i limiti di cui ha un ambito ristretto
    • All'agente viene concesso l'accesso amministrativo per comodità
  4. A cosa serve un modello "giudice" o validatore nei guardrail?
    • Per generare le risposte principali dell'agente
    • Per memorizzare le password degli utenti
    • Per tradurre solo le lingue
    • Per valutare o verificare i fatti dell'output dell'agente in termini di sicurezza o accuratezza
  5. Perché è importante testare i guardrail contro gli input avversari?
    • Poiché gli aggressori tentano il jailbreak, i guardrail devono essere sondati anziché fidarsi ciecamente
    • Rende l'agente più lento di proposito
    • Elimina la necessità di qualsiasi regola
    • Garantisce che il modello non commetta mai errori
  6. Quale esempio mostra un guardrail efficace?
    • Un agente d'acquisto senza limiti di spesa
    • Un agente di acquisto con un limite rigido di 100 dollari per transazione applicato al di fuori del modello
    • Un agente che può eseguire qualsiasi comando desideri
    • Un agente che ignora tutte le autorizzazioni
  7. Cosa dice il Generative AI Profile del NIST che i filtri dei contenuti possono fare?
    • Garantire che tutti i contenuti falsi o dannosi vengano rimossi
    • Verificare che ogni risposta generata sia effettivamente corretta
    • Utilizza metodi basati su regole o di apprendimento automatico per segnalare input e output problematici
    • Sostituisci tutto il monitoraggio post-distribuzione
  8. Cosa può includere un piano di monitoraggio post-implementazione del NIST per l’intelligenza artificiale generativa?
    • Una garanzia che tutte le uscite saranno sicure
    • Un sostituto per i test pre-distribuzione
    • Un'istruzione per ignorare i problemi segnalati dagli utenti
    • Meccanismi per acquisire l'input dell'utente e supportare ricorso, override, risposta agli incidenti e aggiornamenti