Gids-gekoppelde quiz · Middelmatig Niveau

Agent Guardrails-quiz

Evalueer output‑ en inputfilters, least‑privilege tools, red‑team‑testen, NIST monitoring, en de limieten van veiligheidscontroles.

Gerelateerde gidspadenAgent vangrails
Vraag 1 van 8

Wat is het hoofddoel van agentvangrails?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Wat is het hoofddoel van agentvangrails?
    • Om te beperken wat een agent kan doen, zeggen of waartoe hij toegang heeft voor de veiligheid en naleving
    • Om agenten langzamer te laten reageren
    • Om de woordenschat van de agent te vergroten
    • Om het onderliggende model volledig te vervangen
  2. Wat doet een 'uitgangsvangrail' doorgaans?
    • Schermt alleen binnenkomende gebruikersprompts af
    • Controleert de antwoorden van de agent op giftige, valse of niet-conforme inhoud vóór levering
    • Versnelt de training van het model
    • Geeft de agent meer tooltoegang
  3. Hoe is het 'principe van de minste privileges' van toepassing op actievangrails?
    • De agent krijgt alle mogelijke toestemming
    • De agent hoeft nergens toestemming voor te vragen
    • De agent krijgt alleen tools, sleutels en limieten met een beperkte reikwijdte die hij nodig heeft
    • Voor het gemak krijgt de agent beheerderstoegang
  4. Waar wordt een 'rechter'- of validatormodel voor gebruikt in vangrails?
    • Om de belangrijkste antwoorden van de agent te genereren
    • Om gebruikerswachtwoorden op te slaan
    • Alleen talen vertalen
    • Om de output van de agent te beoordelen of op feiten te controleren op veiligheid of nauwkeurigheid
  5. Waarom is het testen van vangrails tegen vijandige input belangrijk?
    • Omdat aanvallers jailbreaks proberen, moeten vangrails worden onderzocht in plaats van blindelings te vertrouwen
    • Het maakt de agent opzettelijk langzamer
    • Het elimineert de noodzaak voor regels
    • Het garandeert dat het model nooit fouten maakt
  6. Welk voorbeeld toont een effectieve actievangrail?
    • Een aankoopmakelaar zonder bestedingslimiet
    • Een inkoopagent met een harde limiet van $ 100 per transactie die buiten het model wordt afgedwongen
    • Een agent die elke gewenste opdracht kan uitvoeren
    • Een agent die alle machtigingen negeert
  7. What does NIST’s Generative AI Profile say content filters can do?
    • Guarantee that all false or harmful content is removed
    • Verify that every generated answer is factually correct
    • Use rule-based or machine-learning methods to flag problematic inputs and outputs
    • Replace all post-deployment monitoring
  8. What can a NIST post-deployment monitoring plan include for generative AI?
    • A guarantee that all outputs will be safe
    • A replacement for pre-deployment testing
    • An instruction to ignore user-reported issues
    • Mechanisms to capture user input and support appeal, override, incident response, and updates