Gids-gekoppelde quiz · Middelmatig Niveau
Agent Guardrails-quiz
Evalueer output‑ en inputfilters, least‑privilege tools, red‑team‑testen, NIST monitoring, en de limieten van veiligheidscontroles.
Vraag 1 van 8
Wat is het hoofddoel van agentvangrails?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Wat is het hoofddoel van agentvangrails?
- Om te beperken wat een agent kan doen, zeggen of waartoe hij toegang heeft voor de veiligheid en naleving
- Om agenten langzamer te laten reageren
- Om de woordenschat van de agent te vergroten
- Om het onderliggende model volledig te vervangen
- Wat doet een 'uitgangsvangrail' doorgaans?
- Schermt alleen binnenkomende gebruikersprompts af
- Controleert de antwoorden van de agent op giftige, valse of niet-conforme inhoud vóór levering
- Versnelt de training van het model
- Geeft de agent meer tooltoegang
- Hoe is het 'principe van de minste privileges' van toepassing op actievangrails?
- De agent krijgt alle mogelijke toestemming
- De agent hoeft nergens toestemming voor te vragen
- De agent krijgt alleen tools, sleutels en limieten met een beperkte reikwijdte die hij nodig heeft
- Voor het gemak krijgt de agent beheerderstoegang
- Waar wordt een 'rechter'- of validatormodel voor gebruikt in vangrails?
- Om de belangrijkste antwoorden van de agent te genereren
- Om gebruikerswachtwoorden op te slaan
- Alleen talen vertalen
- Om de output van de agent te beoordelen of op feiten te controleren op veiligheid of nauwkeurigheid
- Waarom is het testen van vangrails tegen vijandige input belangrijk?
- Omdat aanvallers jailbreaks proberen, moeten vangrails worden onderzocht in plaats van blindelings te vertrouwen
- Het maakt de agent opzettelijk langzamer
- Het elimineert de noodzaak voor regels
- Het garandeert dat het model nooit fouten maakt
- Welk voorbeeld toont een effectieve actievangrail?
- Een aankoopmakelaar zonder bestedingslimiet
- Een inkoopagent met een harde limiet van $ 100 per transactie die buiten het model wordt afgedwongen
- Een agent die elke gewenste opdracht kan uitvoeren
- Een agent die alle machtigingen negeert
- What does NIST’s Generative AI Profile say content filters can do?
- Guarantee that all false or harmful content is removed
- Verify that every generated answer is factually correct
- Use rule-based or machine-learning methods to flag problematic inputs and outputs
- Replace all post-deployment monitoring
- What can a NIST post-deployment monitoring plan include for generative AI?
- A guarantee that all outputs will be safe
- A replacement for pre-deployment testing
- An instruction to ignore user-reported issues
- Mechanisms to capture user input and support appeal, override, incident response, and updates