Quiz sur les garde-corps des agents

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

1. Quel est l’objectif principal des garde-corps d’agent ?
   • Pour limiter ce qu'un agent peut faire, dire ou accéder pour des raisons de sécurité et de conformité
   • Pour que les agents réagissent plus lentement
   • Pour enrichir le vocabulaire de l'agent
   • Pour remplacer entièrement le modèle sous-jacent
2. À quoi sert généralement un « garde-corps de sortie » ?
   • Filtre uniquement les invites des utilisateurs entrants
   • Vérifie les réponses de l'agent pour détecter tout contenu toxique, faux ou non conforme avant la livraison
   • Accélère la formation du modèle
   • Accorde à l'agent davantage d'accès aux outils
3. Comment le « principe du moindre privilège » s’applique-t-il aux garde-fous d’action ?
   • L'agent reçoit toutes les autorisations possibles
   • L'agent ne doit demander la permission pour rien
   • L'agent ne reçoit que les outils, les clés et les limites dont il a besoin.
   • L'agent bénéficie d'un accès administrateur pour plus de commodité
4. À quoi sert un modèle de « juge » ou de validateur dans les garde-corps ?
   • Pour générer les réponses principales de l'agent
   • Pour stocker les mots de passe des utilisateurs
   • Pour traduire des langues uniquement
   • Pour noter ou vérifier les résultats de l'agent en termes de sécurité ou d'exactitude
5. Pourquoi est-il important de tester les garde-fous contre les entrées contradictoires ?
   • Parce que les attaquants tentent des jailbreaks, les garde-fous doivent être sondés plutôt que de faire confiance aveuglément
   • Cela rend volontairement l'agent plus lent
   • Cela supprime le besoin de règles
   • Cela garantit que le modèle ne fait jamais d’erreurs
6. Quel exemple montre un garde-corps à action efficace ?
   • Un acheteur sans limite de dépenses
   • Un acheteur avec un plafond strict de 100 $ par transaction appliqué en dehors du modèle
   • Un agent qui peut exécuter n'importe quelle commande qu'il veut
   • Un agent qui ignore toutes les autorisations
7. What does NIST’s Generative AI Profile say content filters can do?
   • Guarantee that all false or harmful content is removed
   • Verify that every generated answer is factually correct
   • Use rule-based or machine-learning methods to flag problematic inputs and outputs
   • Replace all post-deployment monitoring
8. What can a NIST post-deployment monitoring plan include for generative AI?
   • A guarantee that all outputs will be safe
   • A replacement for pre-deployment testing
   • An instruction to ignore user-reported issues
   • Mechanisms to capture user input and support appeal, override, incident response, and updates