Quiz sur les garde-fous et la modération des résultats

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

1. Que sont les garde-fous dans le contexte d’un modèle de langage ?
   • Contrôles de sécurité qui maintiennent les entrées et les sorties dans des limites acceptables
   • Bordures décoratives autour de la fenêtre de discussion
   • Un moyen de faire réagir le modèle plus rapidement
   • Matériel qui refroidit les serveurs
2. Qu'est-ce que la « modération des résultats » inspecte spécifiquement ?
   • L'électricité utilisée par le modèle
   • Le texte produit par le modèle, avant qu'il n'atteigne l'utilisateur
   • La vitesse de frappe de l'utilisateur
   • La palette de couleurs de l'interface
3. Quel est un exemple de garde-corps côté entrée ?
   • Traduire la réponse en espagnol
   • Agrandir la police
   • Filtrage d'une tentative d'injection rapide avant qu'elle n'atteigne le modèle
   • Ajouter des citations à la réponse
4. Pourquoi est-il plus difficile de modérer les réponses en streaming (jeton par jeton) ?
   • Le streaming utilise plus de couleurs
   • Le streaming désactive tous les classificateurs
   • Les utilisateurs ne peuvent pas lire le texte diffusé
   • Le texte est affiché au fur et à mesure qu'il est généré, afin que le contenu nuisible puisse apparaître avant une vérification complète
5. Quel est l’équilibre clé que les ingénieurs de garde-corps doivent trouver ?
   • Détection des résultats nuisibles tout en minimisant les faux positifs sur les requêtes légitimes
   • Rendre le modèle aussi lent que possible
   • Bloquer chaque réponse
   • Supprimer toute la journalisation
6. What is a privacy-conscious way to log moderation decisions?
   • Store every full conversation indefinitely with public access
   • Record only necessary information, with defined access and retention controls
   • Disable all privacy controls to simplify debugging
   • Publish blocked prompts so users can inspect them
7. What should pre-deployment guardrail testing include?
   • Only the prompts that already pass
   • No testing of borderline requests
   • Representative harmful and benign cases to measure misses and false positives
   • A single test prompt for every policy category
8. Why monitor guardrails after deployment?
   • Monitoring makes the model intrinsically safe
   • A deployed classifier never changes its error rate
   • It eliminates the need for user reports or evaluation
   • Usage and threat patterns can change, revealing new errors or policy gaps