Κουίζ Guardrails and Output Moderation

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

1. Τι είναι τα προστατευτικά κιγκλιδώματα στο πλαίσιο ενός γλωσσικού μοντέλου;
   • Έλεγχοι ασφαλείας που διατηρούν τις εισροές και τις εξόδους εντός αποδεκτών ορίων
   • Διακοσμητικά περιγράμματα γύρω από το παράθυρο συνομιλίας
   • Ένας τρόπος για να κάνετε το μοντέλο να ανταποκρίνεται πιο γρήγορα
   • Υλικό που δροσίζει τους διακομιστές
2. Τι επιθεωρεί συγκεκριμένα η «μέτρια εξόδου»;
   • Η ηλεκτρική ενέργεια που χρησιμοποιεί το μοντέλο
   • Το κείμενο που παρήγαγε το μοντέλο, πριν φτάσει στον χρήστη
   • Η ταχύτητα πληκτρολόγησης του χρήστη
   • Το χρωματικό σχέδιο της διεπαφής
3. Ποιο είναι ένα παράδειγμα προστατευτικού κιγκλιδώματος στην πλευρά εισόδου;
   • Μετάφραση της απάντησης στα Ισπανικά
   • Μεγαλύτερη γραμματοσειρά
   • Φιλτράρισμα μιας προσπάθειας άμεσης έγχυσης πριν φτάσει στο μοντέλο
   • Προσθήκη παραπομπών στην απάντηση
4. Γιατί είναι δυσκολότερη η εποπτεία των απαντήσεων ροής (απόδειξη προς διακριτικό);
   • Η ροή χρησιμοποιεί περισσότερα χρώματα
   • Η ροή απενεργοποιεί όλους τους ταξινομητές
   • Οι χρήστες δεν μπορούν να διαβάσουν κείμενο ροής
   • Το κείμενο εμφανίζεται καθώς δημιουργείται, επομένως το επιβλαβές περιεχόμενο μπορεί να εμφανιστεί πριν από τον πλήρη έλεγχο
5. Ποια είναι η βασική ισορροπία που πρέπει να χτυπήσουν οι μηχανικοί προστατευτικών κιγκλιδωμάτων;
   • Λήψη επιβλαβών αποτελεσμάτων ελαχιστοποιώντας τα ψευδώς θετικά αποτελέσματα σε νόμιμα αιτήματα
   • Κάνοντας το μοντέλο όσο πιο αργό γίνεται
   • Αποκλεισμός κάθε απάντησης
   • Κατάργηση όλων των καταγραφών
6. What is a privacy-conscious way to log moderation decisions?
   • Store every full conversation indefinitely with public access
   • Record only necessary information, with defined access and retention controls
   • Disable all privacy controls to simplify debugging
   • Publish blocked prompts so users can inspect them
7. What should pre-deployment guardrail testing include?
   • Only the prompts that already pass
   • No testing of borderline requests
   • Representative harmful and benign cases to measure misses and false positives
   • A single test prompt for every policy category
8. Why monitor guardrails after deployment?
   • Monitoring makes the model intrinsically safe
   • A deployed classifier never changes its error rate
   • It eliminates the need for user reports or evaluation
   • Usage and threat patterns can change, revealing new errors or policy gaps