Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Κουίζ Agent Guardrails

Αξιολογήστε τα φίλτρα εξόδου και εισόδου, τα εργαλεία με τα λιγότερα προνόμια, το red-teaming, την παρακολούθηση NIST και τα όρια των ελέγχων ασφαλείας.

Σχετικές διαδρομές οδηγώνAgent Guardrails
Ερώτηση 1 του 8

Ποιος είναι ο κύριος σκοπός των προστατευτικών κιγκλιδωμάτων πράκτορα;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Ποιος είναι ο κύριος σκοπός των προστατευτικών κιγκλιδωμάτων πράκτορα;
    • Για να περιορίσετε τι μπορεί να κάνει ένας πράκτορας, να πει ή να έχει πρόσβαση για ασφάλεια και συμμόρφωση
    • Για να κάνουν τους πράκτορες να ανταποκρίνονται πιο αργά
    • Να αυξηθεί το λεξιλόγιο του πράκτορα
    • Για να αντικαταστήσει πλήρως το υποκείμενο μοντέλο
  2. Τι κάνει συνήθως ένα «προστατευτικό κιγκλίδωμα εξόδου»;
    • Εμφανίζει μόνο τις προτροπές εισερχόμενων χρηστών
    • Ελέγχει τις απαντήσεις του αντιπροσώπου για τοξικό, ψευδές ή μη συμμορφούμενο περιεχόμενο πριν από την παράδοση
    • Επιταχύνει την εκπαίδευση του μοντέλου
    • Παραχωρεί στον πράκτορα περισσότερη πρόσβαση στο εργαλείο
  3. Πώς εφαρμόζεται η «αρχή του ελάχιστου προνομίου» για τα προστατευτικά κιγκλιδώματα;
    • Στον πράκτορα δίνεται κάθε δυνατή άδεια
    • Ο πράκτορας δεν πρέπει να ζητήσει άδεια για τίποτα
    • Ο πράκτορας λαμβάνει μόνο εργαλεία στενής εμβέλειας, κλειδιά και όρια που χρειάζεται
    • Ο πράκτορας έχει πρόσβαση διαχειριστή για ευκολία
  4. Σε τι χρησιμεύει το μοντέλο «κριτής» ή επικυρωτή στα προστατευτικά κιγκλιδώματα;
    • Για να δημιουργήσετε τις κύριες απαντήσεις του πράκτορα
    • Για αποθήκευση κωδικών πρόσβασης χρήστη
    • Για μετάφραση μόνο γλωσσών
    • Για να βαθμολογήσετε ή να ελέγξετε τα δεδομένα των αποτελεσμάτων του πράκτορα για ασφάλεια ή ακρίβεια
  5. Γιατί είναι σημαντική η δοκιμή προστατευτικών κιγκλιδωμάτων έναντι αντίθετων εισροών;
    • Επειδή οι επιτιθέμενοι δοκιμάζουν jailbreak, έτσι τα προστατευτικά κιγκλιδώματα πρέπει να εξετάζονται αντί να τα εμπιστεύονται τυφλά
    • Κάνει τον πράκτορα πιο αργό επίτηδες
    • Καταργεί την ανάγκη για τυχόν κανόνες
    • Εγγυάται ότι το μοντέλο δεν κάνει ποτέ λάθη
  6. Ποιο παράδειγμα δείχνει ένα αποτελεσματικό προστατευτικό κιγκλίδωμα δράσης;
    • Ένας πράκτορας αγορών χωρίς όριο δαπανών
    • Ένας πράκτορας αγορών με σκληρό όριο 100 $ ανά συναλλαγή που επιβάλλεται εκτός του μοντέλου
    • Ένας πράκτορας που μπορεί να εκτελέσει όποια εντολή θέλει
    • Ένας πράκτορας που αγνοεί όλα τα δικαιώματα
  7. What does NIST’s Generative AI Profile say content filters can do?
    • Guarantee that all false or harmful content is removed
    • Verify that every generated answer is factually correct
    • Use rule-based or machine-learning methods to flag problematic inputs and outputs
    • Replace all post-deployment monitoring
  8. What can a NIST post-deployment monitoring plan include for generative AI?
    • A guarantee that all outputs will be safe
    • A replacement for pre-deployment testing
    • An instruction to ignore user-reported issues
    • Mechanisms to capture user input and support appeal, override, incident response, and updates