Chestionar pentru balustrade și moderare a rezultatelor

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

1. Ce sunt balustradele în contextul unui model lingvistic?
   • Verificări de siguranță care mențin intrările și ieșirile în limite acceptabile
   • Chenaruri decorative în jurul ferestrei de chat
   • O modalitate de a face modelul să răspundă mai rapid
   • Hardware care răcește serverele
2. Ce inspectează în mod specific „moderarea ieșirii”?
   • Electricitatea utilizată de model
   • Textul produs de model, înainte de a ajunge la utilizator
   • Viteza de tastare a utilizatorului
   • Schema de culori a interfeței
3. Care este un exemplu de balustradă pe partea de intrare?
   • Traducerea răspunsului în spaniolă
   • Mărirea fontului
   • Filtrarea unei încercări de injectare promptă înainte de a ajunge la model
   • Adăugarea de citate la răspuns
4. De ce este mai dificilă moderarea răspunsurilor în flux (token-by-token)?
   • Streamingul folosește mai multe culori
   • Streamingul dezactivează toate clasificatoarele
   • Utilizatorii nu pot citi textul transmis în flux
   • Textul este afișat pe măsură ce este generat, astfel încât conținutul dăunător poate apărea înainte de o verificare completă
5. Care este echilibrul cheie pe care trebuie să îl lovească inginerii de parapet?
   • Obținerea rezultatelor dăunătoare minimizând în același timp fals pozitive la cererile legitime
   • Fă modelul cât mai lent posibil
   • Blocarea fiecărui răspuns
   • Eliminarea tuturor jurnalelor
6. Care este o modalitate conștientă de confidențialitate de a înregistra deciziile de moderare?
   • Store every full conversation indefinitely with public access
   • Record only necessary information, with defined access and retention controls
   • Disable all privacy controls to simplify debugging
   • Publish blocked prompts so users can inspect them
7. What should pre-deployment guardrail testing include?
   • Only the prompts that already pass
   • No testing of borderline requests
   • Representative harmful and benign cases to measure misses and false positives
   • A single test prompt for every policy category
8. Why monitor guardrails after deployment?
   • Monitoring makes the model intrinsically safe
   • A deployed classifier never changes its error rate
   • It eliminates the need for user reports or evaluation
   • Usage and threat patterns can change, revealing new errors or policy gaps