Mit dem Guide verknüpftes Quiz · Einfach Ebene

Quiz zu Leitplanken und Ausgabemoderation

Sehen Sie sich an, wie Sprachmodell-Leitplanken Eingaben, Ausgaben und Streaming-Text überprüfen und dabei Erkennung, Datenschutz, Bewertung und laufende Überwachung in Einklang bringen.

Verwandte FührungspfadeLeitplanken und Ausgabemoderation
Frage 1 von 8

Was sind Leitplanken im Kontext eines Sprachmodells?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. Was sind Leitplanken im Kontext eines Sprachmodells?
    • Sicherheitskontrollen, die die Ein- und Ausgänge innerhalb akzeptabler Grenzen halten
    • Dekorative Ränder um das Chatfenster
    • Eine Möglichkeit, das Modell schneller reagieren zu lassen
    • Hardware, die die Server kühlt
  2. Was prüft die „Output-Moderation“ konkret?
    • Der vom Modell verbrauchte Strom
    • Der Text, den das Modell erzeugt hat, bevor er den Benutzer erreicht
    • Die Tippgeschwindigkeit des Benutzers
    • Das Farbschema der Benutzeroberfläche
  3. Welches ist ein Beispiel für eine eingangsseitige Leitplanke?
    • Die Antwort ins Spanische übersetzen
    • Vergrößern Sie die Schriftart
    • Filtern eines Prompt-Injection-Versuchs, bevor er das Modell erreicht
    • Zitate zur Antwort hinzufügen
  4. Warum ist es schwieriger, Streaming-Antworten (Token für Token) zu moderieren?
    • Beim Streaming werden mehr Farben verwendet
    • Streaming deaktiviert alle Klassifikatoren
    • Benutzer können gestreamten Text nicht lesen
    • Text wird angezeigt, während er generiert wird, sodass schädliche Inhalte vor einer vollständigen Prüfung auftauchen können
  5. Was ist der Schlüssel zur Balance, den Leitplankeningenieure anstreben müssen?
    • Schädliche Ausgaben werden abgefangen und gleichzeitig Fehlalarme bei legitimen Anfragen minimiert
    • Machen Sie das Modell so langsam wie möglich
    • Blockieren jeder einzelnen Antwort
    • Sämtliche Protokollierung wird entfernt
  6. What is a privacy-conscious way to log moderation decisions?
    • Store every full conversation indefinitely with public access
    • Record only necessary information, with defined access and retention controls
    • Disable all privacy controls to simplify debugging
    • Publish blocked prompts so users can inspect them
  7. What should pre-deployment guardrail testing include?
    • Only the prompts that already pass
    • No testing of borderline requests
    • Representative harmful and benign cases to measure misses and false positives
    • A single test prompt for every policy category
  8. Why monitor guardrails after deployment?
    • Monitoring makes the model intrinsically safe
    • A deployed classifier never changes its error rate
    • It eliminates the need for user reports or evaluation
    • Usage and threat patterns can change, revealing new errors or policy gaps