Mit dem Guide verknüpftes Quiz · Mittel Ebene

Agent Guardrails-Quiz

Bewerten Sie Ausgabe- und Eingabefilter, Least-Privilege-Tools, Red-Teaming, NIST-Überwachung und die Grenzen von Sicherheitskontrollen.

Verwandte FührungspfadeAgentenleitplanken
Frage 1 von 8

Was ist der Hauptzweck von Agentenleitplanken?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. Was ist der Hauptzweck von Agentenleitplanken?
    • Um die Möglichkeiten eines Agenten einzuschränken, was er tun, sagen oder darauf zugreifen kann, um Sicherheit und Compliance zu gewährleisten
    • Damit die Agenten langsamer reagieren
    • Um den Wortschatz des Agenten zu erweitern
    • Um das zugrunde liegende Modell vollständig zu ersetzen
  2. Was macht eine „Ausgabeleitplanke“ normalerweise?
    • Überprüft nur eingehende Benutzeraufforderungen
    • Überprüft die Antworten des Agenten vor der Zustellung auf schädliche, falsche oder nicht konforme Inhalte
    • Beschleunigt das Training des Modells
    • Gewährt dem Agenten mehr Werkzeugzugriff
  3. Wie lässt sich das „Prinzip der geringsten Privilegien“ auf Handlungsleitplanken anwenden?
    • Dem Agenten werden alle möglichen Berechtigungen erteilt
    • Der Agent muss umsonst um Erlaubnis bitten
    • Der Agent erhält nur eng begrenzte Tools, Schlüssel und Einschränkungen, die er benötigt
    • Zur Vereinfachung erhält der Agent Administratorzugriff
  4. Wofür wird ein „Richter“- oder Validatormodell in Leitplanken verwendet?
    • Um die Hauptantworten des Agenten zu generieren
    • Zum Speichern von Benutzerkennwörtern
    • Nur zum Übersetzen von Sprachen
    • Um die Ergebnisse des Agenten auf Sicherheit oder Genauigkeit zu bewerten oder einer Faktenprüfung zu unterziehen
  5. Warum ist es wichtig, Leitplanken gegen gegnerische Eingaben zu testen?
    • Da Angreifer Jailbreaks versuchen, müssen Leitplanken überprüft und nicht blind vertraut werden
    • Dadurch wird der Agent absichtlich langsamer
    • Es macht jegliche Regeln überflüssig
    • Es garantiert, dass das Modell keine Fehler macht
  6. Welches Beispiel zeigt eine wirksame Handlungsleitplanke?
    • Ein Einkäufer ohne Ausgabenlimit
    • Ein Einkäufer mit einer harten Obergrenze von 100 US-Dollar pro Transaktion, die außerhalb des Modells durchgesetzt wird
    • Ein Agent, der jeden gewünschten Befehl ausführen kann
    • Ein Agent, der alle Berechtigungen ignoriert
  7. What does NIST’s Generative AI Profile say content filters can do?
    • Guarantee that all false or harmful content is removed
    • Verify that every generated answer is factually correct
    • Use rule-based or machine-learning methods to flag problematic inputs and outputs
    • Replace all post-deployment monitoring
  8. What can a NIST post-deployment monitoring plan include for generative AI?
    • A guarantee that all outputs will be safe
    • A replacement for pre-deployment testing
    • An instruction to ignore user-reported issues
    • Mechanisms to capture user input and support appeal, override, incident response, and updates