แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ

แบบทดสอบเจ้าหน้าที่ Guardrails

ประเมินตัวกรองเอาต์พุตและอินพุต เครื่องมือที่มีสิทธิ์น้อยที่สุด การรวมทีมสีแดง การตรวจสอบ NIST และขีดจำกัดของการควบคุมความปลอดภัย

เส้นทางแนะนำที่เกี่ยวข้องตัวแทนรั้ว
คำถาม 1 ของ 8

จุดประสงค์หลักของรั้วตัวแทนคืออะไร?

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. จุดประสงค์หลักของรั้วตัวแทนคืออะไร?
    • เพื่อจำกัดสิ่งที่ตัวแทนสามารถทำได้ พูด หรือเข้าถึงเพื่อความปลอดภัยและการปฏิบัติตามข้อกำหนด
    • เพื่อให้ตัวแทนตอบสนองช้าลง
    • เพื่อเพิ่มคำศัพท์ของตัวแทน
    • เพื่อแทนที่โมเดลต้นแบบทั้งหมด
  2. โดยทั่วไปแล้ว 'รั้วเอาต์พุต' ทำอะไร?
    • คัดกรองข้อความแจ้งผู้ใช้ที่เข้ามาเท่านั้น
    • ตรวจสอบการตอบสนองของตัวแทนเพื่อหาเนื้อหาที่เป็นพิษ เป็นเท็จ หรือไม่เป็นไปตามข้อกำหนดก่อนส่งมอบ
    • เร่งความเร็วในการฝึกโมเดล
    • ให้สิทธิ์การเข้าถึงเครื่องมือแก่ตัวแทนมากขึ้น
  3. 'หลักการของสิทธิพิเศษน้อยที่สุด' นำไปใช้กับรั้วการดำเนินการได้อย่างไร
    • ตัวแทนจะได้รับสิทธิ์ทุกประการที่เป็นไปได้
    • ตัวแทนจะต้องขออนุญาตโดยไม่ทำอะไรเลย
    • เอเจนต์จะได้รับเฉพาะเครื่องมือ คีย์ และขีดจำกัดที่จำเป็นในขอบเขตแคบเท่านั้น
    • ตัวแทนได้รับสิทธิ์การเข้าถึงระดับผู้ดูแลระบบเพื่อความสะดวก
  4. 'ผู้พิพากษา' หรือโมเดลเครื่องมือตรวจสอบความถูกต้องที่ใช้สำหรับรั้วคืออะไร?
    • เพื่อสร้างคำตอบหลักของตัวแทน
    • เพื่อจัดเก็บรหัสผ่านของผู้ใช้
    • เพื่อแปลภาษาเท่านั้น
    • เพื่อให้คะแนนหรือตรวจสอบข้อเท็จจริงผลลัพธ์ของตัวแทนเพื่อความปลอดภัยหรือความถูกต้อง
  5. เหตุใดการทดสอบราวกั้นกับอินพุตของฝ่ายตรงข้ามจึงมีความสำคัญ
    • เนื่องจากผู้โจมตีพยายามเจลเบรค ดังนั้นรั้วจึงต้องถูกตรวจสอบมากกว่าที่จะเชื่อถืออย่างสุ่มสี่สุ่มห้า
    • มันทำให้ตัวแทนช้าลงโดยตั้งใจ
    • มันไม่จำเป็นต้องมีกฎเกณฑ์ใดๆ
    • รับประกันว่าโมเดลจะไม่เกิดข้อผิดพลาด
  6. ตัวอย่างใดที่แสดงให้เห็น Action Guardrail ที่มีประสิทธิภาพ
    • ตัวแทนจัดซื้อไม่มีขีดจำกัดการใช้จ่าย
    • ตัวแทนจัดซื้อที่มีขีดจำกัดสูงสุด $100 ต่อธุรกรรมที่บังคับใช้นอกโมเดล
    • เอเจนต์ที่สามารถรันคำสั่งใดก็ได้ที่ต้องการ
    • ตัวแทนที่เพิกเฉยต่อสิทธิ์ทั้งหมด
  7. What does NIST’s Generative AI Profile say content filters can do?
    • Guarantee that all false or harmful content is removed
    • Verify that every generated answer is factually correct
    • Use rule-based or machine-learning methods to flag problematic inputs and outputs
    • Replace all post-deployment monitoring
  8. What can a NIST post-deployment monitoring plan include for generative AI?
    • A guarantee that all outputs will be safe
    • A replacement for pre-deployment testing
    • An instruction to ignore user-reported issues
    • Mechanisms to capture user input and support appeal, override, incident response, and updates