แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ
แบบทดสอบเจ้าหน้าที่ Guardrails
ประเมินตัวกรองเอาต์พุตและอินพุต เครื่องมือที่มีสิทธิ์น้อยที่สุด การรวมทีมสีแดง การตรวจสอบ NIST และขีดจำกัดของการควบคุมความปลอดภัย
คำถาม 1 ของ 8
จุดประสงค์หลักของรั้วตัวแทนคืออะไร?
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- จุดประสงค์หลักของรั้วตัวแทนคืออะไร?
- เพื่อจำกัดสิ่งที่ตัวแทนสามารถทำได้ พูด หรือเข้าถึงเพื่อความปลอดภัยและการปฏิบัติตามข้อกำหนด
- เพื่อให้ตัวแทนตอบสนองช้าลง
- เพื่อเพิ่มคำศัพท์ของตัวแทน
- เพื่อแทนที่โมเดลต้นแบบทั้งหมด
- โดยทั่วไปแล้ว 'รั้วเอาต์พุต' ทำอะไร?
- คัดกรองข้อความแจ้งผู้ใช้ที่เข้ามาเท่านั้น
- ตรวจสอบการตอบสนองของตัวแทนเพื่อหาเนื้อหาที่เป็นพิษ เป็นเท็จ หรือไม่เป็นไปตามข้อกำหนดก่อนส่งมอบ
- เร่งความเร็วในการฝึกโมเดล
- ให้สิทธิ์การเข้าถึงเครื่องมือแก่ตัวแทนมากขึ้น
- 'หลักการของสิทธิพิเศษน้อยที่สุด' นำไปใช้กับรั้วการดำเนินการได้อย่างไร
- ตัวแทนจะได้รับสิทธิ์ทุกประการที่เป็นไปได้
- ตัวแทนจะต้องขออนุญาตโดยไม่ทำอะไรเลย
- เอเจนต์จะได้รับเฉพาะเครื่องมือ คีย์ และขีดจำกัดที่จำเป็นในขอบเขตแคบเท่านั้น
- ตัวแทนได้รับสิทธิ์การเข้าถึงระดับผู้ดูแลระบบเพื่อความสะดวก
- 'ผู้พิพากษา' หรือโมเดลเครื่องมือตรวจสอบความถูกต้องที่ใช้สำหรับรั้วคืออะไร?
- เพื่อสร้างคำตอบหลักของตัวแทน
- เพื่อจัดเก็บรหัสผ่านของผู้ใช้
- เพื่อแปลภาษาเท่านั้น
- เพื่อให้คะแนนหรือตรวจสอบข้อเท็จจริงผลลัพธ์ของตัวแทนเพื่อความปลอดภัยหรือความถูกต้อง
- เหตุใดการทดสอบราวกั้นกับอินพุตของฝ่ายตรงข้ามจึงมีความสำคัญ
- เนื่องจากผู้โจมตีพยายามเจลเบรค ดังนั้นรั้วจึงต้องถูกตรวจสอบมากกว่าที่จะเชื่อถืออย่างสุ่มสี่สุ่มห้า
- มันทำให้ตัวแทนช้าลงโดยตั้งใจ
- มันไม่จำเป็นต้องมีกฎเกณฑ์ใดๆ
- รับประกันว่าโมเดลจะไม่เกิดข้อผิดพลาด
- ตัวอย่างใดที่แสดงให้เห็น Action Guardrail ที่มีประสิทธิภาพ
- ตัวแทนจัดซื้อไม่มีขีดจำกัดการใช้จ่าย
- ตัวแทนจัดซื้อที่มีขีดจำกัดสูงสุด $100 ต่อธุรกรรมที่บังคับใช้นอกโมเดล
- เอเจนต์ที่สามารถรันคำสั่งใดก็ได้ที่ต้องการ
- ตัวแทนที่เพิกเฉยต่อสิทธิ์ทั้งหมด
- What does NIST’s Generative AI Profile say content filters can do?
- Guarantee that all false or harmful content is removed
- Verify that every generated answer is factually correct
- Use rule-based or machine-learning methods to flag problematic inputs and outputs
- Replace all post-deployment monitoring
- What can a NIST post-deployment monitoring plan include for generative AI?
- A guarantee that all outputs will be safe
- A replacement for pre-deployment testing
- An instruction to ignore user-reported issues
- Mechanisms to capture user input and support appeal, override, incident response, and updates