Câu đố về lan can đặc vụ

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. Mục đích chính của lan can đại lý là gì?
   • Để hạn chế những gì một đại lý có thể làm, nói hoặc truy cập để đảm bảo an toàn và tuân thủ
   • Để làm cho các đại lý phản hồi chậm hơn
   • Để tăng vốn từ vựng của đại lý
   • Để thay thế hoàn toàn mô hình cơ bản
2. 'Ran can bảo vệ đầu ra' thường làm gì?
   • Chỉ sàng lọc lời nhắc của người dùng đến
   • Kiểm tra phản hồi của đại lý về nội dung độc hại, sai hoặc không tuân thủ trước khi giao hàng
   • Tăng tốc độ đào tạo của người mẫu
   • Cấp cho đại lý nhiều quyền truy cập công cụ hơn
3. 'Nguyên tắc đặc quyền tối thiểu' áp dụng như thế nào đối với các lan can hành động?
   • Người đại diện được cấp mọi quyền có thể
   • Người đại diện không được phép xin phép gì cả
   • Tác nhân chỉ nhận được các công cụ, khóa và giới hạn trong phạm vi hẹp mà nó cần
   • Đại lý được cấp quyền truy cập quản trị viên để thuận tiện
4. Mô hình 'thẩm phán' hoặc người xác nhận được sử dụng trong lan can là gì?
   • Để tạo ra câu trả lời chính của đại lý
   • Để lưu trữ mật khẩu người dùng
   • Chỉ dịch các ngôn ngữ
   • Để chấm điểm hoặc kiểm tra thực tế kết quả đầu ra của nhân viên để đảm bảo an toàn hoặc chính xác
5. Tại sao việc kiểm tra các biện pháp bảo vệ chống lại tác động đầu vào của đối thủ lại quan trọng?
   • Bởi vì những kẻ tấn công cố gắng bẻ khóa, nên các biện pháp bảo vệ phải được thăm dò thay vì tin tưởng một cách mù quáng
   • Nó cố tình làm cho tác nhân chậm hơn
   • Nó loại bỏ sự cần thiết của bất kỳ quy tắc nào
   • Nó đảm bảo mô hình không bao giờ mắc lỗi
6. Ví dụ nào cho thấy một lan can bảo vệ hành động hiệu quả?
   • Một đại lý mua hàng không có giới hạn chi tiêu
   • Một đại lý mua hàng có giới hạn cố định là 100 USD cho mỗi giao dịch được thực thi bên ngoài mô hình
   • Một tác nhân có thể chạy bất kỳ lệnh nào nó muốn
   • Một tác nhân bỏ qua tất cả các quyền
7. What does NIST’s Generative AI Profile say content filters can do?
   • Guarantee that all false or harmful content is removed
   • Verify that every generated answer is factually correct
   • Use rule-based or machine-learning methods to flag problematic inputs and outputs
   • Replace all post-deployment monitoring
8. What can a NIST post-deployment monitoring plan include for generative AI?
   • A guarantee that all outputs will be safe
   • A replacement for pre-deployment testing
   • An instruction to ignore user-reported issues
   • Mechanisms to capture user input and support appeal, override, incident response, and updates