Bài kiểm tra về lan can và kiểm duyệt đầu ra

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. Lan can trong bối cảnh của một mô hình ngôn ngữ là gì?
   • Kiểm tra an toàn giúp giữ đầu vào và đầu ra trong giới hạn chấp nhận được
   • Viền trang trí xung quanh cửa sổ chat
   • Một cách để làm cho mô hình phản hồi nhanh hơn
   • Phần cứng làm mát máy chủ
2. 'Kiểm duyệt đầu ra' kiểm tra cụ thể những gì?
   • Điện năng mà mô hình sử dụng
   • Văn bản mà mô hình tạo ra trước khi đến tay người dùng
   • Tốc độ gõ của người dùng
   • Bảng màu của giao diện
3. Đâu là ví dụ về lan can bảo vệ phía đầu vào?
   • Dịch câu trả lời sang tiếng Tây Ban Nha
   • Làm cho phông chữ lớn hơn
   • Lọc nỗ lực tiêm nhắc trước khi nó đến mô hình
   • Thêm trích dẫn vào câu trả lời
4. Tại sao việc kiểm duyệt phản hồi phát trực tuyến (theo từng mã thông báo) lại khó hơn?
   • Truyền phát sử dụng nhiều màu sắc hơn
   • Truyền phát vô hiệu hóa tất cả các bộ phân loại
   • Người dùng không thể đọc văn bản truyền phát
   • Văn bản được hiển thị khi nó được tạo nên nội dung có hại có thể xuất hiện trước khi kiểm tra đầy đủ
5. Các kỹ sư lan can cân bằng chính phải tấn công là gì?
   • Nắm bắt đầu ra có hại trong khi giảm thiểu kết quả dương tính giả đối với các yêu cầu hợp pháp
   • Làm cho mô hình chậm nhất có thể
   • Chặn mọi phản hồi
   • Xóa tất cả nhật ký
6. What is a privacy-conscious way to log moderation decisions?
   • Store every full conversation indefinitely with public access
   • Record only necessary information, with defined access and retention controls
   • Disable all privacy controls to simplify debugging
   • Publish blocked prompts so users can inspect them
7. What should pre-deployment guardrail testing include?
   • Only the prompts that already pass
   • No testing of borderline requests
   • Representative harmful and benign cases to measure misses and false positives
   • A single test prompt for every policy category
8. Why monitor guardrails after deployment?
   • Monitoring makes the model intrinsically safe
   • A deployed classifier never changes its error rate
   • It eliminates the need for user reports or evaluation
   • Usage and threat patterns can change, revealing new errors or policy gaps