Bài kiểm tra có liên kết hướng dẫn · Cứng Cấp độ

Bài kiểm tra phân loại phát hiện tiêm nhắc nhở

Kiểm tra phạm vi của bộ phân loại, sự cân bằng ngưỡng, giới hạn phiên bản của Nhắc bảo vệ 2, cấu hình Lá chắn nhắc nhở Microsoft và khả năng phòng thủ chuyên sâu.

Đường dẫn hướng dẫn liên quanBộ phân loại Phát hiện Xâm nhập Prompt
Câu hỏi 1 của 8

Trình phân loại phát hiện tiêm trả về kết quả gì?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. Trình phân loại phát hiện tiêm trả về kết quả gì?
    • Nhãn hoặc điểm đánh giá xem văn bản có giống một cuộc tấn công theo chính sách của nó hay không
    • Đảm bảo rằng đầu vào được an toàn
    • Lời nhắc hệ thống đã được sửa
    • Bằng chứng là mô hình chính sẽ tuân theo văn bản
  2. Thẻ mô hình Nhắc Guard 2 của Meta nhắm đến loại văn bản nào?
    • Chỉ đầu ra mô hình được tạo
    • Cố gắng rõ ràng để ghi đè các hướng dẫn trước đó, được gắn nhãn lành tính hoặc độc hại
    • Tất cả các tuyên bố sai và sai sót thực tế
    • Mọi hình ảnh độc hại
  3. Danh sách thẻ Nhắc Guard 2 có giới hạn cửa sổ ngữ cảnh nào?
    • Một triệu token cho mỗi máy dò
    • Chỉ giới hạn về đầu vào hình ảnh
    • 512 mã thông báo cho các mô hình được ghi lại
    • Không có giới hạn đầu vào
  4. Rủi ro nào xảy ra khi đặt ngưỡng phân loại tiêm quá mạnh?
    • Các cuộc tấn công mới sẽ luôn bị chặn
    • Hệ thống ngừng cần đánh giá
    • Tất cả nội dung lành tính được phân loại chính xác
    • Các cuộc thảo luận về bảo mật hợp pháp có thể bị gắn cờ
  5. Điều gì có thể xảy ra với một ngưỡng quá dễ dãi?
    • Các cuộc tấn công mới hoặc được điều chỉnh lại có thể bị bỏ sót
    • Mọi đầu vào lành tính đều bị chặn
    • Trình phân loại trở thành mô hình ngôn ngữ
    • Quyền của công cụ tự động thay đổi
  6. Tài liệu Microsoft về cấu hình Nhắc Shields là gì?
    • It guarantees no false positives
    • Intervention points must match where the attacks appear
    • The feature scans every deployment automatically
    • It cannot flag document attacks
  7. Why should a team record classifier version and intervention point?
    • To avoid tracking false positives
    • To bypass all model limits
    • To interpret and reproduce why particular content was scored or filtered
    • To make the score a legal conclusion
  8. How should classifier results fit into a security design?
    • As the sole proof that all unflagged text is safe
    • As a replacement for testing
    • As an automatic authorization for tools
    • As one signal combined with provenance, permissions, validation, and monitoring