Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ
Tại sao AI từ chối các yêu cầu vô hại
Nhận biết những lời từ chối sai trái, làm rõ bối cảnh hợp pháp và duy trì ranh giới an toàn mà không cố gắng vượt qua các biện pháp bảo vệ đối với các yêu cầu có hại.
Câu hỏi 1 của 8
Bạn định nghĩa thế nào là từ chối quá mức?
Xem trước mọi câu hỏi8 câu hỏi
Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.
- Bạn định nghĩa thế nào là từ chối quá mức?
- Answering a harmful request fully
- Declining a benign request because it is incorrectly treated as unsafe
- Asking a clarifying question
- Refusing a request that would enable serious harm
- What was the scope of OR-Bench’s 2024 evaluation?
- Every user conversation across all current chatbots
- Only 25 harmless prompts
- A test of image-generation quality
- 80,000 seemingly toxic benign prompts, a hard subset, toxic controls, and 25 models across eight families
- Tại sao tỷ lệ từ chối OR-Bench không được coi là phổ biến?
- It depends on benchmark categories, model versions, and how prompts were labeled
- The benchmark contains no prompts
- All models have identical safety behavior
- Refusals cannot be counted
- Điều gì có thể giúp ích khi một yêu cầu chính đáng bị hiểu nhầm?
- Claiming the model must ignore all safeguards
- Hiding the real purpose
- Clarifying the benign goal, context, and safe boundaries
- Adding instructions to bypass policy
- Mục tiêu của việc giảm nhẹ việc từ chối quá mức có phải là để đáp ứng mọi yêu cầu không?
- Yes, all refusals are errors
- No; the system should reduce false refusals while still refusing harmful assistance
- Yes, if a user says it is safe
- No, because all benign requests should be refused
- Why test benign and harmful prompts that share vocabulary?
- It checks whether the model uses context rather than only surface words
- It guarantees zero false refusals
- It tests response formatting only
- It removes the need for safety tests
- Nhóm sản phẩm nên đo lường điều gì cùng với những lời từ chối sai lầm?
- Only average answer length
- Only positive user ratings
- The number of words in the policy
- Unsafe compliance on genuinely harmful requests
- If a request remains unsafe after clarification, how should a user proceed?
- Use a jailbreak to force an answer
- Repeat the request with coded wording
- Accept the boundary and ask for a safe alternative
- Assume every refusal is mistaken