Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ
Mô hình có thể giải thích được và Hộp đen trong bài kiểm tra về quyết định có tính rủi ro cao
So sánh các mô hình vốn có thể hiểu được với các giải thích hậu kỳ và đánh giá độ chính xác, độ trung thực, mức độ phù hợp với nhiệm vụ và khả năng giám sát có tính rủi ro cao.
Câu hỏi 1 của 8
What distinguishes an inherently interpretable model from a black box with a post-hoc explanation?
Xem trước mọi câu hỏi8 câu hỏi
Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.
- What distinguishes an inherently interpretable model from a black box with a post-hoc explanation?
- The interpretable model exposes its computation directly; the post-hoc method approximates a separate model
- The interpretable model never makes errors
- A black box always has no inputs
- Post-hoc explanations reveal source code
- What does Cynthia Rudin recommend for high-stakes decisions when performance is adequate?
- Use the most complex model available
- Prefer an inherently interpretable model over relying on a post-hoc explanation
- Avoid evaluating model accuracy
- Replace all human review
- Is “simple models always match black-box accuracy” a valid conclusion?
- Yes, for every task
- Only in medical tasks
- No; model choice depends on task and validation evidence
- Yes, if a rule list is used
- Why can a post-hoc explanation be risky?
- It may not faithfully represent the black-box model’s actual behavior
- It always reveals too much source code
- It prevents model testing
- It is identical to the model itself
- Does an interpretable model automatically guarantee fairness?
- Yes, transparency removes bias
- No; it can still use biased data or a discriminatory target
- Only if the model is linear
- Yes, if it is small
- How should candidate models be compared?
- On separate, unrelated test cases
- Only by vendor marketing
- On the same held-out cases using task-relevant metrics and error analysis
- By number of parameters alone
- What should a team test about a post-hoc explanation?
- Whether it tracks actual predictions when inputs change
- Whether it uses a colorful chart
- Whether it avoids every technical term
- Whether it is longer than the model card
- What supports using a black box in a high-stakes setting?
- A claim that it is state of the art
- Evidence it is necessary for the task, validation, limits on authority, monitoring, and meaningful review
- A feature-importance chart alone
- A statement that no errors occurred