Tiếp theoHướng dẫn tiếp theo
Kiểm tra Recall, Precision và Elusion trong Đánh giá Tài liệu
kỹ thuật
HƯỚNG DẪN cơ bản
Độ chính xác và thu hồi
Độ chính xác và thu hồi là hai số liệu bổ sung cho nhau để đánh giá các bộ phân loại, đặc biệt khi các lớp bị mất cân bằng.
Nghe hướng dẫn nàyAI thuật lại · ~2 min
Trên trang nàyĐọc trong 2 phút
Tổng quan
Họ cùng nhau tiết lộ những điều mà độ chính xác đơn giản ẩn giấu - tần suất các dự đoán tích cực của một mô hình là đúng và bao nhiêu mặt tích cực thực sự mà nó thực sự thu được.
Lặn sâu
Khi một mô hình gắn cờ các mục là tích cực, có hai câu hỏi quan trọng. Precision hỏi: trong số mọi thứ chúng tôi gắn cờ, có bao nhiêu là thực sự tích cực? Nó bằng giá trị dương thực sự chia cho tất cả giá trị dương tính được dự đoán, xử phạt các cảnh báo sai. Nhớ lại (độ nhạy) hỏi: trong số tất cả những điều tích cực thực sự ngoài kia, chúng ta đã bắt được bao nhiêu? Nó bằng số tích cực thực sự chia cho tất cả số lần tích cực thực tế, trừng phạt những lần bỏ lỡ. Những điều này thường đánh đổi: việc hạ thấp ngưỡng quyết định sẽ thu được nhiều kết quả tích cực hơn (độ thu hồi cao hơn) nhưng gắn cờ nhiều rác hơn (độ chính xác thấp hơn) và ngược lại. Việc ưu tiên nào phụ thuộc vào chi phí - bộ lọc thư rác thiên về độ chính xác (không chuyển thư thật vào thùng rác), trong khi sàng lọc ung thư thiên về thu hồi (không bỏ sót khối u). Điểm F1, giá trị trung bình hài hòa của chúng, cân bằng cả hai trong một con số.
Triển khai trong thế giới thực
Bộ lọc thư rác được điều chỉnh để có độ chính xác cao nên các email hợp pháp hầu như không bao giờ bị gửi nhầm vào thư mục thư rác.
Các xét nghiệm sàng lọc y tế ưu tiên thu hồi cao để tránh bỏ sót những bệnh nhân thực sự mắc bệnh, chấp nhận nhiều kết quả dương tính giả hơn để theo dõi.
Hệ thống tìm kiếm và đề xuất báo cáo Precision@k (có bao nhiêu kết quả trong số k kết quả hàng đầu có liên quan) để đo lường chất lượng xếp hạng.
Việc phát hiện gian lận cân bằng giữa độ chính xác và thu hồi thông qua điểm F1, vì cả cảnh báo sai và gian lận bị bỏ sót đều gây tốn kém.
Tương lai của độ chính xác và thu hồi
Khi AI thâm nhập vào các lĩnh vực có tính đặt cược cao — chẩn đoán y tế, kiểm duyệt nội dung, gian lận — các nhóm ngày càng báo cáo độ chính xác và khả năng thu hồi (và đường cong của chúng) thay vì chỉ độ chính xác, đồng thời điều chỉnh các ngưỡng để phù hợp với chi phí trong thế giới thực và các hạn chế về tính công bằng. Kiểm tra độ chính xác/thu hồi theo từng nhóm đang trở thành tiêu chuẩn để phát hiện tỷ lệ lỗi khác nhau trên các nhóm nhân khẩu học. Mong đợi các số liệu nhạy cảm về chi phí phong phú hơn, xác suất được hiệu chỉnh và công cụ cho phép các bên liên quan chọn điểm vận hành một cách tương tác thay vì chấp nhận ngưỡng 0,5 mặc định.
Đưa nó vào thực tế
Tại sao nó quan trọng
- Quyết định rõ ràng hơn. Nó giúp bạn tách biệt các tuyên bố kỹ thuật rõ ràng khỏi ngôn ngữ tiếp thị.
- Chi phí và ngân sách. Bạn có thể đặt các câu hỏi triển khai tốt hơn trước khi chi tiền hoặc thời gian.
- Nhóm và quy trình làm việc. Các nhóm có sự hiểu biết chung sẽ đưa ra các quyết định về sản phẩm, chính sách và học tập tốt hơn.
coi chừng
- Các nhóm khác nhau có thể sử dụng cùng một thuật ngữ một cách khác nhau, vì vậy hãy sớm xác định phạm vi.
- Điểm chuẩn có thể trông mạnh mẽ trong khi hiệu suất trong thế giới thực không đồng đều.
- Việc bỏ qua các kế hoạch đánh giá và chất lượng dữ liệu thường tạo ra những kết quả mong manh.
Các bước tiếp theo
- Bắt đầu với một định nghĩa đơn giản về kết quả bạn cần.
- Chọn một số liệu thành công và một điều kiện thất bại trước khi thử nghiệm.
- Chạy một thử nghiệm nhỏ với dữ liệu đại diện chứ không phải một bản demo bóng bẩy.
- Tài liệu giúp ích về Độ chính xác và Thu hồi cũng như nơi các phương pháp đơn giản hơn sẽ tốt hơn.
Tiếp tục khám phá
Bản tin miễn phí
Nhận bản tóm tắt AI hàng ngày
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Take the Precision and Recall quiz
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Câu hỏi thường gặp
Độ chính xác và thu hồi là gì?
Độ chính xác và thu hồi là hai số liệu bổ sung cho nhau để đánh giá các bộ phân loại, đặc biệt khi các lớp bị mất cân bằng. Họ cùng nhau tiết lộ điều mà độ chính xác đơn giản ẩn giấu - tần suất các dự đoán tích cực của một mô hình là đúng và bao nhiêu mặt tích cực thực sự mà nó thực sự thu được.
Trả lời chính xác câu hỏi nào?
Độ chính xác = TP / (TP + FP) đo lường tính chính xác của các dự đoán tích cực của mô hình - mức độ tin cậy của một lá cờ tích cực.
Trên một tập đánh giá cố định, việc hạ ngưỡng quyết định của lớp dương tính thường tạo ra sự đánh đổi nào?
Lowering the threshold expands or preserves the predicted-positive set. It may catch additional true positives and additional false positives; changes depend on which items cross the threshold.
Tại sao độ chính xác và độ thu hồi có thể vạch ra một điểm yếu bị che khuất bởi độ chính xác tổng thể cao trên một tập dữ liệu áp đảo bởi các mẫu âm tính?
Accuracy can be dominated by correct negative predictions. Precision and recall examine positive flags and missed positives using TP, FP, and FN.
Sáu trong số mười kết quả tìm kiếm hàng đầu có liên quan.precision@10 cho danh sách kết quả đó là gì?
Precision@10 measures the relevant fraction among the top ten results: 6/10 = 60%.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này