Tiếp theoHướng dẫn tiếp theo
Bộ phân loại Naive Bayes
Nguyên tắc cơ bản
HƯỚNG DẪN cơ bản
K-Hàng xóm gần nhất
K-Nearest Neighbors (KNN) phân loại một điểm dữ liệu mới bằng cách xem xét K ví dụ gần nhất và lấy đa số phiếu bầu.
Nghe hướng dẫn nàyAI thuật lại · ~2 min
Trên trang nàyĐọc trong 2 phút
Tổng quan
Nó được coi là một trong những thuật toán đơn giản nhất, trực quan nhất trong học máy và hầu như không cần đào tạo.
Lặn sâu
A KNN classifier stores labeled training examples and, for a query, finds K neighbors under a selected distance metric before combining their labels. A KNN regressor commonly aggregates neighboring numeric targets. It is instance-based rather than a compact parametric model, but fitting may still include feature scaling, index construction, or other preprocessing. Because distance uses every feature, fit scaling on training data so large-range features do not dominate. Brute-force search compares a query with many or all stored examples; KD trees, Ball trees, and approximate-neighbor indexes can accelerate suitable data and metrics. In high dimensions, distance may become less informative and tree indexes may offer little speedup. A small K can be sensitive to noise, while a larger K smooths local decisions. Validate the representation, metric, K, and search method on the intended workload.
Triển khai trong thế giới thực
Hệ thống đề xuất: đề xuất phim hoặc sản phẩm tương tự với những sản phẩm mà người dùng đã thích.
Nhận dạng chữ số viết tay: phân loại một chữ số bằng cách so sánh nó với các hình ảnh được gắn nhãn giống nhau nhất.
Hỗ trợ chẩn đoán y tế: dự đoán tình trạng bệnh dựa trên những bệnh nhân có kết quả xét nghiệm giống nhau nhất.
Tìm kiếm ngữ nghĩa: truy xuất các phần nhúng văn bản gần nhất để trả lời truy vấn trong cơ sở dữ liệu vectơ.
Tương lai của hàng xóm gần nhất K
Ý tưởng cốt lõi của KNN là tìm các ví dụ tương tự nhất, hỗ trợ thế hệ tăng cường truy xuất và tìm kiếm vectơ hiện đại, trong đó các hệ thống tìm nạp các vectơ nhúng gần nhất để làm nền tảng cho các mô hình ngôn ngữ lớn. Các thư viện lân cận gần nhất như FAISS và HNSW giúp việc tìm kiếm tương tự ở quy mô hàng tỷ trở nên thực tế. Mặc dù hiếm khi là bộ phân loại cuối cùng trong các quy trình lớn, nhưng nguyên tắc lân cận gần nhất lại phù hợp hơn bao giờ hết với tư cách là xương sống của tìm kiếm và đề xuất ngữ nghĩa.
Đưa nó vào thực tế
Tại sao nó quan trọng
- Quyết định rõ ràng hơn. Nó giúp bạn tách biệt các tuyên bố kỹ thuật rõ ràng khỏi ngôn ngữ tiếp thị.
- Chi phí và ngân sách. Bạn có thể đặt các câu hỏi triển khai tốt hơn trước khi chi tiền hoặc thời gian.
- Nhóm và quy trình làm việc. Các nhóm có sự hiểu biết chung sẽ đưa ra các quyết định về sản phẩm, chính sách và học tập tốt hơn.
coi chừng
- Các nhóm khác nhau có thể sử dụng cùng một thuật ngữ một cách khác nhau, vì vậy hãy sớm xác định phạm vi.
- Điểm chuẩn có thể trông mạnh mẽ trong khi hiệu suất trong thế giới thực không đồng đều.
- Việc bỏ qua các kế hoạch đánh giá và chất lượng dữ liệu thường tạo ra những kết quả mong manh.
Các bước tiếp theo
- Bắt đầu với một định nghĩa đơn giản về kết quả bạn cần.
- Chọn một số liệu thành công và một điều kiện thất bại trước khi thử nghiệm.
- Chạy một thử nghiệm nhỏ với dữ liệu đại diện chứ không phải một bản demo bóng bẩy.
- Ghi lại nơi K-Nearest Neighbors trợ giúp và nơi các phương pháp đơn giản hơn sẽ tốt hơn.
Tiếp tục khám phá
Bản tin miễn phí
Nhận bản tóm tắt AI hàng ngày
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Take the K-Nearest Neighbors quiz
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Câu hỏi thường gặp
K-Hàng xóm gần nhất là gì?
K-Nearest Neighbors (KNN) phân loại một điểm dữ liệu mới bằng cách xem xét K ví dụ gần nhất và lấy đa số phiếu bầu. Nó được coi là một trong những thuật toán đơn giản nhất, trực quan nhất trong học máy, hầu như không cần đào tạo.
KNN phân loại điểm dữ liệu mới như thế nào?
KNN tìm K ví dụ được lưu trữ gần nhất và chỉ định lớp phổ biến nhất trong số chúng (đối với hồi quy, nó tính trung bình các giá trị của chúng).
Why is KNN often called a “lazy learner”?
KNN is instance-based rather than learning a compact parametric weight set; implementations can still preprocess or build search indexes at fit time.
Tại sao việc chia tỷ lệ tính năng lại quan trọng đối với KNN?
Bởi vì KNN phụ thuộc vào khoảng cách, nên một tính năng phạm vi rộng không được chia tỷ lệ có thể lấn át các tính năng khác, vì vậy các tính năng thường được chuẩn hóa.
Điều gì xảy ra nếu bạn chọn một K rất nhỏ, như K=1?
Một K nhỏ cho phép một người hàng xóm ồn ào hoặc bị dán nhãn sai quyết định kết quả, dẫn đến ranh giới lởm chởm, quá phù hợp.
In a brute-force KNN implementation, why can prediction be slow on a large dataset?
A brute-force scan compares against stored points, while trees or approximate-neighbor indexes can accelerate some workloads depending on data and metric.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này