ДаліНаступний посібник
Наївні байєсівські класифікатори
основи
ПОСІБНИК З ОСНОВ
K-найближчі сусіди
K-Nearest Neighbors (KNN) класифікує нову точку даних, розглядаючи K найближчих прикладів і приймаючи більшість голосів.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Огляд
It matters as one of the simplest, most intuitive algorithms in machine learning, requiring almost no training.
Глибоке занурення
A KNN classifier stores labeled training examples and, for a query, finds K neighbors under a selected distance metric before combining their labels. A KNN regressor commonly aggregates neighboring numeric targets. It is instance-based rather than a compact parametric model, but fitting may still include feature scaling, index construction, or other preprocessing. Because distance uses every feature, fit scaling on training data so large-range features do not dominate. Brute-force search compares a query with many or all stored examples; KD trees, Ball trees, and approximate-neighbor indexes can accelerate suitable data and metrics. In high dimensions, distance may become less informative and tree indexes may offer little speedup. A small K can be sensitive to noise, while a larger K smooths local decisions. Validate the representation, metric, K, and search method on the intended workload.
Реалізація в реальному світі
Системи рекомендацій: пропонуються фільми або продукти, схожі на ті, які користувачеві вже сподобалися.
Розпізнавання рукописних цифр: класифікація цифри шляхом порівняння її з найбільш схожими зображеннями.
Підтримка медичної діагностики: прогнозування стану на основі пацієнтів із найбільш схожими результатами тестів.
Семантичний пошук: отримання найближчих вбудованих текстів для відповіді на запит у векторній базі даних.
Майбутнє K-найближчих сусідів
Основна ідея KNN — знайти найбільш схожі приклади — забезпечує сучасний векторний пошук і генерацію з доповненим пошуком, коли системи вибирають найближчі вбудовані вектори для обґрунтування великих мовних моделей. Бібліотеки приблизного найближчого сусіда, такі як FAISS і HNSW, роблять пошук схожості в мільярдному масштабі практичним. Незважаючи на те, що принцип найближчого сусіда рідко є кінцевим класифікатором у великих конвеєрах, він більш актуальний, ніж будь-коли, як основа семантичного пошуку та рекомендацій.
Застосування на практиці
Чому це важливо
- Чіткіші рішення. Це допоможе вам відокремити чіткі технічні заяви від маркетингової мови.
- Вартість і бюджет. Перш ніж витрачати гроші чи час, ви можете задати питання про кращу реалізацію.
- Команда та робочий процес. Команди зі спільним розумінням приймають кращі рішення щодо продуктів, політики та навчання.
Зверніть увагу на
- Різні команди можуть використовувати той самий термін по-різному, тому визначте обсяг завчасно.
- Порівняльні показники можуть виглядати сильними, тоді як продуктивність у реальному світі нерівномірна.
- Ігнорування якості даних і планів оцінки часто призводить до нестабільних результатів.
Наступні кроки
- Почніть із простого визначення необхідного результату.
- Перед тестуванням виберіть одну метрику успіху та одну умову невдачі.
- Запустіть невеликий пілот із репрезентативними даними, а не відшліфованим демонстраційним набором.
- Задокументуйте, де K-Nearest Neighbors допомагає, а де простіші методи кращі.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the K-Nearest Neighbors quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
What is K-Nearest Neighbors?
K-Nearest Neighbors (KNN) класифікує нову точку даних, розглядаючи K найближчих прикладів і приймаючи більшість голосів. Він має значення як один із найпростіших, найбільш інтуїтивно зрозумілих алгоритмів у машинному навчанні, який майже не потребує навчання.
Як KNN класифікує нову точку даних?
KNN знаходить K найближчих збережених прикладів і призначає найпоширеніший клас серед них (для регресії він усереднює їхні значення).
Why is KNN often called a “lazy learner”?
KNN is instance-based rather than learning a compact parametric weight set; implementations can still preprocess or build search indexes at fit time.
Чому масштабування функцій важливо для KNN?
Оскільки KNN залежить від відстані, немасштабована функція великого діапазону може перевершити інші, тому функції зазвичай нормалізуються.
Що станеться, якщо вибрати дуже маленьке K, наприклад K=1?
Крихітне K дозволяє одному шумному чи неправильно позначеному сусідові визначити результат, що призводить до нерівної межі, що перевищує відповідність.
In a brute-force KNN implementation, why can prediction be slow on a large dataset?
A brute-force scan compares against stored points, while trees or approximate-neighbor indexes can accelerate some workloads depending on data and metric.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми