K-найближчі сусіди
K-Nearest Neighbors (KNN) класифікує нову точку даних, розглядаючи K найближчих прикладів і приймаючи більшість голосів.
Огляд
It matters as one of the simplest, most intuitive algorithms in machine learning, requiring almost no training.
Глибоке занурення
KNN — «ледачий учень»: він не проводить справжнього навчання, а натомість просто зберігає весь набір даних. Щоб класифікувати нову точку, вона вимірює відстань, зазвичай евклідову, до кожного збереженого прикладу, знаходить K найближчих сусідів і призначає найпоширеніший клас серед них. Для регресії він замість цього усереднює значення сусідів. Вибір K має значення: малий K чутливий до шуму та може переоформитися, тоді як великий K згладжує рішення, але може розмивати реальні межі. Оскільки всі функції впливають на відстань, KNN вимагає масштабування функцій, щоб змінні великого діапазону не домінували. Його основним недоліком є швидкість прогнозування, оскільки кожен запит порівнюється з усім набором даних.
Технічне розуміння
KNN не є параметричним і базується на екземплярах: він не робить припущень щодо форми даних і зберігає приклади, а не вивчає ваги. Метрика відстані, евклідова, манхеттенська або косинусова, визначає «близькість», і межа прийняття рішення, яку вона формує, може бути дуже нерегулярною. Оскільки кожен запит порівнюється з усіма точками, простий пошук відбувається повільно, тому бібліотеки використовують KD-дерева, шарові дерева або наближені індекси найближчих сусідів, щоб пришвидшити пошук у нижчих вимірах.
Стратегічний вплив
Чіткіші рішення
Це допоможе вам відокремити чіткі технічні заяви від маркетингової мови.
Вартість і бюджет
Перш ніж витрачати гроші чи час, ви можете задати питання про кращу реалізацію.
Команда та робочий процес
Команди зі спільним розумінням приймають кращі рішення щодо продуктів, політики та навчання.
Майбутнє K-найближчих сусідів
Основна ідея KNN — знайти найбільш схожі приклади — забезпечує сучасний векторний пошук і генерацію з доповненим пошуком, коли системи вибирають найближчі вбудовані вектори для обґрунтування великих мовних моделей. Бібліотеки приблизного найближчого сусіда, такі як FAISS і HNSW, роблять пошук схожості в мільярдному масштабі практичним. Незважаючи на те, що принцип найближчого сусіда рідко є кінцевим класифікатором у великих конвеєрах, він більш актуальний, ніж будь-коли, як основа семантичного пошуку та рекомендацій.
Реалізація в реальному світі
Системи рекомендацій: пропонуються фільми або продукти, схожі на ті, які користувачеві вже сподобалися.
Розпізнавання рукописних цифр: класифікація цифри шляхом порівняння її з найбільш схожими зображеннями.
Підтримка медичної діагностики: прогнозування стану на основі пацієнтів із найбільш схожими результатами тестів.
Семантичний пошук: отримання найближчих вбудованих текстів для відповіді на запит у векторній базі даних.
Ризики та огорожі
Різні команди можуть використовувати той самий термін по-різному, тому визначте обсяг завчасно.
Порівняльні показники можуть виглядати сильними, тоді як продуктивність у реальному світі нерівномірна.
Ігнорування якості даних і планів оцінки часто призводить до нестабільних результатів.
Дорожня карта впровадження
Почніть із простого визначення необхідного результату.
Перед тестуванням виберіть одну метрику успіху та одну умову невдачі.
Запустіть невеликий пілот із репрезентативними даними, а не відшліфованим демонстраційним набором.
Задокументуйте, де K-Nearest Neighbors допомагає, а де простіші методи кращі.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the K-Nearest Neighbors quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Наступний посібник
Наївні байєсівські класифікатори
Часті запитання
What is K-Nearest Neighbors?
K-Nearest Neighbors (KNN) класифікує нову точку даних, розглядаючи K найближчих прикладів і приймаючи більшість голосів. Він має значення як один із найпростіших, найбільш інтуїтивно зрозумілих алгоритмів у машинному навчанні, який майже не потребує навчання.
Як KNN класифікує нову точку даних?
KNN знаходить K найближчих збережених прикладів і призначає найпоширеніший клас серед них (для регресії він усереднює їхні значення).
Чому KNN називають «лінивим учнем»?
KNN відкладає всю роботу на час прогнозування; він просто запам’ятовує набір даних замість того, щоб будувати модель під час навчання.
Чому масштабування функцій важливо для KNN?
Оскільки KNN залежить від відстані, немасштабована функція великого діапазону може перевершити інші, тому функції зазвичай нормалізуються.
Що станеться, якщо вибрати дуже маленьке K, наприклад K=1?
Крихітне K дозволяє одному шумному чи неправильно позначеному сусідові визначити результат, що призводить до нерівної межі, що перевищує відповідність.
У чому головний практичний недолік KNN?
Оскільки кожен запит має вимірювати відстань до кожного прикладу, передбачення може бути повільним для великих наборів даних, що вимагає прискорення пошуку дерева або приблизного пошуку.