СледваСледващо ръководство
Наивни байесови класификатори
Основи
РЪКОВОДСТВО по основи
K-най-близки съседи
K-Nearest Neighbors (KNN) класифицира нова точка от данни, като разглежда K най-близките примери и взема мнозинство от гласовете.
Чуйте това ръководствоAI-разказан · ~2 min
На тази страница2 минути четене
Преглед
It matters as one of the simplest, most intuitive algorithms in machine learning, requiring almost no training.
Дълбоко гмуркане
A KNN classifier stores labeled training examples and, for a query, finds K neighbors under a selected distance metric before combining their labels. A KNN regressor commonly aggregates neighboring numeric targets. It is instance-based rather than a compact parametric model, but fitting may still include feature scaling, index construction, or other preprocessing. Because distance uses every feature, fit scaling on training data so large-range features do not dominate. Brute-force search compares a query with many or all stored examples; KD trees, Ball trees, and approximate-neighbor indexes can accelerate suitable data and metrics. In high dimensions, distance may become less informative and tree indexes may offer little speedup. A small K can be sensitive to noise, while a larger K smooths local decisions. Validate the representation, metric, K, and search method on the intended workload.
Внедряване в реалния свят
Системи за препоръчване: предлагане на филми или продукти, подобни на тези, които потребителят вече е харесал.
Разпознаване на ръкописни цифри: класифициране на цифра чрез сравняването й с най-сходните етикетирани изображения.
Поддръжка на медицинска диагноза: прогнозиране на състояние въз основа на пациенти с най-сходни резултати от теста.
Семантично търсене: извличане на най-близките текстови вграждания, за да се отговори на заявка във векторна база данни.
Бъдещето на K-най-близките съседи
Основната идея на KNN, намиране на най-сходните примери, захранва модерното векторно търсене и генериране с разширено извличане, където системите извличат най-близките вектори за вграждане, за да заземят големи езикови модели. Библиотеките с приблизителни най-близки съседи като FAISS и HNSW правят търсенето на прилики в милиард мащаб практично. Въпреки че рядко е крайният класификатор в големи тръбопроводи, принципът на най-близкия съсед е по-уместен от всякога като гръбнакът на семантичното търсене и препоръки.
Прилагайки го на практика
Защо има значение
- По-ясни решения. Помага ви да отделите ясните технически твърдения от маркетинговия език.
- Разходи и бюджет. Можете да задавате въпроси за по-добро внедряване, преди да харчите пари или време.
- Екип и работен процес. Екипи със споделено разбиране вземат по-добри решения за продукти, политики и обучение.
Внимавайте за
- Различните екипи могат да използват един и същи термин по различен начин, така че дефинирайте обхвата рано.
- Бенчмарковете могат да изглеждат силни, докато производителността в реалния свят е неравномерна.
- Пренебрегването на качеството на данните и плановете за оценка често създава крехки резултати.
Следващи стъпки
- Започнете с дефиниция на обикновен език за резултата, от който се нуждаете.
- Изберете един показател за успех и едно условие за неуспех преди тестване.
- Изпълнете малък пилотен проект с представителни данни, а не изпипан демонстрационен набор.
- Документирайте къде K-Nearest Neighbors помага и къде по-простите методи са по-добри.
Продължете да изследвате
Безплатен бюлетин
Получавайте дневния AI бюлетин
Три проверени AI истории всяка делнична сутрин, написани на достъпен език. Безплатно завинаги, без реклами.
Един имейл всеки делничен ден. Отписване с едно кликване. Никога не продаваме и не споделяме вашия имейл адрес.
Тествайте себе си
Take the K-Nearest Neighbors quiz
Незабавна обратна връзка за всеки отговор и сертификат за споделяне с подлежащ на проверка идентификационен номер, след като преминете курс.
Подкрепете безплатното AI образование. AI Understanding е 501(c)(3) с нестопанска цел — без реклами, без платен достъп, никога. Направете дарение
Често задавани въпроси
What is K-Nearest Neighbors?
K-Nearest Neighbors (KNN) класифицира нова точка от данни, като разглежда K най-близките примери и взема мнозинство от гласовете. Има значение като един от най-простите, най-интуитивните алгоритми в машинното обучение, който не изисква почти никакво обучение.
Как KNN класифицира нова точка от данни?
KNN намира K най-близките съхранени примери и присвоява най-често срещания клас сред тях (за регресия осреднява техните стойности).
Why is KNN often called a “lazy learner”?
KNN is instance-based rather than learning a compact parametric weight set; implementations can still preprocess or build search indexes at fit time.
Защо мащабирането на функции е важно за KNN?
Тъй като KNN разчита на разстоянието, немащабирана функция с голям обхват може да надделее над други, така че характеристиките обикновено се нормализират.
Какво се случва, ако изберете много малко K, като K=1?
Малкото K позволява на единичен шумен или неправилно етикетиран съсед да реши резултата, което води до назъбена граница с прекомерна годност.
In a brute-force KNN implementation, why can prediction be slow on a large dataset?
A brute-force scan compares against stored points, while trees or approximate-neighbor indexes can accelerate some workloads depending on data and metric.
Продължавай да учиш
Свързани ръководства
Още ръководства, избрани за тази тема