ДалееСледующее руководство
Наивные байесовские классификаторы
Основы
РУКОВОДСТВО ПО ОСНОВАМ
K-Ближайшие соседи
K-Nearest Neighbours (KNN) классифицирует новую точку данных, рассматривая K ближайших примеров и принимая большинство голосов.
Прослушайте это руководствоОзвучено ИИ · ~2 min
На этой странице2 минуты чтения
Обзор
Он важен как один из самых простых и интуитивно понятных алгоритмов машинного обучения, практически не требующий обучения.
Глубокое погружение
A KNN classifier stores labeled training examples and, for a query, finds K neighbors under a selected distance metric before combining their labels. A KNN regressor commonly aggregates neighboring numeric targets. It is instance-based rather than a compact parametric model, but fitting may still include feature scaling, index construction, or other preprocessing. Because distance uses every feature, fit scaling on training data so large-range features do not dominate. Brute-force search compares a query with many or all stored examples; KD trees, Ball trees, and approximate-neighbor indexes can accelerate suitable data and metrics. In high dimensions, distance may become less informative and tree indexes may offer little speedup. A small K can be sensitive to noise, while a larger K smooths local decisions. Validate the representation, metric, K, and search method on the intended workload.
Реальная реализация
Системы рекомендаций: предложение фильмов или продуктов, похожих на те, которые уже понравились пользователю.
Распознавание рукописных цифр: классификация цифр путем сравнения их с наиболее похожими помеченными изображениями.
Поддержка медицинского диагноза: прогнозирование состояния на основе пациентов с наиболее похожими результатами анализов.
Семантический поиск: получение ближайших вложений текста для ответа на запрос в векторной базе данных.
Будущее K-ближайших соседей
Основная идея KNN — найти наиболее похожие примеры — лежит в основе современного векторного поиска и генерации с расширенным поиском, когда системы выбирают ближайшие векторы встраивания для обоснования больших языковых моделей. Библиотеки приближенных ближайших соседей, такие как FAISS и HNSW, делают поиск сходства в миллиардах масштабов практичным. Хотя принцип ближайшего соседа редко является окончательным классификатором в крупных конвейерах, он более актуален, чем когда-либо, как основа семантического поиска и рекомендаций.
Применение на практике
Почему это важно
- Более четкие решения. Это поможет вам отделить четкие технические заявления от маркетингового языка.
- Стоимость и бюджет. Вы можете задать более эффективные вопросы по реализации, прежде чем тратить деньги или время.
- Команда и рабочий процесс. Команды с общим пониманием принимают более эффективные решения по продуктам, политике и обучению.
Следите за
- Разные команды могут использовать один и тот же термин по-разному, поэтому заранее определите масштаб.
- Тесты могут выглядеть сильными, в то время как реальная производительность неравномерна.
- Игнорирование качества данных и планов оценки часто приводит к нестабильным результатам.
Следующие шаги
- Начните с простого определения желаемого результата.
- Перед тестированием выберите один показатель успеха и одно условие отказа.
- Запустите небольшой пилотный проект с репрезентативными данными, а не отточенный демонстрационный набор.
- Документируйте, где помогает K-Nearest Neighbours и где более простые методы лучше.
Продолжайте исследовать
Бесплатная рассылка
Получайте ежедневный AI-обзор
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Take the K-Nearest Neighbors quiz
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Часто задаваемые вопросы
Что такое K-ближайшие соседи?
K-Nearest Neighbours (KNN) классифицирует новую точку данных, рассматривая K ближайших примеров и принимая большинство голосов. Он важен как один из самых простых и интуитивно понятных алгоритмов машинного обучения, практически не требующий обучения.
Как KNN классифицирует новую точку данных?
KNN находит K ближайших сохраненных примеров и назначает среди них наиболее распространенный класс (для регрессии усредняет их значения).
Why is KNN often called a “lazy learner”?
KNN is instance-based rather than learning a compact parametric weight set; implementations can still preprocess or build search indexes at fit time.
Почему масштабирование функций важно для KNN?
Поскольку KNN зависит от расстояния, немасштабированный объект с большим диапазоном может подавлять другие, поэтому объекты обычно нормализуются.
Что произойдет, если вы выберете очень маленькое значение K, например K=1?
Крошечная буква K позволяет одному шумному или неправильно маркированному соседу определить результат, что приводит к неровным границам переобучения.
In a brute-force KNN implementation, why can prediction be slow on a large dataset?
A brute-force scan compares against stored points, while trees or approximate-neighbor indexes can accelerate some workloads depending on data and metric.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме