À suivreGuide suivant
Classificateurs bayésiens naïfs
Fondamentaux
GUIDE des fondamentaux
K-Voisins les plus proches
K-Nearest Neighbours (KNN) classe un nouveau point de données en examinant les K exemples les plus proches et en obtenant un vote majoritaire.
Écoutez ce guideNarré par l'IA · ~2 min
Sur cette page2 minutes de lecture
Aperçu
Il s’agit de l’un des algorithmes d’apprentissage automatique les plus simples et les plus intuitifs, ne nécessitant pratiquement aucune formation.
Plongée profonde
A KNN classifier stores labeled training examples and, for a query, finds K neighbors under a selected distance metric before combining their labels. A KNN regressor commonly aggregates neighboring numeric targets. It is instance-based rather than a compact parametric model, but fitting may still include feature scaling, index construction, or other preprocessing. Because distance uses every feature, fit scaling on training data so large-range features do not dominate. Brute-force search compares a query with many or all stored examples; KD trees, Ball trees, and approximate-neighbor indexes can accelerate suitable data and metrics. In high dimensions, distance may become less informative and tree indexes may offer little speedup. A small K can be sensitive to noise, while a larger K smooths local decisions. Validate the representation, metric, K, and search method on the intended workload.
Mise en œuvre dans le monde réel
Systèmes de recommandation : suggérer des films ou des produits similaires à ceux qu'un utilisateur a déjà aimé.
Reconnaissance de chiffres manuscrits : classer un chiffre en le comparant aux images étiquetées les plus similaires.
Aide au diagnostic médical : prédire une maladie en fonction des patients présentant les résultats de tests les plus similaires.
Recherche sémantique : récupérer les intégrations de texte les plus proches pour répondre à une requête dans une base de données vectorielle.
L’avenir des K-voisins les plus proches
L'idée principale de KNN, trouver les exemples les plus similaires, alimente la recherche de vecteurs modernes et la génération augmentée par récupération, où les systèmes récupèrent les vecteurs d'intégration les plus proches pour ancrer de grands modèles de langage. Les bibliothèques approximatives du plus proche voisin comme FAISS et HNSW rendent pratique la recherche de similarité à l'échelle d'un milliard. Bien qu’il soit rarement le classificateur final dans les grands pipelines, le principe du plus proche voisin est plus pertinent que jamais en tant qu’épine dorsale de la recherche et de la recommandation sémantiques.
Le mettre en pratique
Pourquoi c'est important
- Décisions plus claires. Il vous aide à séparer les affirmations techniques claires du langage marketing.
- Coût et budget. Vous pouvez poser de meilleures questions de mise en œuvre avant de dépenser de l'argent ou du temps.
- Équipe et flux de travail. Les équipes partageant une compréhension commune prennent de meilleures décisions en matière de produits, de politiques et d’apprentissage.
Attention à
- Différentes équipes peuvent utiliser le même terme différemment, alors définissez la portée dès le début.
- Les benchmarks peuvent paraître solides alors que les performances réelles sont inégales.
- Ignorer la qualité des données et les plans d’évaluation crée souvent des résultats fragiles.
Prochaines étapes
- Commencez par une définition en langage simple du résultat dont vous avez besoin.
- Choisissez une mesure de réussite et une condition d’échec avant de tester.
- Exécutez un petit pilote avec des données représentatives, pas un ensemble de démonstration raffiné.
- Documentez où K-Nearest Neighbours est utile et où les méthodes plus simples sont meilleures.
Continuez à explorer
Newsletter gratuite
Recevez le briefing quotidien sur l'IA
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Take the K-Nearest Neighbors quiz
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Questions fréquemment posées
Qu'est-ce que K-Nearest Neighbours ?
K-Nearest Neighbours (KNN) classe un nouveau point de données en examinant les K exemples les plus proches et en obtenant un vote majoritaire. Il s’agit de l’un des algorithmes d’apprentissage automatique les plus simples et les plus intuitifs, ne nécessitant pratiquement aucune formation.
Comment KNN classe-t-il un nouveau point de données ?
KNN trouve les K exemples stockés les plus proches et attribue la classe la plus courante parmi eux (pour la régression, il fait la moyenne de leurs valeurs).
Why is KNN often called a “lazy learner”?
KNN is instance-based rather than learning a compact parametric weight set; implementations can still preprocess or build search indexes at fit time.
Pourquoi la mise à l'échelle des fonctionnalités est-elle importante pour KNN ?
Étant donné que KNN repose sur la distance, une fonctionnalité à grande portée non mise à l'échelle peut en submerger les autres, de sorte que les fonctionnalités sont généralement normalisées.
Que se passe-t-il si vous choisissez un très petit K, comme K=1 ?
Un petit K permet à un seul voisin bruyant ou mal étiqueté de décider du résultat, conduisant à une limite irrégulière et surajustée.
In a brute-force KNN implementation, why can prediction be slow on a large dataset?
A brute-force scan compares against stored points, while trees or approximate-neighbor indexes can accelerate some workloads depending on data and metric.
Continuez à apprendre
Guides associés
Plus de guides sélectionnés pour ce sujet