K-Vicini più vicini
K-Nearest Neighbours (KNN) classifica un nuovo punto dati esaminando gli esempi K più vicini e ottenendo un voto a maggioranza.
Panoramica
It matters as one of the simplest, most intuitive algorithms in machine learning, requiring almost no training.
Immersione profonda
KNN è uno "studente pigro": non esegue una vera formazione e memorizza semplicemente l'intero set di dati. Per classificare un nuovo punto, misura la distanza, solitamente euclidea, da ogni esempio memorizzato, trova i K vicini più vicini e assegna tra loro la classe più comune. Per la regressione, invece, calcola la media dei valori dei vicini. La scelta di K è importante: una K piccola è sensibile al rumore e può adattarsi eccessivamente, mentre una K grande facilita le decisioni ma può offuscare i confini reali. Poiché tutte le caratteristiche contribuiscono alla distanza, KNN richiede il ridimensionamento delle caratteristiche in modo che le variabili ad ampio raggio non dominino. Il suo principale punto debole è la velocità di previsione, poiché ogni query viene confrontata con l'intero set di dati.
Approfondimento tecnico
KNN non è parametrico e si basa su istanze: non fa alcuna ipotesi sulla forma dei dati e memorizza esempi invece di apprendere pesi. I parametri di distanza, euclidei, Manhattan o coseno, definiscono la "vicinanza" e il confine decisionale che forma può essere altamente irregolare. Poiché confronta ogni query con tutti i punti, la ricerca ingenua è lenta, quindi le librerie utilizzano alberi KD, alberi a sfera o indici approssimati del vicino più vicino per velocizzare la ricerca nelle dimensioni inferiori.
Impatto strategico
Decisioni più chiare
Ti aiuta a separare le chiare affermazioni tecniche dal linguaggio di marketing.
Costo e budget
Puoi porre domande sull'implementazione migliore prima di spendere denaro o tempo.
Team e flusso di lavoro
I team con una comprensione condivisa prendono decisioni migliori su prodotti, politiche e apprendimento.
Il futuro dei vicini K-più vicini
L'idea centrale di KNN, trovare gli esempi più simili, alimenta la moderna ricerca vettoriale e la generazione aumentata di recupero, in cui i sistemi recuperano i vettori di incorporamento più vicini per fondare modelli linguistici di grandi dimensioni. Le biblioteche più vicine come FAIISS e HNSW rendono pratica la ricerca di similarità su scala miliardaria. Sebbene raramente rappresenti il classificatore finale in grandi pipeline, il principio del vicino più vicino è più rilevante che mai come spina dorsale della ricerca e della raccomandazione semantica.
Implementazione nel mondo reale
Sistemi di raccomandazione: suggerimento di film o prodotti simili a quelli che sono già piaciuti a un utente.
Riconoscimento delle cifre scritte a mano: classificare una cifra confrontandola con le immagini etichettate più simili.
Supporto alla diagnosi medica: previsione di una condizione sulla base di pazienti con i risultati dei test più simili.
Ricerca semantica: recupero degli incorporamenti di testo più vicini per rispondere a una query in un database vettoriale.
Rischi e guardrail
Team diversi possono utilizzare lo stesso termine in modo diverso, quindi definisci l'ambito in anticipo.
I benchmark possono sembrare solidi mentre le prestazioni nel mondo reale non sono uniformi.
Ignorare la qualità dei dati e i piani di valutazione spesso crea risultati fragili.
Tabella di marcia per l'implementazione
Inizia con una definizione in linguaggio semplice del risultato di cui hai bisogno.
Scegli una metrica di successo e una condizione di fallimento prima del test.
Esegui un piccolo progetto pilota con dati rappresentativi, non un set demo raffinato.
Documenta dove K-Nearest Neighbours aiuta e dove i metodi più semplici sono migliori.
Continua a esplorare
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the K-Nearest Neighbors quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Prossima guida
Classificatori Naive Bayes
Domande frequenti
What is K-Nearest Neighbors?
K-Nearest Neighbours (KNN) classifica un nuovo punto dati esaminando gli esempi K più vicini e ottenendo un voto a maggioranza. È uno degli algoritmi più semplici e intuitivi nell'apprendimento automatico e non richiede quasi alcuna formazione.
Come fa KNN a classificare un nuovo punto dati?
KNN trova i K esempi memorizzati più vicini e assegna tra loro la classe più comune (per la regressione, calcola la media dei loro valori).
Perché KNN viene definito uno "studente pigro"?
KNN rinvia tutto il lavoro al momento della previsione; memorizza semplicemente il set di dati invece di costruire un modello durante l'addestramento.
Perché il ridimensionamento delle funzionalità è importante per KNN?
Poiché KNN si basa sulla distanza, una caratteristica ad ampio raggio non in scala può sopraffare le altre, quindi le caratteristiche sono solitamente normalizzate.
Cosa succede se scegli un K molto piccolo, come K=1?
Una K minuscola consente a un singolo vicino rumoroso o etichettato erroneamente di decidere il risultato, portando a un confine frastagliato e eccessivo.
Qual è il principale svantaggio pratico di KNN?
Poiché ogni query deve misurare la distanza da ogni esempio, la previsione può essere lenta su set di dati di grandi dimensioni, richiedendo un'accelerazione della ricerca ad albero o approssimativa.