Il prossimoProssima guida
Classificatori Naive Bayes
Fondamenti
GUIDA AI FONDAMENTALI
K-Nearest Neighbours (KNN) classifica un nuovo punto dati esaminando gli esempi K più vicini e ottenendo un voto a maggioranza.
Ascolta questa guidaNarrato dall'IA · ~2 min
It matters as one of the simplest, most intuitive algorithms in machine learning, requiring almost no training.
A KNN classifier stores labeled training examples and, for a query, finds K neighbors under a selected distance metric before combining their labels. A KNN regressor commonly aggregates neighboring numeric targets. It is instance-based rather than a compact parametric model, but fitting may still include feature scaling, index construction, or other preprocessing. Because distance uses every feature, fit scaling on training data so large-range features do not dominate. Brute-force search compares a query with many or all stored examples; KD trees, Ball trees, and approximate-neighbor indexes can accelerate suitable data and metrics. In high dimensions, distance may become less informative and tree indexes may offer little speedup. A small K can be sensitive to noise, while a larger K smooths local decisions. Validate the representation, metric, K, and search method on the intended workload.
Sistemi di raccomandazione: suggerimento di film o prodotti simili a quelli che sono già piaciuti a un utente.
Riconoscimento delle cifre scritte a mano: classificare una cifra confrontandola con le immagini etichettate più simili.
Supporto alla diagnosi medica: previsione di una condizione sulla base di pazienti con i risultati dei test più simili.
Ricerca semantica: recupero degli incorporamenti di testo più vicini per rispondere a una query in un database vettoriale.
L'idea centrale di KNN, trovare gli esempi più simili, alimenta la moderna ricerca vettoriale e la generazione aumentata di recupero, in cui i sistemi recuperano i vettori di incorporamento più vicini per fondare modelli linguistici di grandi dimensioni. Le biblioteche più vicine come FAIISS e HNSW rendono pratica la ricerca di similarità su scala miliardaria. Sebbene raramente rappresenti il classificatore finale in grandi pipeline, il principio del vicino più vicino è più rilevante che mai come spina dorsale della ricerca e della raccomandazione semantica.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
K-Nearest Neighbours (KNN) classifica un nuovo punto dati esaminando gli esempi K più vicini e ottenendo un voto a maggioranza. È uno degli algoritmi più semplici e intuitivi nell'apprendimento automatico e non richiede quasi alcuna formazione.
KNN trova i K esempi memorizzati più vicini e assegna tra loro la classe più comune (per la regressione, calcola la media dei loro valori).
KNN is instance-based rather than learning a compact parametric weight set; implementations can still preprocess or build search indexes at fit time.
Poiché KNN si basa sulla distanza, una caratteristica ad ampio raggio non in scala può sopraffare le altre, quindi le caratteristiche sono solitamente normalizzate.
Una K minuscola consente a un singolo vicino rumoroso o etichettato erroneamente di decidere il risultato, portando a un confine frastagliato e eccessivo.
A brute-force scan compares against stored points, while trees or approximate-neighbor indexes can accelerate some workloads depending on data and metric.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Classificatori Naive Bayes
Fondamenti