Il prossimoProssima guida
Z-Loss e stabilità dell'addestramento
Tecnico
GUIDA TECNICA
La perdita di cerniera penalizza un esempio di classificazione quando il suo margine con segno scende al di sotto di uno, compresi i punti correttamente classificati che si trovano troppo vicini al confine della decisione.
Ascolta questa guidaNarrato dall'IA · ~3 min
È fondamentale supportare le macchine vettoriali perché ridurre al minimo la perdita di cerniera insieme a una penalità di margine incoraggia un confine di separazione che tollera alcuni errori mentre si cerca un margine più ampio.
Per la classificazione binaria, codificare le etichette come y in {-1, +1} e lasciare che f(x) sia il punteggio decisionale del modello. Il margine con segno è y volte f(x). La perdita della cerniera è max(0, 1 - y f(x)). Un esempio correttamente classificato con punteggio nella direzione corretta può comunque subire una perdita se si trova all'interno del margine unitario. Un punto sopra o oltre il margine ha una perdita di cerniera pari a zero. Un punto classificato erroneamente ha un margine con segno negativo e riceve una penalità maggiore di uno. Questa perdita incoraggia un classificatore a separare le classi con un margine, non semplicemente ad assegnare etichette di formazione corrette. In una macchina vettoriale a supporto lineare, l'obiettivo bilancia l'ampiezza del margine rispetto alla somma delle perdite della cerniera, con un parametro di regolarizzazione che controlla il compromesso. Una sanzione più forte per le violazioni può adattare più strettamente i dati di addestramento; consentire una maggiore violazione può favorire un confine più ampio e più semplice. I metodi kernel modificano la rappresentazione delle funzionalità mantenendo l'obiettivo basato sui margini. Consideriamo un esempio ipotetico con etichetta +1 e punteggio 0,4. Il suo margine è 0,4 e la sua perdita è 0,6. Se un altro esempio positivo ha un punteggio pari a 1,3, la sua perdita è pari a zero. Se un caso con etichetta negativa ha un punteggio pari a 0,5, il suo margine con segno è -0,5 e la sua perdita è pari a 1,5. Questi valori mostrano perché la sola correttezza della classificazione non determina la perdita della cerniera. Anche la perdita logistica è convessa e sensibile al margine, ma a differenza della perdita di cerniera continua ad assegnare una penalità positiva agli esempi correttamente classificati, anche ben oltre il margine. La sua forma probabilistica si collega naturalmente alla log-verosimiglianza. La perdita della cerniera non è di per sé una stima di probabilità calibrata. Le SVM possono essere abbinate alla calibrazione delle probabilità quando sono necessarie le probabilità, utilizzando un processo di convalida appropriato. Ridimensiona le funzionalità, ottimizza la regolarizzazione sulle pieghe di training e valuta i costi degli errori su dati rappresentativi. La perdita della cerniera non definisce una soglia decisionale ideale per ogni applicazione; le conseguenze aziendali possono richiedere una soglia separata o una decisione sulla ponderazione della classe.
Un ipotetico classificatore binario assegna a un caso etichettato correttamente un margine con segno di 0,4. La sua perdita di cerniera è max(0, 1 - 0.4) = 0.6, perché il punto è sul lato corretto ma all'interno del margine.
Un esempio etichettato erroneamente ha segnato il margine -0,5. La sua perdita di cerniera è max(0, 1 - (-0,5)) = 1,5, riflettendo sia il suo lato sbagliato che la distanza dal requisito di margine.
Un classificatore di vettori di supporto confronta la perdita di cerniera con la perdita logistica durante l'addestramento. L’obiettivo SVM enfatizza le violazioni dei margini; la perdita logistica continua a rispondere a tutti gli esempi e fornisce un'interpretazione probabilistica solo con ulteriori considerazioni di modellazione o calibrazione.
Un ingegnere ridimensiona le funzionalità di input prima di ottimizzare il parametro di regolarizzazione di una SVM. Le scale delle caratteristiche influiscono su distanze e margini, quindi la messa a punto senza una preelaborazione coerente può confondere il confronto.
La classificazione basata sui margini rimane utile quando sono importanti un confine chiaro e un controllo sulle violazioni dei margini. I flussi di lavoro pratici dovrebbero indicare se l'implementazione utilizza una cerniera o una cerniera quadrata, come sono state ridimensionate le funzionalità e come è stato selezionato il valore di regolarizzazione. Se gli utenti a valle necessitano di stime del rischio, i team dovrebbero valutare separatamente le probabilità calibrate anziché convertire i punteggi decisionali direttamente in percentuali. Il monitoraggio può confrontare le distribuzioni dei margini e i tassi di errore specifici della classe nel tempo. Migliori interfacce esplicative possono mostrare quali osservazioni si trovano vicino al confine, dove l’incertezza è spesso più consequenziale, mantenendo il punteggio distinto da una probabilità.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
La perdita di cerniera penalizza un esempio di classificazione quando il suo margine con segno scende al di sotto di uno, compresi i punti correttamente classificati che si trovano troppo vicini al confine della decisione. È fondamentale supportare le macchine vettoriali perché ridurre al minimo la perdita di cerniera insieme a una penalità di margine incoraggia un confine di separazione che tollera alcuni errori mentre si cerca un margine più ampio.
Quando il margine con segno è almeno uno, 1 meno è non positivo e il massimo con zero è zero.
Il margine firmato è il punteggio dell'etichetta; negativo uno per 0,5 equivale a -0,5.
La perdita del cardine penalizza i punti con margine segnato inferiore a uno, anche se il lato previsto è corretto.
La perdita logistica diminuisce ma rimane positiva per i punteggi finiti, mentre la perdita di cerniera è pari a zero oltre il margine.
L’obiettivo SVM bilancia un termine di margine basato sulla norma e penalizza le violazioni di perdita di cerniera.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Z-Loss e stabilità dell'addestramento
Tecnico