Il prossimoProssima guida
Linear Algebra for Machine Learning
Fondamenti
GUIDA AI FONDAMENTALI
L'apprendimento attivo è una strategia di formazione in cui il modello stesso sceglie quali esempi senza etichetta un essere umano dovrebbe etichettare successivamente.
Ascolta questa guidaNarrato dall'IA · ~2 min
It matters because labeling data is expensive, and smart selection can reach high accuracy with a fraction of the annotations.
La maggior parte dell’apprendimento supervisionato presuppone che tu abbia già una grande quantità di dati etichettati. L'apprendimento attivo ribalta la situazione: si inizia con un piccolo insieme etichettato e un ampio insieme di esempi senza etichetta, quindi si chiede ripetutamente a un essere umano (l'"oracolo") di etichettare solo quelli più informativi. Il modello viene addestrato, utilizzato per assegnare un punteggio al pool senza etichetta e gli esempi con il valore più alto vengono inviati per l'etichettatura, quindi il ciclo si ripete. Le strategie di selezione comuni includono il campionamento dell'incertezza (scegliere esempi rispetto ai quali il modello è meno sicuro), query per comitato (scegliere dove un insieme non è d'accordo) e il campionamento della diversità (coprire varie regioni dei dati). Se ben eseguito, l’apprendimento attivo può eguagliare l’accuratezza dell’intero set di dati utilizzando molte meno etichette, motivo per cui è popolare nell’imaging medico, nella PNL e in qualsiasi ambito in cui l’annotazione degli esperti è lenta o costosa.
Un team di radiologia addestra un rilevatore di tumori facendo in modo che il modello segnali le scansioni più ambigue affinché i radiologi esperti possano etichettarle, riducendo drasticamente le ore di annotazione.
Un sistema di spam o di moderazione dei contenuti fa emergere messaggi limite di cui è meno sicuro per i revisori umani, migliorando più rapidamente nei casi più difficili.
Un'azienda di riconoscimento vocale seleziona clip audio in cui il modello è più incerto (accenti, rumore) da inviare per la trascrizione, anziché etichettare clip casuali.
Un catalogo di e-commerce utilizza la query per comitato per selezionare le immagini dei prodotti in cui più classificatori non sono d'accordo, dando loro la priorità per l'etichettatura manuale delle categorie.
L’apprendimento attivo è sempre più abbinato a grandi modelli preaddestrati e di base, in cui l’obiettivo si sposta dall’etichettare tutto alla messa a punto a buon mercato su alcuni esempi di alto valore. Aspettatevi un’integrazione più stretta con una supervisione debole, una preformazione autosupervisionata e strumenti human-in-the-loop che suggeriscano etichette che i revisori possano confermare piuttosto che creare. Poiché i costi di etichettatura dominano molte implementazioni reali, la selezione automatizzata e interfacce di annotazione efficienti rimarranno centrali per la costruzione di modelli in settori specializzati e scarsi di dati come la medicina e il diritto.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
L'apprendimento attivo è una strategia di formazione in cui il modello stesso sceglie quali esempi senza etichetta un essere umano dovrebbe etichettare successivamente. È importante perché l’etichettatura dei dati è costosa e la selezione intelligente può raggiungere un’elevata precisione con una frazione delle annotazioni.
The guide describes querying an oracle for selected informative examples, then using their labels in training.
The oracle provides labels for selected examples; it is commonly a human annotator or expert.
Query-by-committee selects examples on which several models disagree.
A small margin between leading class scores is one uncertainty signal described by the guide.
The guide warns that greedily chasing uncertainty can ignore other parts of the data.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Linear Algebra for Machine Learning
Fondamenti