GUIDA AI FONDAMENTALI

Apprendimento con pochi colpi

I metodi a pochi scatti mirano a utilizzare un piccolo set di supporto etichettato o alcune dimostrazioni per un'attività.

Ascolta questa guidaNarrato dall'IA · ~3 min

In questa pagina3 minuti di lettura
  1. Panoramica
  2. Immersione profonda
  3. Implementazione nel mondo reale
  4. Il futuro dell’apprendimento con pochi colpi
  5. Metterlo in pratica
  6. Continua a esplorare
  7. Domande frequenti

Panoramica

Il suggerimento contestuale e l'apprendimento basato su metriche raggiungono questo obiettivo attraverso procedure diverse e nessuno dei due garantisce un adattamento riuscito da eventuali esempi arbitrari.

Immersione profonda

Il metodo Few-shot viene utilizzato in metodi che forniscono solo un numero limitato di esempi di attività, spesso dopo un sostanziale apprendimento preliminare. In un episodio di classificazione K-shot a N vie, N conta le classi e K conta gli esempi di supporto etichettati per classe. Tale notazione descrive i dati di supporto dell’attività piuttosto che il corpus totale di pre-addestramento del modello. Il prompt a pochi colpi nel contesto fornisce dimostrazioni nell'input di un modello già addestrato. Lo studio del modello linguistico citato valuta questa modalità senza aggiornamenti del gradiente specifici dell'attività durante il prompt; gli esempi condizionano la previsione anziché riscrivere i pesi. La messa a punto su un set di dati di piccole dimensioni è una procedura diversa anche quando entrambi sono chiamati adattamenti a pochi scatti. Una formazione precedente può rendere rappresentazioni o modelli utili per un nuovo compito, ma alcuni esempi non garantiscono che il modello deduca le etichette o le regole previste. Prototipici Networks studia un'alternativa basata sulla metrica. Un incorporamento appreso mappa gli elementi di supporto etichettati in uno spazio e ogni prototipo di classe è la media dei suoi incorporamenti di supporto. Una query viene classificata utilizzando le distanze da tali prototipi. Se una classe ha vettori di supporto (0,0) e (2,0), il suo prototipo di media aritmetica è (1,0). Gli elementi di supporto utilizzati per costruire il prototipo e gli elementi di query utilizzati per valutare la classificazione hanno ruoli diversi. Gli episodi di formazione nel documento mantengono separati i set campionati. Per i modelli contestualizzati, anche l'ordine della dimostrazione può influenzare i risultati: i suggerimenti ordinati in modo fantastico studiano grandi variazioni tra le permutazioni in particolari configurazioni di classificazione del testo. La scelta di un ordine favorevole non deve essere confusa con la prova di generalizzazione su un insieme di valutazioni intatto.

Implementazione nel mondo reale

Fornire esempi di ticket etichettati in un prompt prima di una nuova query sul ticket.

Dimostrazione di un formato di output con poche coppie input-output.

Calcolo di un prototipo di classe da incorporamenti di supporto etichettati.

Confronto degli ordini tempestivi su un set di valutazione separato senza modificare gli esempi.

Il futuro dell’apprendimento con pochi colpi

Le valutazioni di tipo "low-shot" possono confrontare esempi di supporto rappresentativi, ordinamento, recupero di dimostrazioni e funzioni a distanza apprese in ruoli di dati chiaramente separati. Ulteriori dimostrazioni possono fornire informazioni utili ma possono anche modificare la lunghezza del prompt o introdurre modelli fuorvianti. Gli esperimenti dovrebbero registrare se i pesi sono stati aggiornati e se le etichette del set di query finale hanno influenzato la selezione. Domini diversi possono richiedere rappresentazioni o esempi precedenti diversi. Testare l'attività prevista e le query non elaborate fornisce un risultato più significativo rispetto al presupposto che un piccolo insieme etichettato consenta automaticamente un adattamento istantaneo o riproduca l'apprendimento umano.

Metterlo in pratica

Perché è importante

  • Decisioni più chiare. Ti aiuta a separare le chiare affermazioni tecniche dal linguaggio di marketing.
  • Costo e budget. Puoi porre domande sull'implementazione migliore prima di spendere denaro o tempo.
  • Team e flusso di lavoro. I team con una comprensione condivisa prendono decisioni migliori su prodotti, politiche e apprendimento.

Attenzione

  • Team diversi possono utilizzare lo stesso termine in modo diverso, quindi definisci l'ambito in anticipo.
  • I benchmark possono sembrare solidi mentre le prestazioni nel mondo reale non sono uniformi.
  • Ignorare la qualità dei dati e i piani di valutazione spesso crea risultati fragili.

Prossimi passi

  1. Inizia con una definizione in linguaggio semplice del risultato di cui hai bisogno.
  2. Scegli una metrica di successo e una condizione di fallimento prima del test.
  3. Esegui un piccolo progetto pilota con dati rappresentativi, non un set demo raffinato.
  4. Documenta dove il Few-Shot Learning aiuta e dove i metodi più semplici sono migliori.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Rispondi al quiz sull'apprendimento con pochi colpi

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

Che cos'è l'apprendimento con pochi colpi?

I metodi a pochi scatti mirano a utilizzare un piccolo set di supporto etichettato o alcune dimostrazioni per un'attività. Il suggerimento contestuale e l'apprendimento basato su metriche raggiungono questo obiettivo attraverso procedure diverse e nessuno dei due garantisce un adattamento riuscito da eventuali esempi arbitrari.

In un episodio di classificazione dei colpi K a N vie, cosa conta K?

N conta le classi; K conta gli esempi per ciascuna classe nel set di supporto specificato.

Quando un modello linguistico di grandi dimensioni esegue l'apprendimento a poche riprese nel contesto da un prompt, cosa succede ai suoi pesi?

L'apprendimento in contesto non esegue aggiornamenti del gradiente; gli esempi nel prompt guidano semplicemente le previsioni del token successivo del modello.

Qual è la differenza fondamentale tra il suggerimento zero-shot e il suggerimento pochi-shot?

Zero-shot fornisce solo istruzioni senza esempi, mentre little-shot include una manciata di dimostrazioni.

In che modo l'apprendimento precedente può contribuire a un'attività a pochi colpi?

Il vantaggio dipende dal modello, dall'attività e dagli esempi precedenti; il successo deve essere misurato.

Quale descrive un metodo "pochi colpi" basato su metriche come una rete prototipo?

Le reti prototipiche formano un prototipo (incorporamento medio) per classe e classificano nuovi punti in base al prototipo più vicino nello spazio appreso.