Il prossimoProssima guida
Volani di dati: trasformare i dati di produzione in dati di addestramento
Tecnico
GUIDA TECNICA
Le funzioni di influenza stimano in che misura ciascun esempio di training ha modellato la previsione di un modello, consentendoti di risalire all'output fino ai dati che lo hanno causato.
Ascolta questa guidaNarrato dall'IA · ~2 min
Sono importanti perché trasformano un modello opaco in qualcosa di verificabile dal punto di vista del copyright, del debug e della fiducia.
Influence functions come from robust statistics and were adapted to deep learning by Koh and Liang in 2017. The core question is counterfactual: how would the model's loss on a test point change if a particular training example were removed or up-weighted? Rather than actually retraining (which is hopelessly expensive), influence functions approximate that change using calculus. They compute the gradient of the loss for the training point and the test point, then connect them through the inverse Hessian of the loss, which captures the curvature of the model's parameter space. Under Koh and Liang’s standard upweighting-on-test-loss convention, I_up,loss measures how infinitesimally increasing a training point’s weight changes the loss on a chosen test point. A positive value means upweighting raises test loss (a harmful influence); a negative value means it lowers test loss (a helpful influence). Removing a point reverses the sign of the first-order estimated change. Other influence scores may target predictions or use a different sign convention, so define the quantity before interpreting its sign. The result is a ranked list of the most responsible training examples.
Tracciare quali libri protetti da copyright hanno maggiormente influenzato un passaggio generato da un modello linguistico, per analisi legali e di licenza
Debug di una classificazione errata facendo emergere immagini di addestramento etichettate erroneamente che hanno spinto il modello verso la risposta sbagliata
Rilevamento di esempi di addestramento avvelenati o anomali che esercitano un'influenza eccessiva su previsioni specifiche
Verifica di un modello di credito o di assunzione per mostrare quali documenti storici hanno portato a una decisione contestata
Expect influence-based attribution to become infrastructure for AI accountability. Le autorità di regolamentazione e i tribunali che indagano se il testo protetto da copyright abbia modellato un output vorranno una provenienza a livello di esempio e gli sviluppatori la utilizzeranno per far emergere dati etichettati erroneamente o avvelenati. Approssimazioni più economiche come TRAK e il gradient-sketching stanno spingendo l'attribuzione verso il tempo reale e combinarla con il disimparare potrebbe consentire ai team di rimuovere l'influenza di un documento senza una riqualificazione completa.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Le funzioni di influenza stimano in che misura ciascun esempio di training ha modellato la previsione di un modello, consentendoti di risalire all'output fino ai dati che lo hanno causato. They matter because they turn an opaque model into something auditable for copyright, debugging, and trust.
Le funzioni di influenza stimano l'effetto di perturbare il peso di un esempio di addestramento sulla perdita in un punto di test, approssimando la riqualificazione "leave-one-out" senza eseguirla.
La classica formula di influenza richiede l’inversione dell’Hessiano su tutti i parametri, cosa irrealizzabile per modelli con miliardi di parametri.
L'articolo del 2017 di Pang Wei Koh e Percy Liang "Understanding Black-box Predictions via Influence Functions" ha portato la tecnica nel deep learning.
Per I_up,loss, una derivata negativa significa che aumentare il peso del punto di training diminuisce la perdita di test selezionata; rimuoverlo ha l'effetto opposto a primo ordine.
Lo studio del 2023 di Anthropic ha utilizzato EK-FAC per approssimare l'Hessiano inverso, consentendo l'analisi dell'influenza su grandi modelli linguistici.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Volani di dati: trasformare i dati di produzione in dati di addestramento
Tecnico