À suivreGuide suivant
Volants de données : transformer les données de production en données de formation
Technique
GUIDE Technique
Fonctions d'influence pour l'attribution des données de formation
Les fonctions d'influence estiment dans quelle mesure chaque exemple d'entraînement a façonné la prédiction d'un modèle, vous permettant ainsi de retracer une sortie jusqu'aux données qui l'ont provoquée.
Écoutez ce guideNarré par l'IA · ~2 min
Sur cette page2 minutes de lecture
Aperçu
Ils sont importants car ils transforment un modèle opaque en quelque chose de vérifiable en termes de droits d'auteur, de débogage et de confiance.
Plongée profonde
Influence functions come from robust statistics and were adapted to deep learning by Koh and Liang in 2017. The core question is counterfactual: how would the model's loss on a test point change if a particular training example were removed or up-weighted? Rather than actually retraining (which is hopelessly expensive), influence functions approximate that change using calculus. They compute the gradient of the loss for the training point and the test point, then connect them through the inverse Hessian of the loss, which captures the curvature of the model's parameter space. Under Koh and Liang’s standard upweighting-on-test-loss convention, I_up,loss measures how infinitesimally increasing a training point’s weight changes the loss on a chosen test point. A positive value means upweighting raises test loss (a harmful influence); a negative value means it lowers test loss (a helpful influence). Removing a point reverses the sign of the first-order estimated change. Other influence scores may target predictions or use a different sign convention, so define the quantity before interpreting its sign. The result is a ranked list of the most responsible training examples.
Mise en œuvre dans le monde réel
Rechercher les livres protégés par le droit d'auteur qui ont le plus influencé un passage généré par un modèle linguistique, à des fins d'analyse juridique et de licence.
Déboguer une mauvaise classification en faisant apparaître les images d'entraînement mal étiquetées qui ont poussé le modèle vers la mauvaise réponse
Détection d'exemples d'entraînement empoisonnés ou anormaux qui exercent une influence démesurée sur des prédictions spécifiques
Auditer un modèle de crédit ou d'embauche pour montrer quels documents historiques ont conduit à une décision contestée
L'avenir des fonctions d'influence pour l'attribution des données de formation
Attendez-vous à ce que l’attribution basée sur l’influence devienne une infrastructure pour la responsabilité de l’IA. Les régulateurs et les tribunaux chargés de déterminer si un texte protégé par le droit d'auteur a façonné un résultat voudront une provenance au niveau de l'exemple, et les développeurs l'utiliseront pour faire apparaître des données mal étiquetées ou empoisonnées. Des approximations moins coûteuses telles que TRAK et l'esquisse en dégradé poussent l'attribution vers le temps réel, et la combiner avec le désapprentissage pourrait permettre aux équipes de supprimer l'influence d'un document sans recyclage complet.
Le mettre en pratique
Pourquoi c'est important
- Coût et budget. Les décisions en matière d'architecture déterminent les performances et les coûts d'exploitation pendant des années.
- Décisions plus claires. La formation technique aide les équipes à choisir la bonne pile, pas seulement la plus récente.
- Contrôle qualité. De meilleurs choix d’ingénierie réduisent les incidents de fiabilité en production.
Attention à
- L’optimisation d’un benchmark peut masquer des faiblesses plus larges du système.
- Les coûts d’infrastructure et de maintenance sont souvent sous-estimés.
- Les lacunes en matière de sécurité et d’observabilité peuvent se creuser à mesure que les systèmes deviennent plus complexes.
Prochaines étapes
- Définissez les objectifs de latence, de qualité et de coût avant la mise en œuvre.
- Benchmark dans des conditions de charge et de données réalistes.
- Surveillance des instruments pour détecter les erreurs, la dérive et l'impact sur l'utilisateur.
- Préparez les chemins de restauration et de réponse aux incidents avant la mise à l’échelle.
Continuez à explorer
Newsletter gratuite
Recevez le briefing quotidien sur l'IA
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Take the Influence Functions for Training Data Attribution quiz
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Questions fréquemment posées
Qu'est-ce que les fonctions d'influence pour l'attribution des données de formation ?
Les fonctions d'influence estiment dans quelle mesure chaque exemple d'entraînement a façonné la prédiction d'un modèle, vous permettant ainsi de retracer une sortie jusqu'aux données qui l'ont provoquée. Ils sont importants car ils transforment un modèle opaque en quelque chose de vérifiable en termes de droits d'auteur, de débogage et de confiance.
À quelle question contrefactuelle les fonctions d’influence se rapprochent-elles ?
Les fonctions d'influence estiment l'effet de la perturbation du poids d'un exemple d'entraînement sur la perte à un point de test, se rapprochant du recyclage sans le faire.
Quel objet mathématique rend le calcul d’influence exact insoluble pour les grands modèles ?
La formule d'influence classique nécessite d'inverser le Hessien sur tous les paramètres, ce qui est irréalisable pour les modèles comportant des milliards de paramètres.
Qui a adapté les fonctions d'influence à l'apprentissage profond moderne dans un article bien connu de 2017 ?
L'article de 2017 de Pang Wei Koh et Percy Liang « Comprendre les prédictions de la boîte noire via les fonctions d'influence » a introduit la technique dans l'apprentissage en profondeur.
Under Koh and Liang’s standard I_up,loss convention, what does a negative value indicate?
For I_up,loss, a negative derivative means increasing the training point’s weight decreases the selected test loss; removing it has the opposite first-order effect.
Quelle approximation Anthropic a-t-il utilisée pour adapter les fonctions d'influence à de grands modèles de langage ?
L'étude de Anthropic de 2023 a utilisé EK-FAC pour approximer le Hessian inverse, permettant une analyse d'influence sur de grands modèles de langage.
Continuez à apprendre
Guides associés
Plus de guides sélectionnés pour ce sujet