Fonctions d'influence pour l'attribution des données de formation
Les fonctions d'influence estiment dans quelle mesure chaque exemple d'entraînement a façonné la prédiction d'un modèle, vous permettant ainsi de retracer une sortie jusqu'aux données qui l'ont provoquée.
Aperçu
Ils sont importants car ils transforment un modèle opaque en quelque chose de vérifiable en termes de droits d'auteur, de débogage et de confiance.
Plongée profonde
Les fonctions d'influence proviennent de statistiques robustes et ont été adaptées à l'apprentissage profond par Koh et Liang en 2017. La question centrale est contrefactuelle : comment la perte du modèle sur un point de test changerait-elle si un exemple de formation particulier était supprimé ou pondéré ? Plutôt que de se recycler (ce qui coûte désespérément cher), les fonctions d’influence se rapprochent de ce changement à l’aide du calcul. Ils calculent le gradient de perte pour le point d'entraînement et le point de test, puis les relient via le Hessien inverse de la perte, qui capture la courbure de l'espace des paramètres du modèle. Une influence positive importante signifie que l'exemple de formation a poussé le modèle vers sa prédiction ; une valeur négative importante signifie qu'il a poussé contre lui. Le résultat est une liste classée des exemples de formation les plus responsables.
Aperçu technique
La formule exacte nécessite le Hessien inverse de la perte sur tous les paramètres, ce qui est insoluble pour les modèles comportant des milliards de paramètres. Les praticiens s'en rapprochent avec des méthodes telles que LiSSA (inversion itérative stochastique), la courbure pondérée par Kronecker (EK-FAC) ou des projections aléatoires telles que TRAK. Les travaux de Anthropic de 2023 ont étendu les fonctions d'influence à de grands modèles de langage à l'aide d'EK-FAC, révélant que les exemples influents partagent souvent des modèles abstraits plutôt que des formulations superficielles exactes.
Impact stratégique
Coût et budget
Les décisions en matière d'architecture déterminent les performances et les coûts d'exploitation pendant des années.
Décisions plus claires
La formation technique aide les équipes à choisir la bonne pile, pas seulement la plus récente.
Contrôle qualité
De meilleurs choix d’ingénierie réduisent les incidents de fiabilité en production.
L'avenir des fonctions d'influence pour l'attribution des données de formation
Attendez-vous à ce que l’attribution basée sur l’influence devienne une infrastructure pour la responsabilité de l’IA. Les régulateurs et les tribunaux chargés de déterminer si un texte protégé par le droit d'auteur a façonné un résultat voudront une provenance au niveau de l'exemple, et les développeurs l'utiliseront pour faire apparaître des données mal étiquetées ou empoisonnées. Des approximations moins coûteuses telles que TRAK et l'esquisse en dégradé poussent l'attribution vers le temps réel, et la combiner avec le désapprentissage pourrait permettre aux équipes de supprimer l'influence d'un document sans recyclage complet.
Mise en œuvre dans le monde réel
Rechercher les livres protégés par le droit d'auteur qui ont le plus influencé un passage généré par un modèle linguistique, à des fins d'analyse juridique et de licence.
Déboguer une mauvaise classification en faisant apparaître les images d'entraînement mal étiquetées qui ont poussé le modèle vers la mauvaise réponse
Détection d'exemples d'entraînement empoisonnés ou anormaux qui exercent une influence démesurée sur des prédictions spécifiques
Auditer un modèle de crédit ou d'embauche pour montrer quels documents historiques ont conduit à une décision contestée
Risques et garde-fous
L’optimisation d’un benchmark peut masquer des faiblesses plus larges du système.
Les coûts d’infrastructure et de maintenance sont souvent sous-estimés.
Les lacunes en matière de sécurité et d’observabilité peuvent se creuser à mesure que les systèmes deviennent plus complexes.
Feuille de route de mise en œuvre
Définissez les objectifs de latence, de qualité et de coût avant la mise en œuvre.
Benchmark dans des conditions de charge et de données réalistes.
Surveillance des instruments pour détecter les erreurs, la dérive et l'impact sur l'utilisateur.
Préparez les chemins de restauration et de réponse aux incidents avant la mise à l’échelle.
Continuez à explorer
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Influence Functions for Training Data Attribution quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Guide suivant
Données entièrement partagées en parallèle
Questions fréquemment posées
Qu'est-ce que les fonctions d'influence pour l'attribution des données de formation ?
Les fonctions d'influence estiment dans quelle mesure chaque exemple d'entraînement a façonné la prédiction d'un modèle, vous permettant ainsi de retracer une sortie jusqu'aux données qui l'ont provoquée. Ils sont importants car ils transforment un modèle opaque en quelque chose de vérifiable en termes de droits d'auteur, de débogage et de confiance.
À quelle question contrefactuelle les fonctions d’influence se rapprochent-elles ?
Les fonctions d'influence estiment l'effet de la perturbation du poids d'un exemple d'entraînement sur la perte à un point de test, se rapprochant du recyclage sans le faire.
Quel objet mathématique rend le calcul d’influence exact insoluble pour les grands modèles ?
La formule d'influence classique nécessite d'inverser le Hessien sur tous les paramètres, ce qui est irréalisable pour les modèles comportant des milliards de paramètres.
Qui a adapté les fonctions d'influence à l'apprentissage profond moderne dans un article bien connu de 2017 ?
L'article de 2017 de Pang Wei Koh et Percy Liang « Comprendre les prédictions de la boîte noire via les fonctions d'influence » a introduit la technique dans l'apprentissage en profondeur.
Qu'indique une grande valeur d'influence NÉGATRICE ?
Une influence négative signifie qu'une surpondération de cet exemple de formation aurait diminué la confiance du modèle dans la prédiction, c'est-à-dire qu'il s'opposerait au résultat.
Quelle approximation Anthropic a-t-il utilisée pour adapter les fonctions d'influence à de grands modèles de langage ?
L'étude de Anthropic de 2023 a utilisé EK-FAC pour approximer le Hessian inverse, permettant une analyse d'influence sur de grands modèles de langage.