Réglage du préfixe
Le réglage des préfixes est un moyen efficace en termes de paramètres d'adapter un modèle de langage figé en entraînant un petit ensemble de vecteurs continus qui sont ajoutés au début de l'entrée de chaque couche.
Aperçu
It lets you customize giant models for new tasks while updating less than 1% of parameters.
Plongée profonde
Le réglage des préfixes, introduit par les chercheurs de Stanford Li et Liang en 2021, adapte un transformateur pré-entraîné sans toucher à ses poids. Au lieu d'affiner tous les paramètres, il ajoute une séquence de « jetons virtuels » pouvant être entraînés (le préfixe) aux clés et aux valeurs de chaque couche d'attention. Le modèle figé s'occupe de ce préfixe comme s'il s'agissait d'un contexte réel, orientant son comportement vers une tâche cible. Étant donné que seuls les vecteurs de préfixe sont appris, vous pouvez stocker un petit préfixe par tâche au lieu d'une copie complète du modèle. Cela rend l'exécution de nombreuses tâches peu coûteuse et évite l'explosion du stockage due à un réglage fin complet. Il fonctionne particulièrement bien sur les tâches de génération telles que la conversion de table en texte et la synthèse, correspondant souvent à un réglage précis dans des paramètres de données riches.
Aperçu technique
Contrairement au réglage rapide, qui ajoute uniquement des vecteurs au niveau de la couche d'intégration d'entrée, le réglage des préfixes injecte des vecteurs clé/valeur entraînables dans l'auto-attention de chaque couche de transformateur. Pour stabiliser la formation, le préfixe est généralement généré par un petit réseau de rétroaction (une astuce de reparamétrage) plutôt que optimisé directement ; ce réseau est supprimé après la formation, ne laissant que les matrices de préfixes apprises. Seuls ces paramètres de préfixe reçoivent des dégradés : l'ensemble du squelette reste figé.
Impact stratégique
Vitesse et échelle
Les flux de travail linguistiques peuvent évoluer plus rapidement sans sacrifier la cohérence.
Accès et portée
Il étend l’accès à toutes les langues et styles de communication.
Décisions plus claires
Les équipes peuvent consacrer plus de temps au jugement tandis que l’automatisation gère les répétitions.
L'avenir du réglage des préfixes
Le réglage des préfixes a contribué au lancement de la vague de réglage fin efficace des paramètres (PEFT) et reste un élément constitutif des bibliothèques comme Hugging Face PEFT. À mesure que les modèles de base comptent des centaines de milliards de paramètres, les adaptateurs légers tels que les préfixes deviennent de plus en plus attrayants pour le service multi-tenant et la personnalisation sur les appareils. Attendez-vous à des approches hybrides continues qui mélangent des préfixes avec des mises à jour de bas rang de style LoRA et à une utilisation croissante pour contrôler le style, la personnalité et le comportement de sécurité sans recycler des modèles entiers.
Mise en œuvre dans le monde réel
Adaptation d'un squelette GPT-2 gelé pour la génération de table en texte en entraînant un petit préfixe sur l'ensemble de données WebNLG
Servir des dizaines de styles de résumé spécifiques au client à partir d'un seul modèle partagé, chacun sous forme de fichier de préfixe échangeable
Piloter le ton ou la personnalité d'un modèle de langage pour un chatbot sans recycler les poids de base
Adaptation de domaines à faible quantité de données, tels que la génération de textes juridiques ou médicaux, où un réglage complet serait excessif
Risques et garde-fous
Les faits hallucinés peuvent discrètement entrer dans des rapports, des flux de support ou des résultats de recherche.
La sensibilité des invites peut créer des résultats incohérents pour des demandes similaires.
Les données textuelles sensibles peuvent être exposées si les contrôles d’accès sont faibles.
Feuille de route de mise en œuvre
Définissez le format de sortie, le ton et les normes de qualité avant le déploiement.
Établissez des réponses auprès de sources fiables chaque fois que la précision est importante.
Gardez un point de contrôle d’examen humain pour les résultats à enjeux élevés.
Suivez les modèles de défaillance et recyclez régulièrement les invites ou les flux de travail.
Continuez à explorer
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Prefix Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Guide suivant
Ajustement précis de l’échantillonnage de rejet
Questions fréquemment posées
What is Prefix Tuning?
Le réglage des préfixes est un moyen efficace en termes de paramètres d'adapter un modèle de langage figé en entraînant un petit ensemble de vecteurs continus qui sont ajoutés au début de l'entrée de chaque couche. Il vous permet de personnaliser des modèles géants pour de nouvelles tâches tout en mettant à jour moins de 1 % des paramètres.
Qu'est-ce que le réglage des préfixes entraîne réellement ?
Le réglage des préfixes gèle le squelette et n'apprend qu'un petit ensemble de vecteurs de préfixes continus, ce qui le maintient efficace en termes de paramètres.
Où sont injectés les vecteurs de préfixes ?
Le réglage des préfixes ajoute des vecteurs clé/valeur pouvant être entraînés à l'attention de chaque couche de transformateur, pas seulement à l'entrée.
Qui a introduit le réglage des préfixes et à peu près quand ?
Le réglage des préfixes a été proposé par Xiang Lisa Li et Percy Liang à Stanford en 2021.
Pourquoi le réglage des préfixes est-il intéressant pour effectuer de nombreuses tâches ?
Étant donné que seul le petit préfixe est spécifique à la tâche, vous stockez un petit fichier par tâche plutôt que de dupliquer l'intégralité du modèle.
Quelle astuce est souvent utilisée pour stabiliser la formation des préfixes ?
Un petit MLP génère le préfixe pendant la formation pour plus de stabilité, puis est jeté, ne laissant que les matrices de préfixes apprises.