Réglage rapide
Le réglage des invites adapte un modèle de langage figé en apprenant une poignée de vecteurs « d'invite douce » continus ajoutés au début de l'entrée, plutôt que d'écrire des mots à la main.
Aperçu
It is one of the leanest ways to specialize a giant model, and it gets better as models get bigger.
Plongée profonde
Le réglage rapide, introduit par les chercheurs Google Lester, Al-Rfou et Constant en 2021, est le cousin le plus simple du réglage des préfixes. Au lieu de créer manuellement une invite de texte, vous figez l'ensemble du modèle et apprenez une petite matrice d'intégrations continues (des « invites logicielles ») qui sont ajoutées uniquement au niveau de la couche d'entrée. La descente de gradient ajuste ces vecteurs pour amener le bon comportement pour une tâche. Une découverte frappante : à mesure que le modèle de base évolue vers des milliards de paramètres, un réglage rapide comble l'écart avec un réglage fin complet, pour finalement l'adapter à des références comme SuperGLUE. Chaque tâche n'a besoin que de sa propre petite invite logicielle (souvent quelques milliers de paramètres), de sorte qu'un seul modèle gelé peut exécuter plusieurs tâches à la fois. Les auteurs ont décrit cela comme « la puissance de l'échelle pour un réglage rapide des paramètres de manière efficace ».
Aperçu technique
Les invites logicielles ne sont pas de vrais mots : ce sont des vecteurs flottants dans un espace d'intégration qui ne doivent nécessairement correspondre à aucun jeton du vocabulaire. Ils sont ajoutés uniquement au niveau de la couche d'intégration d'entrée (contrairement au réglage des préfixes, qui est injecté dans chaque couche), ce qui rend le réglage rapide encore plus léger. Étant donné que le modèle est gelé, les dégradés reviennent uniquement aux intégrations d'invites logicielles. L'initialisation, la longueur de l'invite et l'échelle du modèle affectent tous fortement la qualité.
Impact stratégique
Vitesse et échelle
Les flux de travail linguistiques peuvent évoluer plus rapidement sans sacrifier la cohérence.
Accès et portée
Il étend l’accès à toutes les langues et styles de communication.
Décisions plus claires
Les équipes peuvent consacrer plus de temps au jugement tandis que l’automatisation gère les répétitions.
L'avenir du réglage rapide
Le réglage rapide a popularisé l'idée selon laquelle vous pouvez diriger des modèles de fondation gelés avec de minuscules signaux appris, et cela sous-tend une grande partie de la boîte à outils PEFT actuelle. À mesure que les modèles évoluent, l’effet de réduction des écarts rend les invites logicielles attrayantes pour un déploiement multitâche bon marché. La recherche étend l'idée de transférer des invites apprenables entre tâches et modèles, de les combiner avec la récupération et de les utiliser pour une génération contrôlable et plus sûre. Attendez-vous à ce que les invites logicielles restent un levier peu coûteux aux côtés de LoRA et des adaptateurs.
Mise en œuvre dans le monde réel
Spécialisation d'un modèle T5 gelé pour de nombreuses tâches SuperGLUE, stockage d'une invite logicielle distincte par tâche
Déployer à moindre coût un seul grand modèle chez de nombreux clients, chacun avec sa propre invite apprise
Piloter le sentiment ou le comportement de classification sans ingénierie manuelle de la formulation
Transfert d'invite logicielle : pré-entraînement d'une invite sur une tâche pour démarrer à chaud l'apprentissage sur une tâche associée
Risques et garde-fous
Les faits hallucinés peuvent discrètement entrer dans des rapports, des flux de support ou des résultats de recherche.
La sensibilité des invites peut créer des résultats incohérents pour des demandes similaires.
Les données textuelles sensibles peuvent être exposées si les contrôles d’accès sont faibles.
Feuille de route de mise en œuvre
Définissez le format de sortie, le ton et les normes de qualité avant le déploiement.
Établissez des réponses auprès de sources fiables chaque fois que la précision est importante.
Gardez un point de contrôle d’examen humain pour les résultats à enjeux élevés.
Suivez les modèles de défaillance et recyclez régulièrement les invites ou les flux de travail.
Continuez à explorer
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Prompt Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Guide suivant
Prompt Engineering
Questions fréquemment posées
What is Prompt Tuning?
Le réglage des invites adapte un modèle de langage figé en apprenant une poignée de vecteurs « d'invite douce » continus ajoutés au début de l'entrée, plutôt que d'écrire des mots à la main. C’est l’un des moyens les plus simples de spécialiser un modèle géant, et cela s’améliore à mesure que les modèles grandissent.
Qu'est-ce qu'une « invite logicielle » dans le réglage des invites ?
Les invites logicielles sont des vecteurs continus pouvant être entraînés dans l'espace d'intégration, et non des mots lisibles par l'homme.
Où le réglage rapide ajoute-t-il ses vecteurs entraînables ?
Le réglage des invites ajoute des invites logicielles uniquement à l'entrée, ce qui le rend plus léger que le réglage des préfixes.
Quel effet surprenant l’article original a-t-il mis en évidence sur l’échelle du modèle ?
Le titre du journal mettait l'accent sur « le pouvoir de l'échelle » : des modèles plus grands permettent un réglage rapide rivalisant avec un réglage fin complet.
Qui a introduit le réglage rapide ?
Brian Lester, Rami Al-Rfou et Noah Constant de Google ont publié l'article sur le réglage rapide en 2021.
Comment le réglage rapide permet-il d'exécuter de nombreuses tâches à partir d'un seul modèle ?
Seule une petite invite logicielle est spécifique à une tâche, de sorte qu'un modèle gelé peut héberger de nombreuses tâches en échangeant les invites.