Quiz lié à un guide · Moyen Niveau
Quiz de réglage rapide
Examinez les invites logicielles au niveau de la couche d’entrée, la configuration du modèle gelé et les résultats dépendants de l’échelle signalés pour le réglage des invites.
Question 1 de 8
Qu'est-ce qu'une « invite logicielle » dans le réglage des invites ?
Prévisualisez chaque question8 des questions
Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.
- Qu'est-ce qu'une « invite logicielle » dans le réglage des invites ?
- Apprentissage de vecteurs d'intégration continue qui n'ont pas besoin d'être mappés à de vrais mots
- Une instruction textuelle formulée poliment
- Une copie distillée plus petite du modèle
- Un ensemble de journaux de sortie gelés
- Où le réglage rapide ajoute-t-il ses vecteurs entraînables ?
- À chaque couche de transformateur
- Uniquement au niveau de la couche d'intégration d'entrée
- Uniquement au niveau de la couche de sortie
- À l'intérieur de l'état de l'optimiseur
- Quel effet surprenant l’article original a-t-il mis en évidence sur l’échelle du modèle ?
- Le réglage rapide s'aggrave à mesure que les modèles se développent
- L'échelle n'a aucun effet sur le réglage rapide
- À mesure que les modèles grandissent, le réglage rapide se rapproche de la qualité de réglage fin
- Les modèles plus grands ne peuvent plus être réglés rapidement
- Qui a introduit le réglage rapide ?
- DeepMind en 2016
- Anthropic en 2023
- Microsoft en 2019
- Chercheurs à Google (Lester, Al-Rfou, Constant) en 2021
- Comment le réglage rapide permet-il d'exécuter de nombreuses tâches à partir d'un seul modèle ?
- Chaque tâche utilise sa propre petite invite logicielle tandis que le modèle reste figé
- Il recycle l'ensemble du modèle pour chaque requête
- Il supprime les tâches inutilisées des poids
- Cela nécessite un GPU séparé par tâche
- How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
- As a replacement for frozen language models
- As a simpler related method that the paper compares with prefix tuning
- As a tokenizer with no trainable parameters
- As a method that updates every model weight
- Which model family did Lester and colleagues use to study prompt tuning across scales?
- WaveNet
- AlphaFold2
- T5
- Forêt d'isolement
- How are soft prompts optimized in prompt tuning?
- By changing all model weights for each task
- By replacing embeddings with hard-coded words only
- By training a new tokenizer for every example
- By backpropagation through a frozen language model to update the prompt vectors