Quiz lié à un guide · Moyen Niveau
Quiz sur la mise à l'échelle du calcul au moment du test
Passez en revue le calcul du temps d'inférence, la recherche de candidats, l'allocation adaptative et les compromis coût-latence mesurés dans les études de temps de test.
Question 1 de 8
À quoi fait référence le « calcul au moment du test » ?
Prévisualisez chaque question8 des questions
Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.
- À quoi fait référence le « calcul au moment du test » ?
- Calcul dépensé pour entraîner le modèle sur les données
- Le temps nécessaire pour télécharger un modèle
- Calcul effectué lorsque le modèle répond à une requête lors de l'inférence
- L'électricité utilisée pour refroidir les centres de données
- In test-time scaling studies, what can extra inference compute be used for?
- Changing the model’s training data during the request
- Increasing the number of model parameters automatically
- Guaranteeing correctness without evaluation
- Searching or revising candidate solutions and checking their quality
- Quel est le principal compromis de la mise à l’échelle du calcul au moment du test ?
- Une plus grande précision en échange de plus de latence et de coûts
- Moins de mémoire mais un entraînement plus lent
- Plus de données mais des modèles plus petits
- De meilleurs graphismes pour une résolution inférieure
- Qu’est-ce que l’échantillonnage « best-of-N » ?
- Formation sur les N plus grands ensembles de données
- Générer N réponses candidates et sélectionner la meilleure
- Utiliser uniquement les N premiers mots d'une invite
- Exécuter le modèle sur N ordinateurs différents pour plus de vitesse
- Pourquoi le calcul au moment du test est-il considéré comme un nouvel « axe de mise à l'échelle » ?
- Il remplace le besoin de toute formation
- Cela ne fonctionne que sur les petits modèles
- Il améliore les performances en ajoutant un calcul d'inférence plutôt qu'en augmentant simplement la taille du modèle.
- Cela réduit le nombre d’utilisateurs qu’un modèle peut servir
- Quel résultat surprenant le calcul au moment du test permet-il ?
- Les modèles peuvent fonctionner sans aucun GPU
- Les données de formation deviennent inutiles
- Les modèles répondent toujours plus vite
- Un modèle plus petit qui réfléchit plus longtemps peut rivaliser avec un modèle beaucoup plus grand qui répond instantanément.
- What is one reason a fixed best-of-N strategy may waste inference compute?
- It spends the same candidate budget on easy and difficult prompts
- It modifies model weights on every query
- It cannot generate multiple candidates
- It eliminates the need for scoring
- What did the test-time compute paper compare with best-of-N sampling?
- A strategy that disables inference
- A compute-optimal strategy that allocates effort based on expected solution quality
- A larger tokenizer vocabulary
- A method that changes image resolution