Quiz lié à un guide · Moyen Niveau

Quiz sur le lissage des étiquettes

Couvre les cibles lissées et l'epsilon, les effets d'étalonnage dépendants de la tâche, les compromis de distillation et les raisons pour lesquelles les résultats dépendent des données et de l'objectif.

Chemins de guidage associésLissage des étiquettes
Question 1 de 8

Qu’est-ce que le lissage des étiquettes change sur les objectifs de formation ?

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. Qu’est-ce que le lissage des étiquettes change sur les objectifs de formation ?
    • Il adoucit les cibles ponctuelles afin que la vraie classe soit inférieure à 1,0 et que les autres soient légèrement supérieures à 0.
    • Il supprime la fonction de perte
    • Il supprime les classes incorrectes
    • Cela double le taux d’apprentissage
  2. Une valeur courante pour le paramètre de lissage epsilon est :
    • 0,9
    • 0,1
    • 5.0
    • 0,0
  3. What is one intended effect of replacing hard one-hot targets with smoothed targets?
    • Force every class to have equal probability
    • Guarantee the largest possible logit for the true class
    • Avoid requiring the labeled class to receive a target probability of exactly one
    • Remove the need for labeled training data
  4. Which landmark architectures are prominent examples of label-smoothing use?
    • AlexNet and LeNet only
    • ResNet-50 and VGG only
    • AlphaGo et AlphaZéro
    • Inception-v3 et le transformateur
  5. What can label smoothing do to calibration?
    • It can improve calibration in some settings, but the effect is task- and model-dependent
    • It guarantees perfect calibration for every classifier
    • It cannot affect predicted probabilities
    • It always makes confidence equal accuracy
  6. Quel est l’inconvénient documenté du lissage des étiquettes ?
    • Cela réduit toujours la précision
    • Cela peut effacer les fines similitudes entre les classes, nuisant ainsi à la distillation des connaissances.
    • Cela nécessite deux fois plus de données d’entraînement
    • Cela ne fonctionne que sur le texte
  7. Why can label smoothing complicate knowledge distillation?
    • It converts every class label into an image
    • It forces the student to use a different tokenizer
    • It can remove information in logits about similarities among incorrect classes
    • It prevents the teacher from producing logits
  8. What should a practitioner verify when comparing label-smoothing implementations?
    • Whether the model has a web browser
    • Whether training uses a validation filename
    • Whether logits are stored as text
    • Whether epsilon is distributed over all classes or only the non-target classes