Quiz sur le réglage des hyperparamètres

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

1. Qu'est-ce qui distingue un hyperparamètre d'un paramètre de modèle classique ?
   • Les hyperparamètres sont définis avant la formation et ne sont pas appris directement à partir des données
   • Les hyperparamètres sont appris automatiquement par descente de gradient pendant l'entraînement
   • Les hyperparamètres n'existent que dans les modèles linéaires
   • Il n'y a pas vraiment de différence entre eux
2. Quel est généralement considéré comme l’hyperparamètre le plus impactant à intégrer dans l’apprentissage profond ?
   • La graine aléatoire
   • Le taux d'apprentissage
   • Le format de fichier de l'ensemble de données
   • Le nom de la variable de l'optimiseur
3. Pourquoi la recherche aléatoire surpasse-t-elle souvent la recherche sur grille pour le réglage des hyperparamètres ?
   • Il essaie toujours des combinaisons plus complètes
   • Il ne nécessite pas d'ensemble de validation
   • Il échantillonne l'espace plus efficacement, trouvant de bonnes valeurs sans couvrir de manière exhaustive chaque point de la grille.
   • Il apprend les poids et les hyperparamètres en même temps
4. Comment l'optimisation bayésienne choisit-elle la configuration d'hyperparamètres à essayer ensuite ?
   • Il sélectionne les configurations de manière complètement aléatoire à chaque fois
   • Il sélectionne toujours la configuration avec le plus de couches
   • Il copie exactement les paramètres de l'essai précédent
   • Il construit un modèle dont les paramètres semblent prometteurs et équilibre l'exploration de l'incertitude avec l'exploitation des bons résultats.
5. Pourquoi l’ensemble de test final doit-il rester intact pendant le réglage des hyperparamètres ?
   • Parce que s’y opposer entraînerait une fuite d’informations et donnerait une estimation trop optimiste des performances réelles
   • Parce que l'ensemble de test est utilisé pour calculer les poids
   • Parce que l'ensemble de test est toujours plus petit que l'ensemble de validation
   • Parce que les hyperparamètres sont stockés dans l'ensemble de test
6. Quel problème un système d'arrêt précoce comme Hyperband résout-il dans le réglage des hyperparamètres ?
   • Cela supprime le besoin d’un taux d’apprentissage
   • Il permet d'économiser du calcul en supprimant rapidement les essais sous-performants et en accordant des ressources aux essais prometteurs.
   • Cela garantit que le modèle ne sera pas surajusté
   • Il convertit les hyperparamètres en paramètres apprenables
7. In Bayesian hyperparameter optimization, what role does the probabilistic surrogate model play?
   • It replaces training every candidate with a guaranteed exact score
   • It updates model weights during the final test
   • It estimates how promising configurations may be and guides the next trial
   • It labels the training examples
8. Why should tuning trials be compared on a validation set rather than the final test set?
   • The test set cannot contain labels
   • The validation set is always larger
   • The model cannot predict on a test set
   • Repeated test-set feedback would leak information and make the final estimate overoptimistic