Terme du glossaire IA

Qu’est-ce que Modèle distillé ?

Définition

Un modèle plus petit entraîné pour imiter le comportement d'un modèle plus grand tout en utilisant moins de calcul lors de l'inférence.

Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA

Termes associés

Calcul du temps d'inférenceQuantité de puissance de traitement consommée lors de la production de chaque réponse.Distillation des connaissancesEntraîner un modèle plus petit pour imiter les résultats d'un modèle plus grand.InférencePhase d'exécution au cours de laquelle un modèle entraîné génère des prédictions ou des sorties.TailleSuppression des poids de modèle ou des neurones moins importants pour réduire la taille et le calcul.Calcul au moment du testCalcul d'inférence supplémentaire utilisé lors de la génération de réponses pour améliorer la qualité ou le raisonnement.Facturation basée sur l'utilisationTarification où les coûts évoluent en fonction des appels d'API, des jetons, du temps d'inférence ou du calcul consommé.

Apprenez-en davantage dans nos guides gratuits

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Voir aussi

Differential PrivacyEmbedding ModelData ProvenanceEval HarnessData LineageFeature StoreConstitutional AIGroundedness