Terme du glossaire IA

Qu’est-ce que Facturation basée sur l'utilisation ?

Définition

Tarification où les coûts évoluent en fonction des appels d'API, des jetons, du temps d'inférence ou du calcul consommé.

Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA

Termes associés

Calcul du temps d'inférenceQuantité de puissance de traitement consommée lors de la production de chaque réponse.Calcul au moment du testCalcul d'inférence supplémentaire utilisé lors de la génération de réponses pour améliorer la qualité ou le raisonnement.Décodage spéculatifUne méthode d'accélération d'inférence dans laquelle un petit projet de modèle propose des jetons qu'un modèle plus grand vérifie en parallèle.Attention fenêtre coulissanteUn modèle d'attention dans lequel chaque jeton s'occupe uniquement d'une fenêtre de taille fixe de jetons à proximité pour réduire le calcul.InférencePhase d'exécution au cours de laquelle un modèle entraîné génère des prédictions ou des sorties.RAG (génération augmentée par récupération)Une méthode qui récupère des connaissances externes et les intègre à la génération au moment de l'inférence.

Apprenez-en davantage dans nos guides gratuits

Entropy-Based SamplingEnergy-Based ModelsScore-Based Generative ModelsWaveGlow Flow-Based Vocoder

Voir aussi

Trust CalibrationZero Data RetentionStructured OutputKV CacheShadow DeploymentMCP (Model Context Protocol)Safety CaseAgentic Loop