Terme du glossaire IA

Qu’est-ce que Quantification du modèle ?

Définition

Réduire la précision numérique des poids du modèle pour réduire les coûts de mémoire et d'inférence.

Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA

Termes associés

QuantificationConversion des poids de modèle en formats de précision inférieure tels que 8 bits ou 4 bits.QLoRAUne technique de réglage fin qui combine une quantification de poids sur 4 bits avec des adaptateurs LoRA pour réduire les besoins en mémoire.Attention éclairUn algorithme d'attention optimisé qui réduit l'utilisation de la mémoire et accélère la formation et l'inférence des transformateurs.Mémoire (mémoire de l'agent)Contexte stocké qu'un agent IA utilise au fil des étapes ou des sessions pour améliorer la continuité.Agent IAUn système logiciel capable d'observer, de raisonner et de prendre des mesures pour atteindre un objectif, souvent en utilisant des outils et de la mémoire.Sécurité de l'IAUn domaine axé sur la réduction des comportements nuisibles, des pannes et des risques d’utilisation abusive des systèmes d’IA.

Apprenez-en davantage dans nos guides gratuits

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Voir aussi

Model DriftMultimodal ModelModel CardNamed Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural NetworkMachine Learning (ML)