What is Quantization? Definition | AI Understanding

Définition

Conversion des poids de modèle en formats de précision inférieure tels que 8 bits ou 4 bits.

Termes associés

Quantification du modèle

Réduire la précision numérique des poids du modèle pour réduire les coûts de mémoire et d'inférence.

Une technique de réglage fin qui combine une quantification de poids sur 4 bits avec des adaptateurs LoRA pour réduire les besoins en mémoire.

Rétropropagation

L'algorithme de formation de base qui met à jour les pondérations du modèle en propageant les erreurs de prédiction vers l'arrière à travers le réseau.

Réseau neuronal convolutif (CNN)

Une architecture neuronale optimisée pour traiter des données de type grille telles que des images.

Extraction de fonctionnalités

Conversion des données brutes en fonctionnalités informatives qu'un modèle peut utiliser.

IA générative

Systèmes d'IA qui produisent de nouveaux contenus tels que du texte, des images, de l'audio, de la vidéo ou du code.

Apprenez-en davantage dans nos guides gratuits

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

Voir aussi

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Parcourez le glossaire complet de l'IA Explorez tous les guides gratuits sur l'IA