What is Model Quantization? Definition | AI Understanding

Definition

Minska numerisk precision för modellvikter för att minska minnes- och slutledningskostnaden.

Relaterade termer

Konvertera modellvikter till format med lägre precision som 8-bitars eller 4-bitars.

En finjusteringsteknik som kombinerar 4-bitars viktkvantisering med LoRA-adaptrar för att minska minnesbehovet.

Blixtuppmärksamhet

En optimerad uppmärksamhetsalgoritm som minskar minnesanvändningen och påskyndar transformatorträning och slutledning.

Minne (agentminne)

Lagrat sammanhang som en AI-agent använder över steg eller sessioner för att förbättra kontinuiteten.

Ett mjukvarusystem som kan observera, resonera och vidta åtgärder för att uppnå ett mål, ofta med hjälp av verktyg och minne.

Ett område fokuserat på att minska skadligt beteende, misslyckanden och missbruksrisker i AI-system.

Läs mer i våra kostnadsfria guider

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

See also

Model Drift Multimodal Model Model Card Named Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural Network Machine Learning (ML)

Bläddra i hela AI-ordlistan Utforska alla gratis AI-guider