AI Ordlista Term

Vad är Kvantisering?

Definition

Konvertera modellvikter till format med lägre precision som 8-bitars eller 4-bitars.

Relaterade termer

Modellkvantisering
Minska numerisk precision för modellvikter för att minska minnes- och slutledningskostnaden.
QLoRA
En finjusteringsteknik som kombinerar 4-bitars viktkvantisering med LoRA-adaptrar för att minska minnesbehovet.
Backpropagation
Grundträningsalgoritmen som uppdaterar modellvikter genom att sprida prediktionsfel bakåt genom nätverket.
Convolutional Neural Network (CNN)
En neural arkitektur optimerad för att bearbeta rutnätsliknande data såsom bilder.
Funktionsextraktion
Konvertera rådata till informativa funktioner som en modell kan använda.
Generativ AI
AI-system som producerar nytt innehåll som text, bilder, ljud, video eller kod.

Läs mer i våra kostnadsfria guider

Residual Vector QuantizationSmoothQuant and Activation QuantizationGPTQ and AWQ Post-Training QuantizationQuantization

See also

PruningRAG (Retrieval-Augmented Generation)Prompt InjectionRecallPrompt EngineeringRecommendation SystemPromptRed Teaming
Bläddra i hela AI-ordlistanUtforska alla gratis AI-guider