What is Quantization? Definition | AI Understanding

Definisjon

Konvertering av modellvekter til formater med lavere presisjon som 8-bit eller 4-bit.

Relaterte vilkår

Modellkvantisering

Reduserer numerisk presisjon av modellvekter for å redusere minne- og slutningskostnadene.

En finjusteringsteknikk som kombinerer 4-bits vektkvantisering med LoRA-adaptere for å redusere minnebehov.

Tilbakepropagering

Kjernetreningsalgoritmen som oppdaterer modellvekter ved å spre prediksjonsfeil bakover gjennom nettverket.

Convolutional Neural Network (CNN)

En nevral arkitektur optimalisert for å behandle rutenettlignende data som bilder.

Funksjonsutvinning

Konvertering av rådata til informative funksjoner som en modell kan bruke.

AI-systemer som produserer nytt innhold som tekst, bilder, lyd, video eller kode.

Lær mer i våre gratis guider

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

Se også

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Bla gjennom hele AI-ordlisten Utforsk alle gratis AI-guider