What is Quantization? Definition | AI Understanding

Definiție

Conversia greutăților modelului în formate de precizie mai scăzută, cum ar fi 8 biți sau 4 biți.

Termeni înrudiți

Cuantificarea modelului

Reducerea preciziei numerice a greutăților modelului pentru a reduce costurile de memorie și de inferență.

O tehnică de reglare fină care combină cuantificarea greutății pe 4 biți cu adaptoare LoRA pentru a reduce nevoile de memorie.

Propagarea inversă

Algoritmul de antrenament de bază care actualizează ponderile modelului prin propagarea erorilor de predicție înapoi prin rețea.

Rețeaua neuronală convoluțională (CNN)

O arhitectură neuronală optimizată pentru procesarea datelor asemănătoare grilei, cum ar fi imaginile.

Extragerea caracteristicilor

Conversia datelor brute în caracteristici informative pe care un model le poate folosi.

Sisteme AI care produc conținut nou, cum ar fi text, imagini, audio, video sau cod.

Aflați mai multe în ghidurile noastre gratuite

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

Vezi și

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Răsfoiți întregul glosar AI Explorați toate ghidurile AI gratuite