What is Quantization? Definition | AI Understanding

Definizione

Conversione dei pesi del modello in formati con precisione inferiore come 8 bit o 4 bit.

Termini correlati

Quantizzazione del modello

Riduzione della precisione numerica dei pesi del modello per ridurre i costi di memoria e inferenza.

Una tecnica di messa a punto che combina la quantizzazione del peso a 4 bit con gli adattatori LoRA per ridurre le esigenze di memoria.

Propagazione all'indietro

L'algoritmo di training principale che aggiorna i pesi del modello propagando gli errori di previsione all'indietro attraverso la rete.

Rete neurale convoluzionale (CNN)

Un'architettura neurale ottimizzata per l'elaborazione di dati simili a griglia come le immagini.

Estrazione di caratteristiche

Conversione dei dati grezzi in funzionalità informative che un modello può utilizzare.

Sistemi di intelligenza artificiale che producono nuovi contenuti come testo, immagini, audio, video o codice.

Scopri di più nelle nostre guide gratuite

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

Vedi anche

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Sfoglia il glossario completo dell'intelligenza artificiale Esplora tutte le guide gratuite sull'intelligenza artificiale