What is Quantization? Definition | AI Understanding

Definition

Konvertieren von Modellgewichten in Formate mit geringerer Genauigkeit wie 8-Bit oder 4-Bit.

Verwandte Begriffe

Modellquantisierung

Reduzierung der numerischen Genauigkeit von Modellgewichten, um Speicher- und Inferenzkosten zu senken.

Eine Feinabstimmungstechnik, die 4-Bit-Gewichtsquantisierung mit LoRA-Adaptern kombiniert, um den Speicherbedarf zu reduzieren.

Rückpropagation

Der zentrale Trainingsalgorithmus, der Modellgewichte aktualisiert, indem er Vorhersagefehler rückwärts durch das Netzwerk weiterleitet.

Faltungs-Neuronales Netzwerk (CNN)

Eine neuronale Architektur, die für die Verarbeitung gitterartiger Daten wie Bilder optimiert ist.

Merkmalsextraktion

Konvertieren von Rohdaten in informative Funktionen, die ein Modell verwenden kann.

KI-Systeme, die neue Inhalte wie Texte, Bilder, Audio, Video oder Code produzieren.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

See also

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Durchsuchen Sie das vollständige KI-Glossar Entdecken Sie alle kostenlosen KI-Anleitungen