KI-Glossarbegriff

Was ist Quantisierung?

Definition

Konvertieren von Modellgewichten in Formate mit geringerer Genauigkeit wie 8-Bit oder 4-Bit.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

ModellquantisierungReduzierung der numerischen Genauigkeit von Modellgewichten, um Speicher- und Inferenzkosten zu senken.QLoRAEine Feinabstimmungstechnik, die 4-Bit-Gewichtsquantisierung mit LoRA-Adaptern kombiniert, um den Speicherbedarf zu reduzieren.RückpropagationDer zentrale Trainingsalgorithmus, der Modellgewichte aktualisiert, indem er Vorhersagefehler rückwärts durch das Netzwerk weiterleitet.Faltungs-Neuronales Netzwerk (CNN)Eine neuronale Architektur, die für die Verarbeitung gitterartiger Daten wie Bilder optimiert ist.MerkmalsextraktionKonvertieren von Rohdaten in informative Funktionen, die ein Modell verwenden kann.Generative KIKI-Systeme, die neue Inhalte wie Texte, Bilder, Audio, Video oder Code produzieren.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Residual Vector QuantizationSmoothQuant and Activation QuantizationGPTQ and AWQ Post-Training QuantizationQuantization

Siehe auch

PruningRAG (Retrieval-Augmented Generation)Prompt InjectionRecallPrompt EngineeringRecommendation SystemPromptRed Teaming