KI-Glossarbegriff

Was ist Modellquantisierung?

Definition

Reduzierung der numerischen Genauigkeit von Modellgewichten, um Speicher- und Inferenzkosten zu senken.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

QuantisierungKonvertieren von Modellgewichten in Formate mit geringerer Genauigkeit wie 8-Bit oder 4-Bit.QLoRAEine Feinabstimmungstechnik, die 4-Bit-Gewichtsquantisierung mit LoRA-Adaptern kombiniert, um den Speicherbedarf zu reduzieren.BlitzaufmerksamkeitEin optimierter Aufmerksamkeitsalgorithmus, der den Speicherverbrauch reduziert und das Transformatortraining und die Inferenz beschleunigt.Speicher (Agentenspeicher)Gespeicherter Kontext, den ein KI-Agent schritt- oder sitzungsübergreifend verwendet, um die Kontinuität zu verbessern.KI-AgentEin Softwaresystem, das beobachten, schlussfolgern und Maßnahmen ergreifen kann, um ein Ziel zu erreichen, häufig unter Einsatz von Werkzeugen und Gedächtnis.KI-SicherheitEin Bereich, der sich auf die Reduzierung schädlichen Verhaltens, Ausfällen und Missbrauchsrisiken in KI-Systemen konzentriert.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Siehe auch

Model DriftMultimodal ModelModel CardNamed Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural NetworkMachine Learning (ML)