KI-Glossarbegriff

Was ist Schiebefenster Achtung?

Definition

Ein Aufmerksamkeitsmuster, bei dem sich jedes Token nur um ein Fenster mit fester Größe benachbarter Token kümmert, um den Rechenaufwand zu reduzieren.

Verwandte Begriffe

Beschneiden
Entfernen weniger wichtiger Modellgewichte oder Neuronen, um Größe und Rechenleistung zu reduzieren.
Nutzungsbasierte Abrechnung
Preisgestaltung, bei der die Kosten mit API-Aufrufen, Token, Inferenzzeit oder verbrauchter Rechenleistung skalieren.
Skalierungsgesetz
Eine empirische Beziehung, die zeigt, wie sich die Leistung mit der Modellgröße, den Daten oder der Rechenleistung verbessert.
Sparse-Modell
Ein Modell, bei dem viele Parameter Null oder inaktiv sind, um den Rechenaufwand zu reduzieren.
Spekulative Dekodierung
Eine Inferenzbeschleunigungsmethode, bei der ein kleines Entwurfsmodell Token vorschlägt, die ein größeres Modell parallel überprüft.
Kontextfenster
Die maximale Anzahl an Eingabetokens, die ein Sprachmodell gleichzeitig verarbeiten kann.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Attention Rollout and Head PruningSequence Parallelism and Ring AttentionMulti-Head Latent AttentionRWKV Linear Attention

See also

ALiBiBPE (Byte Pair Encoding)RoPE (Rotary Positional Embeddings)SentencePiecePositional EncodingANN (Approximate Nearest Neighbor)Multi-Head AttentionHNSW
Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen