KI-Glossarbegriff

Was ist Schiebefenster Achtung?

Definition

Ein Aufmerksamkeitsmuster, bei dem sich jedes Token nur um ein Fenster mit fester Größe benachbarter Token kümmert, um den Rechenaufwand zu reduzieren.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

BeschneidenEntfernen weniger wichtiger Modellgewichte oder Neuronen, um Größe und Rechenleistung zu reduzieren.Nutzungsbasierte AbrechnungPreisgestaltung, bei der die Kosten mit API-Aufrufen, Token, Inferenzzeit oder verbrauchter Rechenleistung skalieren.SkalierungsgesetzEine empirische Beziehung, die zeigt, wie sich die Leistung mit der Modellgröße, den Daten oder der Rechenleistung verbessert.Sparse-ModellEin Modell, bei dem viele Parameter Null oder inaktiv sind, um den Rechenaufwand zu reduzieren.Spekulative DekodierungEine Inferenzbeschleunigungsmethode, bei der ein kleines Entwurfsmodell Token vorschlägt, die ein größeres Modell parallel überprüft.KontextfensterDie maximale Anzahl an Eingabetokens, die ein Sprachmodell gleichzeitig verarbeiten kann.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Attention Rollout and Head PruningSequence Parallelism and Ring AttentionMulti-Head Latent AttentionRWKV Linear Attention

Siehe auch

ALiBiBPE (Byte Pair Encoding)RoPE (Rotary Positional Embeddings)SentencePiecePositional EncodingANN (Approximate Nearest Neighbor)Multi-Head AttentionHNSW