Yapay Zeka Sözlüğü Terimi

Nedir Sürgülü Pencere Dikkat?

Tanım

İşlemi azaltmak için her belirtecin yalnızca yakındaki belirteçlerin sabit boyutlu bir penceresine katıldığı bir dikkat modeli.

İlgili terimler

Budama
Boyutu ve hesaplamayı azaltmak için daha az önemli model ağırlıklarının veya nöronların kaldırılması.
Kullanıma Dayalı Faturalandırma
Maliyetlerin API çağrıları, belirteçler, çıkarım süresi veya tüketilen bilgi işlem ile ölçeklendiği fiyatlandırma.
Ölçekleme Kanunu
Performansın model boyutu, veriler veya bilgi işlemle nasıl arttığını gösteren ampirik bir ilişki.
Seyrek Model
Hesaplamayı azaltmak için birçok parametrenin sıfır olduğu veya etkin olmadığı bir model.
Spekülatif Kod Çözme
Küçük bir taslak modelin, daha büyük bir modelin paralel olarak doğruladığı belirteçleri önerdiği bir çıkarım hızlandırma yöntemi.
Bağlam Penceresi
Bir dil modelinin aynı anda işleyebileceği maksimum giriş belirteci miktarı.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

Attention Rollout and Head PruningSequence Parallelism and Ring AttentionMulti-Head Latent AttentionRWKV Linear Attention

See also

ALiBiBPE (Byte Pair Encoding)RoPE (Rotary Positional Embeddings)SentencePiecePositional EncodingANN (Approximate Nearest Neighbor)Multi-Head AttentionHNSW
Yapay Zeka Sözlüğünün tamamına göz atınTüm ücretsiz AI kılavuzlarını keşfedin