Rehber bağlantılı sınav · Orta Seviye

Uzun Bağlam Modelleme Sınavı

Bağlam pencerelerini, dikkat maliyetlerini, konuma duyarlı erişimi, FlashAttention'ı ve etkili bağlam kullanımına ilişkin değerlendirmeleri gözden geçirin.

İlgili kılavuz yollarıUzun Bağlam Modelleme
Soru 1 arasında 8

Bir modelin 'bağlam penceresi' neyi ifade eder?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. Bir modelin 'bağlam penceresi' neyi ifade eder?
    • Tek geçişte katılabileceği maksimum jeton sayısı
    • Sohbet arayüzünün ekran boyutu
    • Aynı anda izin verilen kullanıcı sayısı
    • Modelin ne kadar süredir eğitildiği
  2. Uzun girdiler için standart kişisel dikkat neden pahalı hale geliyor?
    • Doğrusal olarak büyür ve her zaman ucuzdur
    • İşlem ve hafızası dizi uzunluğuyla birlikte karesel olarak büyüyor
    • Birden fazla jetonu okuyamaz
    • Yalnızca görseller üzerinde çalışır
  3. 'Ortada kaybolma' sorunu nedir?
    • Modeller eğitimlerini tamamen unutuyor
    • Modeller bir belgenin yalnızca ortasını okuyabilir
    • Modeller, uzun bir girdinin başındaki ve sonundaki bilgileri, ortada gömülü gerçeklerden daha iyi hatırlar
    • Modeller ortayı başka bir dile çeviriyor
  4. FlashAttention öncelikli olarak neyi geliştirir?
    • Model çıktısının daha uzun metin olmasını sağlar
    • Otomatik olarak daha fazla eğitim verisi ekler
    • Herhangi bir ilgi ihtiyacını ortadan kaldırır
    • IO bilinçli, döşemeli hesaplamayla bellek darboğazını azaltır
  5. Uzun bağlam modellerinde döner konum yerleştirmeleri (RoPE) nasıl bir rol oynuyor?
    • Belirteç konumlarını kodlarlar ve enterpolasyonla daha uzun dizilere genellemeye yardımcı olurlar.
    • Girişten jetonları silerler
    • Metni diller arasında çeviriyorlar
    • Modelin ağırlıklarını saklıyorlar
  6. What does prompt-cache research reuse across compatible requests?
    • The final answer regardless of the new query
    • Computed attention state for reusable prompt segments
    • A fixed set of token IDs without model computation
    • The model’s training data
  7. What does the RULER benchmark add beyond locating one isolated “needle” fact?
    • Yalnızca görüntü sınıflandırması
    • Audio transcription from waveforms
    • Tasks such as multi-hop tracing and aggregation over long contexts
    • GPU memory allocation benchmarks
  8. Why test several task types when measuring a model’s effective context length?
    • Every task uses the same computation
    • The advertised window guarantees all tasks work
    • Task type never affects context use
    • A model may handle simple retrieval yet fail to combine or track information across a long input