Kuiz Pemodelan Konteks Panjang

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

1. Apakah yang dimaksudkan dengan 'tetingkap konteks' model?
   • Bilangan maksimum token yang boleh dihadiri dalam satu pas
   • Saiz skrin antara muka sembang
   • Bilangan pengguna yang dibenarkan sekali gus
   • Berapa lama model itu telah dilatih
2. Mengapakah perhatian kendiri standard menjadi mahal untuk input yang panjang?
   • Ia tumbuh secara linear dan sentiasa murah
   • Pengiraan dan ingatannya berkembang secara kuadratik dengan panjang jujukan
   • Ia tidak boleh membaca lebih daripada satu token
   • Ia hanya berfungsi pada imej
3. Apakah masalah 'hilang di tengah'?
   • Model melupakan latihan mereka sepenuhnya
   • Model hanya boleh membaca bahagian tengah dokumen
   • Model mengingat maklumat pada permulaan dan penghujung input yang panjang lebih baik daripada fakta yang terkubur di tengah
   • Model menterjemahkan bahagian tengah ke dalam bahasa lain
4. Apakah yang dipertingkatkan terutamanya oleh FlashAttention?
   • Ia menjadikan model mengeluarkan teks yang lebih panjang
   • Ia menambah lebih banyak data latihan secara automatik
   • Ia menghilangkan keperluan untuk sebarang perhatian
   • Ia mengurangkan kesesakan memori dengan pengiraan berjubin yang sedar IO
5. Apakah peranan yang dimainkan oleh benam kedudukan berputar (RoPE) dalam model konteks panjang?
   • Mereka mengekod kedudukan token dan, dengan interpolasi, membantu menyamaratakan kepada jujukan yang lebih panjang
   • Mereka memadamkan token daripada input
   • Mereka menterjemah teks antara bahasa
   • Mereka menyimpan berat model
6. What does prompt-cache research reuse across compatible requests?
   • The final answer regardless of the new query
   • Computed attention state for reusable prompt segments
   • A fixed set of token IDs without model computation
   • The model’s training data
7. What does the RULER benchmark add beyond locating one isolated “needle” fact?
   • Hanya klasifikasi imej
   • Audio transcription from waveforms
   • Tasks such as multi-hop tracing and aggregation over long contexts
   • GPU memory allocation benchmarks
8. Why test several task types when measuring a model’s effective context length?
   • Every task uses the same computation
   • The advertised window guarantees all tasks work
   • Task type never affects context use
   • A model may handle simple retrieval yet fail to combine or track information across a long input