Kvíz spojený s průvodcem · Střední úroveň
Dlouhý kontextový modelovací kvíz
Prohlédněte si kontextová okna, náklady na pozornost, vyhledávání podle polohy, FlashAttention a vyhodnocení efektivního použití kontextu.
Otázka 1 z 8
Co znamená „kontextové okno“ modelu?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Co znamená „kontextové okno“ modelu?
- Maximální počet tokenů, které může obsloužit v jednom průchodu
- Velikost obrazovky rozhraní chatu
- Počet najednou povolených uživatelů
- Jak dlouho byl model trénován
- Proč se standardní sebepozorování prodražuje při dlouhých vstupech?
- Roste lineárně a je vždy levná
- Jeho výpočet a paměť rostou kvadraticky s délkou sekvence
- Nemůže přečíst více než jeden token
- Funguje pouze na obrázky
- Jaký je problém „ztracen uprostřed“?
- Modelky na trénink úplně zapomínají
- Modely mohou číst pouze uprostřed dokumentu
- Modely si lépe pamatují informace na začátku a na konci dlouhého vstupu než fakta pohřbená uprostřed
- Modely překládají střed do jiného jazyka
- Co FlashAttention primárně zlepšuje?
- Díky tomu bude výstup modelu delší text
- Automaticky přidává další tréninková data
- Odstraňuje potřebu jakékoli pozornosti
- Snižuje problém s pamětí pomocí dlaždicového výpočtu s ohledem na IO
- Jakou roli hrají rotační polohové vestavby (RoPE) v modelech s dlouhým kontextem?
- Kódují pozice tokenů a pomocí interpolace pomáhají zobecňovat na delší sekvence
- Odstraňují tokeny ze vstupu
- Překládají text mezi jazyky
- Ukládají závaží modelu
- What does prompt-cache research reuse across compatible requests?
- The final answer regardless of the new query
- Computed attention state for reusable prompt segments
- A fixed set of token IDs without model computation
- The model’s training data
- What does the RULER benchmark add beyond locating one isolated “needle” fact?
- Pouze klasifikace obrázků
- Audio transcription from waveforms
- Tasks such as multi-hop tracing and aggregation over long contexts
- GPU memory allocation benchmarks
- Why test several task types when measuring a model’s effective context length?
- Every task uses the same computation
- The advertised window guarantees all tasks work
- Task type never affects context use
- A model may handle simple retrieval yet fail to combine or track information across a long input