Kvíz spojený s průvodcem · Střední úroveň

Dlouhý kontextový modelovací kvíz

Prohlédněte si kontextová okna, náklady na pozornost, vyhledávání podle polohy, FlashAttention a vyhodnocení efektivního použití kontextu.

Související vodicí cestyDlouhé kontextové modelování
Otázka 1 z 8

Co znamená „kontextové okno“ modelu?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Co znamená „kontextové okno“ modelu?
    • Maximální počet tokenů, které může obsloužit v jednom průchodu
    • Velikost obrazovky rozhraní chatu
    • Počet najednou povolených uživatelů
    • Jak dlouho byl model trénován
  2. Proč se standardní sebepozorování prodražuje při dlouhých vstupech?
    • Roste lineárně a je vždy levná
    • Jeho výpočet a paměť rostou kvadraticky s délkou sekvence
    • Nemůže přečíst více než jeden token
    • Funguje pouze na obrázky
  3. Jaký je problém „ztracen uprostřed“?
    • Modelky na trénink úplně zapomínají
    • Modely mohou číst pouze uprostřed dokumentu
    • Modely si lépe pamatují informace na začátku a na konci dlouhého vstupu než fakta pohřbená uprostřed
    • Modely překládají střed do jiného jazyka
  4. Co FlashAttention primárně zlepšuje?
    • Díky tomu bude výstup modelu delší text
    • Automaticky přidává další tréninková data
    • Odstraňuje potřebu jakékoli pozornosti
    • Snižuje problém s pamětí pomocí dlaždicového výpočtu s ohledem na IO
  5. Jakou roli hrají rotační polohové vestavby (RoPE) v modelech s dlouhým kontextem?
    • Kódují pozice tokenů a pomocí interpolace pomáhají zobecňovat na delší sekvence
    • Odstraňují tokeny ze vstupu
    • Překládají text mezi jazyky
    • Ukládají závaží modelu
  6. What does prompt-cache research reuse across compatible requests?
    • The final answer regardless of the new query
    • Computed attention state for reusable prompt segments
    • A fixed set of token IDs without model computation
    • The model’s training data
  7. What does the RULER benchmark add beyond locating one isolated “needle” fact?
    • Pouze klasifikace obrázků
    • Audio transcription from waveforms
    • Tasks such as multi-hop tracing and aggregation over long contexts
    • GPU memory allocation benchmarks
  8. Why test several task types when measuring a model’s effective context length?
    • Every task uses the same computation
    • The advertised window guarantees all tasks work
    • Task type never affects context use
    • A model may handle simple retrieval yet fail to combine or track information across a long input