Тест, свързан с ръководство · Среден Ниво

Тест за моделиране в дълъг контекст

Прегледайте контекстни прозорци, разходи за внимание, чувствително към позиция извличане, FlashAttention и оценки на ефективното използване на контекста.

Свързани ръководни пътекиМоделиране на дълъг контекст
Въпрос 1 на 8

За какво се отнася „контекстният прозорец“ на модела?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. За какво се отнася „контекстният прозорец“ на модела?
    • Максималният брой жетони, които може да обслужи с едно преминаване
    • Размерът на екрана на интерфейса за чат
    • Броят на разрешените потребители наведнъж
    • Колко време е бил обучаван моделът
  2. Защо стандартното самовнимание става скъпо за дълги входове?
    • Той расте линейно и винаги е евтин
    • Неговите изчисления и памет нарастват квадратично с дължината на последователността
    • Не може да чете повече от един токен
    • Работи само върху изображения
  3. Какъв е проблемът „изгубени по средата“?
    • Моделите напълно забравят обучението си
    • Моделите могат да четат само средата на документ
    • Моделите си спомнят информацията в началото и в края на дълго въвеждане по-добре от фактите, заровени в средата
    • Моделите превеждат средата на друг език
  4. Какво основно подобрява FlashAttention?
    • Това кара модела да извежда по-дълъг текст
    • Добавя автоматично още данни за обучение
    • Премахва необходимостта от всякакво внимание
    • Той намалява пречките в паметта с изчисление с плочки, съобразено с IO
  5. Каква роля играят вграждането на ротационна позиция (RoPE) в моделите с дълъг контекст?
    • Те кодират позиции на токени и с интерполация помагат за обобщаване към по-дълги последователности
    • Те изтриват жетони от входа
    • Те превеждат текст между езици
    • Те съхраняват теглото на модела
  6. What does prompt-cache research reuse across compatible requests?
    • The final answer regardless of the new query
    • Computed attention state for reusable prompt segments
    • A fixed set of token IDs without model computation
    • The model’s training data
  7. What does the RULER benchmark add beyond locating one isolated “needle” fact?
    • Само класификация на изображения
    • Audio transcription from waveforms
    • Tasks such as multi-hop tracing and aggregation over long contexts
    • GPU memory allocation benchmarks
  8. Why test several task types when measuring a model’s effective context length?
    • Every task uses the same computation
    • The advertised window guarantees all tasks work
    • Task type never affects context use
    • A model may handle simple retrieval yet fail to combine or track information across a long input