Questionário de modelagem de contexto longo

As respostas e explicações aparecem conforme você responde ao teste.

1. A que se refere a 'janela de contexto' de um modelo?
   • O número máximo de tokens que ele pode atender em uma passagem
   • O tamanho da tela da interface de bate-papo
   • O número de usuários permitidos de uma vez
   • Há quanto tempo o modelo foi treinado
2. Por que a autoatenção padrão fica cara para entradas longas?
   • Cresce linearmente e é sempre barato
   • Sua computação e memória crescem quadraticamente com o comprimento da sequência
   • Não pode ler mais de um token
   • Só funciona em imagens
3. Qual é o problema do “perdido no meio”?
   • Os modelos esquecem completamente o treinamento
   • Os modelos só podem ler o meio de um documento
   • Os modelos lembram melhor as informações no início e no final de uma entrada longa do que os fatos enterrados no meio
   • Os modelos traduzem o meio para outro idioma
4. O que o FlashAttention melhora principalmente?
   • Faz com que o modelo produza um texto mais longo
   • Adiciona mais dados de treinamento automaticamente
   • Elimina a necessidade de qualquer atenção
   • Ele reduz o gargalo de memória com uma computação lado a lado com reconhecimento de IO
5. Qual o papel dos embeddings de posição rotativa (RoPE) em modelos de contexto longo?
   • Eles codificam posições de token e, com interpolação, ajudam a generalizar para sequências mais longas
   • Eles excluem tokens da entrada
   • Eles traduzem texto entre idiomas
   • Eles armazenam os pesos do modelo
6. What does prompt-cache research reuse across compatible requests?
   • The final answer regardless of the new query
   • Computed attention state for reusable prompt segments
   • A fixed set of token IDs without model computation
   • The model’s training data
7. What does the RULER benchmark add beyond locating one isolated “needle” fact?
   • Apenas classificação de imagens
   • Audio transcription from waveforms
   • Tasks such as multi-hop tracing and aggregation over long contexts
   • GPU memory allocation benchmarks
8. Why test several task types when measuring a model’s effective context length?
   • Every task uses the same computation
   • The advertised window guarantees all tasks work
   • Task type never affects context use
   • A model may handle simple retrieval yet fail to combine or track information across a long input