Questionário de dimensionamento da janela de contexto do YaRN

As respostas e explicações aparecem conforme você responde ao teste.

1. Qual esquema de codificação de posição o YaRN modifica para estender o comprimento do contexto?
   • Incorporações de posição rotativa (RoPE)
   • Incorporações sinusoidais absolutas
   • Tabelas de pesquisa posicional aprendidas
   • Vieses lineares ALiBi
2. Como o YaRN trata as dimensões RoPE de alta frequência versus baixa frequência?
   • Ele interpola ambos igualmente
   • Ele remove totalmente as dimensões de alta frequência
   • Modifica apenas dimensões de alta frequência
   • Ele deixa as dimensões de alta frequência praticamente intactas e interpola as de baixa frequência
3. How should YaRN's reported data and fine-tuning efficiency be interpreted?
   • As proof that no YaRN model ever needs training
   • As results for its evaluated model-extension setups, rather than a fixed guarantee for every model
   • As a universal promise that every dataset size works equally well
   • As removal of the need for GPUs or inference computation
4. Além de redimensionar as frequências, que ajuste extra o YaRN aplica para manter estável a atenção de longo alcance?
   • Um aumento de abandono
   • Um vocabulário maior
   • Um ajuste de temperatura de atenção (escala softmax)
   • Recorte gradiente
5. What motivates evaluating a RoPE model before using a context far beyond its original training length?
   • The model necessarily becomes perfectly accurate at longer lengths
   • The context extension automatically reduces memory to zero
   • A larger window proves every passage is equally easy to retrieve
   • Positional and attention behavior may degrade outside the conditions it learned
6. A interpolação de posição linear ingênua prejudica qual capacidade o YaRN pretende preservar?
   • Relacionamentos locais finos entre tokens próximos
   • O tamanho do vocabulário do modelo
   • A velocidade do tokenizer
   • O número de camadas
7. What happens in the transition region between YaRN's high- and low-frequency treatments?
   • Every dimension is assigned a random vocabulary token
   • All transition dimensions are deleted from attention
   • The scheme blends original and interpolated frequency treatment across the relevant dimensions
   • One identical scaling rule ignores frequency differences entirely
8. What does a checkpoint's advertised longer YaRN context limit fail to establish by itself?
   • Whether the positional scheme can accept any coordinates at all
   • Reliable performance for every intended task and position within that window
   • The spelling of the model's name
   • A requirement that every inference request retrain all weights