Questionário vinculado ao guia · Difícil Nível

Teste de atenção linear e kernels de desempenho

Teste sua compreensão da atenção linear e como o Performer aproxima o softmax com eficiência.

Caminhos de guia relacionadosAtenção Linear e Kernels de Performer
Pergunta 1 de 6

Por que a atenção do softmax padrão varia mal com o comprimento da sequência?