O que é Atenção instantânea?
Definição
Um algoritmo de atenção otimizado que reduz o uso de memória e acelera o treinamento e a inferência do transformador.
Termos relacionados
Saiba mais em nossos guias gratuitos
Attention Rollout and Head PruningSequence Parallelism and Ring AttentionMulti-Head Latent AttentionRWKV Linear Attention