Aprender Notícias Ferramentas Vagas Missão

Termo do glossário de IA

O que é Atenção à janela deslizante?

Definição

Um padrão de atenção em que cada token atende apenas a uma janela de tamanho fixo de tokens próximos para reduzir a computação.

Navegue pelo glossário completo de IA Explore todos os guias gratuitos de IA

PodaRemovendo pesos de modelo ou neurônios menos importantes para reduzir o tamanho e a computação.Faturamento baseado no usoPreços onde os custos aumentam com chamadas de API, tokens, tempo de inferência ou computação consumida.Lei de escalaUma relação empírica que mostra como o desempenho melhora com o tamanho do modelo, dados ou computação.Modelo esparsoUm modelo onde muitos parâmetros são zero ou inativos para reduzir a computação.Decodificação EspeculativaUm método de aceleração de inferência em que um modelo pequeno propõe tokens que um modelo maior verifica em paralelo.Janela de contextoA quantidade máxima de tokens de entrada que um modelo de linguagem pode processar de uma só vez.

Saiba mais em nossos guias gratuitos

Attention Rollout and Head Pruning Sequence Parallelism and Ring Attention Multi-Head Latent Attention RWKV Linear Attention

Veja também

ALiBi BPE (Byte Pair Encoding)RoPE (Rotary Positional Embeddings)SentencePiece Positional Encoding ANN (Approximate Nearest Neighbor)Multi-Head Attention HNSW