Termo do glossário de IA

O que é BPE (codificação de par de bytes)?

Definição

Um algoritmo de tokenização de subpalavras que mescla os pares de caracteres mais frequentes em tokens reutilizáveis.

Navegue pelo glossário completo de IAExplore todos os guias gratuitos de IA

Termos relacionados

TokenizaçãoO processo de divisão de texto em tokens para entrada do modelo.OCR (reconhecimento óptico de caracteres)Tecnologia que converte texto em imagens ou digitaliza em texto legível por máquina.Amostragem Top-kUma estratégia de decodificação que faz amostras apenas dos k próximos tokens mais prováveis.RetropropagaçãoO algoritmo de treinamento principal que atualiza os pesos do modelo propagando erros de previsão para trás pela rede.Bi-codificadorUm modelo que codifica consultas e documentos em vetores separados para que possam ser comparados rapidamente em escala.Pesquisa de feixeUm algoritmo de decodificação que mantém as principais sequências candidatas em cada etapa para encontrar saídas de maior probabilidade.

Saiba mais em nossos guias gratuitos

ByteDance DoubaoCycleGAN Unpaired TranslationTokenizer-Free Byte-Level ModelsInstant-NGP Hash Encoding

Veja também

Sliding Window AttentionSentencePieceALiBiANN (Approximate Nearest Neighbor)RoPE (Rotary Positional Embeddings)HNSWPositional EncodingReranker