Questionário vinculado ao guia · Difícil Nível
Questionário de controle Mirostat Perplexity
Abrange a surpresa/perplexidade alvo do Mirostat, limite de feedback, taxa de atualização, diferenças de versão e limites como uma heurística de decodificação.
Pergunta 1 de 8
What does Mirostat try to control during generation?
Visualize cada pergunta8 perguntas
As respostas e explicações aparecem conforme você responde ao teste.
- What does Mirostat try to control during generation?
- A target level of output perplexity or surprise
- O número de parâmetros do modelo
- The training dataset size
- A temperatura da GPU
- Como o Mirostat é fundamentalmente diferente da amostragem top-k ou top-p padrão?
- Nunca usa aleatoriedade
- Ajusta dinamicamente o truncamento usando feedback em vez de um corte fixo
- Só funciona em imagens
- Requer um novo treinamento do modelo
- No Mirostat, qual o papel do parâmetro eta?
- Ele define o tamanho do vocabulário
- Ele corrige o comprimento de saída
- É a taxa de aprendizagem que controla a rapidez com que o limite se adapta
- Desativa a amostragem
- Qual é a principal melhoria do Mirostat versão 2 em relação à versão 1?
- Também gera imagens
- Requer mais memória
- Remove o parâmetro tau
- Ele abandona a suposição de uma distribuição Zipfian para um controle mais simples e robusto
- Se o Mirostat detectar que os resultados estão se tornando muito previsíveis, ele irá:
- Afrouxe o truncamento para admitir tokens mais diversos
- Aperte o truncamento para permitir menos tokens
- Pare de gerar imediatamente
- Aumentar o tamanho do modelo
- Which Mirostat settings does current llama.cpp expose?
- Tokenizer vocabulary and number of layers
- Mode, target tau, and learning-rate eta
- Only the prompt length
- Training epochs and validation loss
- What does eta control in Mirostat’s feedback update?
- The size of the model vocabulary
- The target number of output tokens
- How strongly the threshold changes in response to the observed error
- The probability of a correct factual answer
- What does a Mirostat target not guarantee by itself?
- Que o amostrador leia as probabilidades do token
- Que o cenário pode influenciar a surpresa
- Que a saída contém tokens
- Que o texto gerado é factualmente correto