Quiz collegato alla guida · Difficile Livello
Mirostat Perplexity Quiz di controllo
Copre il target sorpresa/perplessità di Mirostat, la soglia di feedback, la velocità di aggiornamento, le differenze di versione e i limiti come euristica di decodifica.
Domanda 1 di 8
What does Mirostat try to control during generation?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- What does Mirostat try to control during generation?
- A target level of output perplexity or surprise
- Il numero di parametri del modello
- The training dataset size
- La temperatura della GPU
- In che modo Mirostat è fondamentalmente diverso dal campionamento standard top-k o top-p?
- Non usa mai la casualità
- Regola dinamicamente il troncamento utilizzando il feedback invece di un taglio fisso
- Funziona solo sulle immagini
- Richiede la riqualificazione del modello
- In Mirostat, che ruolo gioca il parametro eta?
- Imposta la dimensione del vocabolario
- Fissa la lunghezza dell'output
- È il tasso di apprendimento che controlla la velocità con cui la soglia si adatta
- Disabilita il campionamento
- Qual è il principale miglioramento di Mirostat versione 2 rispetto alla versione 1?
- Genera anche immagini
- Richiede più memoria
- Rimuove il parametro tau
- Abbandona il presupposto di una distribuzione Zipfian per un controllo più semplice e robusto
- Se Mirostat rileva che l'output sta diventando troppo prevedibile,:
- Allentare il troncamento per ammettere token più diversificati
- Ridurre il troncamento per consentire un minor numero di token
- Smetti di generare immediatamente
- Aumenta la dimensione del modello
- Which Mirostat settings does current llama.cpp expose?
- Tokenizer vocabulary and number of layers
- Mode, target tau, and learning-rate eta
- Only the prompt length
- Training epochs and validation loss
- What does eta control in Mirostat’s feedback update?
- The size of the model vocabulary
- The target number of output tokens
- How strongly the threshold changes in response to the observed error
- The probability of a correct factual answer
- What does a Mirostat target not guarantee by itself?
- That the sampler reads token probabilities
- That the setting can influence surprise
- That the output contains tokens
- That the generated text is factually correct