Kvíz spojený s průvodcem · Těžko úroveň
Mirostat Perplexity kontrolní kvíz
Pokrývá cílové překvapení/zmatenost Mirostatu, práh zpětné vazby, rychlost aktualizace, rozdíly ve verzích a limity jako heuristiku dekódování.
Otázka 1 z 8
What does Mirostat try to control during generation?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- What does Mirostat try to control during generation?
- A target level of output perplexity or surprise
- Počet parametrů modelu
- The training dataset size
- Teplota GPU
- Jak se Mirostat zásadně liší od standardního vzorkování top-k nebo top-p?
- Nikdy nepoužívá náhodnost
- Dynamicky upravuje zkrácení pomocí zpětné vazby namísto pevného omezení
- Funguje pouze na obrázky
- Vyžaduje to přeškolení modelu
- Jakou roli hraje v Mirostatu parametr eta?
- Nastavuje velikost slovní zásoby
- Opravuje délku výstupu
- Je to rychlost učení, která řídí, jak rychle se práh přizpůsobí
- Zakáže vzorkování
- Jaké je hlavní vylepšení Mirostatu verze 2 oproti verzi 1?
- Vytváří také obrázky
- Vyžaduje více paměti
- Odstraní parametr tau
- Odpadá předpoklad Zipfian distribuce pro jednodušší a robustnější ovládání
- Pokud Mirostat zjistí, že výstup je příliš předvídatelný, provede:
- Uvolněte zkrácení, abyste mohli přijímat rozmanitější tokeny
- Utáhněte zkrácení, abyste povolili méně tokenů
- Okamžitě přestaňte generovat
- Zvětšete velikost modelu
- Which Mirostat settings does current llama.cpp expose?
- Tokenizer vocabulary and number of layers
- Mode, target tau, and learning-rate eta
- Only the prompt length
- Training epochs and validation loss
- What does eta control in Mirostat’s feedback update?
- The size of the model vocabulary
- The target number of output tokens
- How strongly the threshold changes in response to the observed error
- The probability of a correct factual answer
- What does a Mirostat target not guarantee by itself?
- That the sampler reads token probabilities
- That the setting can influence surprise
- That the output contains tokens
- That the generated text is factually correct