Quiz połączony z przewodnikiem · Ciężko Poziom
Mirostat Perplexity Quiz kontrolny
Obejmuje docelowe zaskoczenie/zakłopotanie Mirostatu, próg sprzężenia zwrotnego, częstotliwość aktualizacji, różnice wersji i ograniczenia jako heurystyka dekodowania.
Pytanie 1 z 8
What does Mirostat try to control during generation?
Podgląd każdego pytania8 pytania
Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.
- What does Mirostat try to control during generation?
- A target level of output perplexity or surprise
- Liczba parametrów modelu
- The training dataset size
- Temperatura GPU
- Czym Mirostat zasadniczo różni się od standardowego próbkowania top-k lub top-p?
- Nigdy nie wykorzystuje losowości
- Dynamicznie dostosowuje obcięcie za pomocą sprzężenia zwrotnego zamiast stałego odcięcia
- Działa tylko na obrazach
- Wymaga to przeszkolenia modelu
- Jaką rolę w Mirostacie pełni parametr eta?
- Ustawia rozmiar słownictwa
- Ustala długość wyjściową
- To szybkość uczenia się kontroluje szybkość dostosowywania się progu
- Wyłącza próbkowanie
- Jakie jest główne ulepszenie Mirostatu w wersji 2 w stosunku do wersji 1?
- Generuje również obrazy
- Wymaga więcej pamięci
- Usuwa parametr tau
- Porzuca założenie dystrybucji Zipfiana na rzecz prostszej i solidniejszej kontroli
- Jeśli Mirostat wykryje, że dane wyjściowe stają się zbyt przewidywalne,:
- Poluzuj obcięcie, aby uwzględnić bardziej zróżnicowane tokeny
- Zwiększ obcięcie, aby zezwolić na mniejszą liczbę tokenów
- Natychmiast przestań generować
- Zwiększ rozmiar modelu
- Which Mirostat settings does current llama.cpp expose?
- Tokenizer vocabulary and number of layers
- Mode, target tau, and learning-rate eta
- Only the prompt length
- Training epochs and validation loss
- What does eta control in Mirostat’s feedback update?
- Rozmiar słownika modelowego
- The target number of output tokens
- How strongly the threshold changes in response to the observed error
- The probability of a correct factual answer
- What does a Mirostat target not guarantee by itself?
- That the sampler reads token probabilities
- That the setting can influence surprise
- That the output contains tokens
- That the generated text is factually correct