Вікторина, пов’язана з посібником · важко Рівень

Контрольна вікторина Mirostat Perplexity

Охоплює цільове здивування/здивування Mirostat, поріг зворотного зв’язку, швидкість оновлення, відмінності версій і обмеження як евристику декодування.

Пов'язані напрямні шляхиMirostat Perplexity Контроль
Питання 1 з 8

What does Mirostat try to control during generation?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. What does Mirostat try to control during generation?
    • A target level of output perplexity or surprise
    • Кількість параметрів моделі
    • The training dataset size
    • Температура GPU
  2. Чим Mirostat принципово відрізняється від стандартної вибірки top-k або top-p?
    • Він ніколи не використовує випадковість
    • Він динамічно регулює скорочення за допомогою зворотного зв’язку замість фіксованого відсічення
    • Він працює лише на зображеннях
    • Це вимагає перенавчання моделі
  3. Яку роль у Mirostat відіграє параметр eta?
    • Він встановлює розмір словникового запасу
    • Він фіксує вихідну довжину
    • Саме швидкість навчання контролює швидкість адаптації порогового значення
    • Він вимикає вибірку
  4. У чому головне вдосконалення Mirostat версії 2 порівняно з версією 1?
    • Він також створює зображення
    • Це вимагає більше пам'яті
    • Він видаляє параметр тау
    • Він відкидає припущення про розподіл Zipfian для більш простого та надійнішого контролю
  5. Якщо Mirostat виявить, що вихідні дані стають занадто передбачуваними, він:
    • Послабте скорочення, щоб дозволити більше різноманітних токенів
    • Збільште скорочення, щоб дозволити менше маркерів
    • Негайно припиніть генерацію
    • Збільште розмір моделі
  6. Which Mirostat settings does current llama.cpp expose?
    • Tokenizer vocabulary and number of layers
    • Mode, target tau, and learning-rate eta
    • Only the prompt length
    • Training epochs and validation loss
  7. What does eta control in Mirostat’s feedback update?
    • The size of the model vocabulary
    • The target number of output tokens
    • How strongly the threshold changes in response to the observed error
    • The probability of a correct factual answer
  8. What does a Mirostat target not guarantee by itself?
    • That the sampler reads token probabilities
    • That the setting can influence surprise
    • That the output contains tokens
    • That the generated text is factually correct