Вікторина, пов’язана з посібником · Середній Рівень

Вікторина щодо обмеженого декодування

Ознайомтеся з обмеженнями на рівні маркерів, поступовим синтаксичним аналізом, обмеженнями структурованого виводу та відмінністю між дійсним форматом і правильним вмістом.

Пов'язані напрямні шляхиОбмежене декодування
Питання 1 з 8

Що принципово робить обмежене декодування на кожному кроці генерації?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Що принципово робить обмежене декодування на кожному кроці генерації?
    • Маскує токени, які порушують необхідну структуру перед вибіркою
    • Перенавчає модель на структурованих прикладах
    • Знижує температуру до нуля
    • Додає більше тренувальних даних до підказки
  2. What can happen if a requested JSON Schema uses a feature unsupported by a structured-output implementation?
    • The model silently gains new training data
    • The request can be rejected with an error
    • All outputs become valid SQL
    • The schema is automatically converted to natural language
  3. Яка технічна проблема ускладнює реалізацію обмеженого декодування?
    • Без нього моделі взагалі не можуть виводити текст
    • Для цього потрібен графічний процесор із понад 100 ГБ пам’яті
    • Токени підслів не відповідають граматичним символам
    • Граматику неможливо написати для JSON
  4. Який із них є реальним форматом, який використовується для визначення обмежень для декодування?
    • Електронна таблиця ваг
    • Список температур GPU
    • Випадкове початкове значення
    • Схема JSON або контекстно-вільна граматика
  5. У якій точці конвеєра зазвичай застосовується маска обмежень?
    • До логітів перед кроком softmax/вибірки
    • До токенізації підказки
    • Після текст вже виводиться користувачеві
    • Тільки під час модельних тренувань
  6. У порівнянні з простим запитом моделі в підказці «вивести дійсний JSON», яку перевагу дає обмежене декодування?
    • Він споживає менше електроенергії
    • Це забезпечує тверду гарантію, а не покладається на співпрацю моделі
    • Це робить модель більш креативною
    • Це усуває потребу в токенізаторі
  7. What does PICARD do with a candidate token that would make a partial SQL query unparsable?
    • Accepts it and repairs the query after generation
    • Retrains the language model immediately
    • Rejects that token during incremental parsing before it is emitted
    • Deletes the user’s database schema
  8. What does a schema-conforming output guarantee by itself?
    • Every value is true in the external world
    • The model used the right source documents
    • No refusal or incomplete response can occur
    • The output matches the supported structure, not that its values are factually correct