Тест, свързан с ръководство · Среден Ниво

Тест за ограничено декодиране

Прегледайте ограниченията на ниво токен, инкременталното анализиране, ограниченията на структурирания изход и разграничението между валиден формат и правилно съдържание.

Свързани ръководни пътекиОграничено декодиране
Въпрос 1 на 8

Какво основно прави ограниченото декодиране на всяка стъпка на генериране?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Какво основно прави ограниченото декодиране на всяка стъпка на генериране?
    • Маскира токени, които биха нарушили изискваната структура преди вземане на проби
    • Преобучава модела на структурирани примери
    • Понижава температурата до нула
    • Добавя още данни за обучение към подканата
  2. What can happen if a requested JSON Schema uses a feature unsupported by a structured-output implementation?
    • The model silently gains new training data
    • The request can be rejected with an error
    • All outputs become valid SQL
    • The schema is automatically converted to natural language
  3. Какво техническо предизвикателство прави ограниченото декодиране трудно за прилагане?
    • Моделите изобщо не могат да извеждат текст без него
    • Изисква GPU с повече от 100 GB памет
    • Токените за поддуми не се подравняват точно с граматическите символи
    • Граматиките не могат да бъдат написани за JSON
  4. Кой от тях е реален формат, използван за определяне на ограничения за декодиране?
    • Електронна таблица с тегла
    • Списък с температурите на GPU
    • Произволна начална стойност
    • JSON схема или контекстно-свободна граматика
  5. В коя точка от конвейера обикновено се прилага ограничителната маска?
    • Към логическите данни, преди стъпката softmax/проба
    • Преди токенизиране на подканата
    • След като текстът вече е отпечатан на потребителя
    • Само по време на обучение на модел
  6. В сравнение с просто искане на модел в подканата да „изведе валиден JSON“, какво предимство предлага ограниченото декодиране?
    • Използва по-малко електроенергия
    • Той предоставя твърда гаранция, вместо да разчита на сътрудничеството на модела
    • Това прави модела по-креативен
    • Премахва необходимостта от токенизатор
  7. What does PICARD do with a candidate token that would make a partial SQL query unparsable?
    • Accepts it and repairs the query after generation
    • Retrains the language model immediately
    • Rejects that token during incremental parsing before it is emitted
    • Deletes the user’s database schema
  8. What does a schema-conforming output guarantee by itself?
    • Every value is true in the external world
    • The model used the right source documents
    • No refusal or incomplete response can occur
    • The output matches the supported structure, not that its values are factually correct