Вікторина, пов’язана з посібником · Середній Рівень

Багатозадачна навчальна вікторина

Перевіряє жорсткий і м’який розподіл завдань, зважені цілі, негативний переказ і методи обробки суперечливих градієнтів завдань.

Пов'язані напрямні шляхиБагатозадачне навчання
Питання 1 з 8

How is a multi-task learning model set up during training?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. How is a multi-task learning model set up during training?
    • Навчання однієї моделі на кількох пов’язаних завданнях із спільними представленнями
    • Навчання окремої моделі для кожного завдання
    • Використання лише немаркованих даних для одного завдання
    • Видалення всіх прихованих шарів з мережі
  2. У типовій мережі MTL із жорстким обміном параметрами, що спільно, а що окремо?
    • Все окремо для кожного завдання
    • Спільна магістраль із вихідними головками для конкретних завдань
    • Спільна лише функція втрат
    • Лише вхідні дані, а не шари
  3. Чому багатозадачне навчання може покращити узагальнення?
    • Це усуває потребу в будь-яких даних
    • Це гарантує нульову помилку навчання
    • Сигнали від пов’язаних завдань упорядковують спільне представлення та зменшують переобладнання
    • Це усуває потребу в голівках для конкретних завдань
  4. Що таке «негативний перенос» у багатозадачному навчанні?
    • При додаванні завдань прискорюється навчання
    • Коли модель має занадто мало параметрів
    • Коли всі завдання мають однакові мітки
    • Коли навчання одному завданню шкодить продуктивності іншого через суперечливі сигнали
  5. Як зазвичай формуються загальні втрати при багатозадачному навчанні?
    • Як зважена сума втрат окремих завдань
    • Взявши лише найбільшу втрату завдання
    • Ігноруючи всі завдання, крім одного
    • Помноживши збитки разом
  6. Чому великі мовні моделі вважаються за своєю суттю багатозадачними?
    • Вони можуть виконувати лише одне фіксоване завдання
    • Єдина мережа обслуговує переклад, узагальнення, кодування та запитання та відповіді
    • Вони використовують різні моделі для кожного підказки
    • Вони ніколи не ділять параметри між завданнями
  7. In soft parameter sharing, how are task models usually related?
    • They use one identical model with no task-specific outputs
    • They share no information and cannot exchange features
    • They keep separate parameters but add a constraint or penalty encouraging similarity
    • They share only the training labels
  8. What does PCGrad do when two task gradients conflict?
    • It discards every task except the largest one
    • It changes the task labels
    • It replaces the shared backbone with separate datasets
    • It projects away conflicting gradient components before combining updates