Тест за обучение с много задачи

Отговорите и обясненията се появяват, докато отговаряте на теста.

1. Как се създава модел на многозадачно обучение по време на обучение?
   • Обучение на един модел на няколко свързани задачи със споделени представяния
   • Обучение на отделен модел за всяка задача
   • Използване само на немаркирани данни за една задача
   • Премахване на всички скрити слоеве от мрежа
2. В една типична MTL мрежа с твърдо споделяне на параметри какво се споделя и какво е отделно?
   • Всичко е отделно за всяка задача
   • Споделен гръбнак със специфични за задачата изходни глави
   • Споделя се само функцията на загубата
   • Само входните данни, никога слоевете
3. Защо многозадачното обучение може да подобри обобщаването?
   • Елиминира нуждата от каквито и да е данни
   • Гарантира нулева грешка при обучение
   • Сигналите от свързани задачи регулират споделеното представяне и намаляват пренастройването
   • Премахва необходимостта от специфични за задачите глави
4. Какво е „отрицателен трансфер“ при многозадачно обучение?
   • Когато добавянето на задачи ускорява обучението
   • Когато моделът има твърде малко параметри
   • Когато всички задачи споделят едни и същи етикети
   • Когато обучението на една задача вреди на изпълнението на друга поради противоречиви сигнали
5. Как обикновено се формира общата загуба при многозадачно обучение?
   • Като претеглена сума от загубите на отделните задачи
   • Поемайки само най-голямата загуба на задача
   • Като игнорира всички задачи освен една
   • Като умножим загубите заедно
6. Защо големите езикови модели се считат за присъщо многозадачни?
   • Те могат да изпълняват само една фиксирана задача
   • Една единствена мрежа обработва превод, обобщение, кодиране и въпроси и отговори
   • Те използват различен модел за всяка подкана
   • Те никога не споделят параметри между задачите
7. In soft parameter sharing, how are task models usually related?
   • They use one identical model with no task-specific outputs
   • They share no information and cannot exchange features
   • They keep separate parameters but add a constraint or penalty encouraging similarity
   • They share only the training labels
8. What does PCGrad do when two task gradients conflict?
   • It discards every task except the largest one
   • It changes the task labels
   • It replaces the shared backbone with separate datasets
   • It projects away conflicting gradient components before combining updates