Викторина, связанная с руководством · Средний Уровень
Викторина для обучения многозадачности
Проверяет жесткое и мягкое разделение задач, взвешенные цели, отрицательный перенос и методы обработки конфликтующих градиентов задач.
Вопрос 1 из 8
Как настраивается модель многозадачного обучения во время обучения?
Предварительный просмотр каждого вопроса8 вопросы
Ответы и пояснения появляются по мере прохождения теста.
- Как настраивается модель многозадачного обучения во время обучения?
- Обучение одной модели нескольким связанным задачам с общими представлениями
- Обучение отдельной модели под каждую задачу
- Использование только немаркированных данных для одной задачи
- Удаление всех скрытых слоев из сети
- В типичной сети MTL с жестким разделением параметров, что является общим, а что — отдельным?
- Все отдельно по задачам
- Общая магистраль с выходными головками для конкретных задач.
- Общая только функция потерь
- Только входные данные, а не слои
- Почему многозадачное обучение может улучшить обобщение?
- Это устраняет необходимость в каких-либо данных
- Это гарантирует нулевую ошибку обучения
- Сигналы от связанных задач упорядочивают общее представление и уменьшают переобучение.
- Это устраняет необходимость в головках для конкретных задач.
- Что такое «негативный перенос» в многозадачном обучении?
- При добавлении задач ускоряется обучение
- Когда модель имеет слишком мало параметров
- Когда все задачи имеют одинаковые метки
- Когда обучение одной задаче ухудшает выполнение другой из-за противоречивых сигналов
- Как обычно формируется общая потеря при многозадачном обучении?
- Как взвешенная сумма потерь отдельных задач
- Беря только наибольшую потерю задачи
- Игнорируя все задачи, кроме одной
- Умножая потери вместе
- Почему большие языковые модели считаются по своей сути многозадачными?
- Они могут выполнять только одну фиксированную задачу.
- Единая сеть занимается переводом, обобщением, кодированием и вопросами и ответами.
- Они используют разные модели для каждой подсказки.
- Они никогда не разделяют параметры между задачами.
- In soft parameter sharing, how are task models usually related?
- They use one identical model with no task-specific outputs
- They share no information and cannot exchange features
- They keep separate parameters but add a constraint or penalty encouraging similarity
- They share only the training labels
- What does PCGrad do when two task gradients conflict?
- It discards every task except the largest one
- It changes the task labels
- It replaces the shared backbone with separate datasets
- It projects away conflicting gradient components before combining updates