Ансамблевые методы и викторина по повышению градиента

Ответы и пояснения появляются по мере прохождения теста.

1. What is the core operation in an ensemble method?
   • Combining predictions from multiple models
   • Использование одной очень большой модели вместо множества маленьких
   • Обучение модели на максимально возможном количестве данных
   • Удаление всех слабых учеников из модели
2. How does gradient boosting differ from bagging in the usual training setup?
   • Параллельное повышение деревьев поездов; упаковка в мешки тренирует их последовательно
   • Boosting adds learners sequentially; independently fitted bagging learners can be trained in parallel
   • Повышение работает только с изображениями; упаковка только по тексту
   • На практике они идентичны
3. In gradient boosting, what target does a new tree approximate?
   • Оригинальные сырые этикетки
   • Только случайное подмножество функций
   • The negative gradient of the current loss, often called a pseudo-residual
   • Среднее значение всех предыдущих деревьев
4. What is a possible effect of using a smaller learning rate in boosting?
   • Увеличить размер каждого дерева
   • Удаление деревьев, которые плохо работают
   • Преобразовать деревья в нейронные сети
   • It can make updates more gradual and may require more trees
5. What type of input is used in the cited gradient-boosted-tree examples and studies?
   • Structured or tabular data
   • Изображения высокого разрешения
   • Необработанные аудиосигналы
   • Длинные документы на естественном языке
6. Какой распространенный метод регуляризации используется для предотвращения переобучения повышения?
   • Удаление функции потерь
   • Ограничение глубины дерева и субвыборка строк/объектов
   • Всегда используйте скорость обучения ровно 1,0.
   • Обучение бесконечному количеству деревьев
7. What does an out-of-bag score estimate in a bagged tree ensemble?
   • The accuracy on examples used by every tree
   • The number of leaves in the largest tree
   • Generalization performance using training examples omitted from a tree’s bootstrap sample
   • The learning rate of a gradient-boosted model
8. What does early stopping monitor during gradient-boosting training?
   • Only the training-set row order
   • Whether the model has no trees left
   • The number of categorical columns in a spreadsheet
   • A validation metric and stops adding trees when it no longer improves