Вікторина Байєса щодо глибокого навчання

Відповіді та пояснення з’являються під час виконання тесту.

1. Як байєсовська нейронна мережа обробляє свої ваги по-різному від стандартної?
   • Він розглядає кожну вагу як розподіл ймовірностей, а не як одне фіксоване значення
   • Він використовує цілі ваги замість десяткових
   • Він повністю знімає вагу
   • Він розподіляє одну вагу для всіх шарів
2. What can a Bayesian approach provide that a single fixed-weight network does not directly represent?
   • A guarantee that every confidence score is calibrated
   • A distribution of predictions that reflects uncertainty about model weights
   • A proof that the model will detect every unfamiliar input
   • A way to remove all noise from the data
3. How can epistemic uncertainty change as relevant, representative training data are added?
   • It is guaranteed to reach zero with any added data
   • It is identical to label noise
   • It may decrease under the chosen model and data assumptions
   • It always increases linearly
4. Навіщо потрібні такі наближення, як варіаційний висновок або MCMC?
   • Оскільки нейронні мережі не мають функції втрат
   • Оскільки графічні процесори не можуть виконувати додавання
   • Оскільки ваги повинні бути цілими числами
   • Тому що точний апостеріор над мільйонами ваг не піддається обчисленням
5. Що робить випадання методом Монте-Карло для оцінки невизначеності?
   • Зберігає відключення активним під час тестування та запускає мережу багато разів, використовуючи розподіл виходів
   • Вимикає випадання та тренується довше
   • Назавжди видаляє всі нейрони
   • Замінює втрату випадковим шумом
6. Варіаційний висновок переформулює апостериорну оцінку як проблему?
   • Проблема сортування
   • Проблема оптимізації, яка мінімізує розбіжність KL (через ELBO)
   • Чиста проблема випадкової вибірки без мети
   • Проблема дизайну обладнання
7. How does Bayes’ rule relate a prior, likelihood, and posterior?
   • The posterior is the prior plus the likelihood, without normalization
   • It is the likelihood divided by the prior without normalization
   • The posterior is proportional to the prior times the likelihood
   • It is the fixed point estimate of the most likely weight vector
8. How does MCMC approximate a Bayesian neural-network posterior?
   • By training a single point estimate with dropout disabled
   • By ranking model outputs with a fixed rule
   • By minimizing an ELBO with a simpler variational family
   • By drawing samples through a Markov chain whose stationary distribution targets the posterior