Útmutatóhoz kapcsolódó kvíz · Közepes Szint

Lemorzsolódás és sztochasztikus reguláris kvíz

Test random masks, training and inference modes, inverted scaling, co-adaptation limits, MC dropout, and variable predictions.

kérdés 1 -ból 8

Mit csinál a lemorzsolódás edzés közben?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Mit csinál a lemorzsolódás edzés közben?
    • Véglegesen törli a súlyokat
    • Véletlenszerűen nullára állítja a neuronkimenetek egy részét minden előrehaladáskor
    • Megduplázza a tanulási sebességet
    • További rétegeket ad a hálózathoz
  2. Miért javítja a lemorzsolódás az általánosítást?
    • Növeli a paraméterek számát
    • Megszünteti a képzési adatok szükségességét
    • Ez garantálja a nulla edzési hibát
    • Megakadályozza a neuronok koadaptációját, és redundáns, robusztus reprezentációkat kényszerít ki
  3. Mi történik a lemorzsolódással a teszt (következtetés) időpontjában?
    • Ki van kapcsolva, és a teljes hálózat használatban van
    • Még több idegsejtet dob el
    • A súlyok felét törli
    • Véletlenszerűvé teszi a címkéket
  4. A p = 0,5 lemorzsolódás egy rétegben nagyjából mit jelent az edzés során?
    • Minden idegsejt eltávolításra kerül
    • Nem érinti a neuronokat
    • A neuronok körülbelül fele nullázódik minden egyes lépésben
    • A réteg törlődik
  5. Mit neveznek gyakran közelítőnek a lemorzsolódásról?
    • Egyetlen lineáris regresszió
    • Egy döntési fa
    • Fourier transzformáció
    • Sok vékonyított hálózat együttese, amelyek súlya megoszlik
  6. Mire használják a Monte Carlo-i lemorzsolódást?
    • Az adatbetöltés felgyorsítása
    • A modell bizonytalanságának becslése a lemorzsolódás aktívan tartásával a következtetésnél
    • A hálózat tömörítése kevesebb súlyra
    • Az edzésadatok automatikus címkézése
  7. With inverted dropout, why is no extra activation scaling normally needed at ordinary inference?
    • The keep probability becomes exactly zero
    • Inference always averages new random masks
    • Surviving activations were already scaled during training
    • Every weight is divided by the number of layers
  8. The same input yields varying predictions because dropout remains active during evaluation. What explains the variation?
    • New random masks sample different subnetworks on each pass
    • The input changes its label by itself
    • The network has no trained weights
    • Batch size must be one