Gids-gekoppelde quiz · Middelmatig Niveau

Model Snoei Quiz

Controleert gestructureerde en ongestructureerde snoeiwerkzaamheden, beperkingen van sparse kernels, iteratief herstel, claims rond loten en implementatiemetingen.

Gerelateerde gidspadenModel snoeien
Vraag 1 van 8

What does model pruning remove from a trained network?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. What does model pruning remove from a trained network?
    • Het verwijderen van gewichten of structuren die weinig bijdragen aan de output
    • Meer parameters toevoegen om de nauwkeurigheid te verbeteren
    • Een model trainen voor meer tijdperken
    • De invoerresolutie verhogen
  2. Wat onderscheidt gestructureerd snoeien van ongestructureerd snoeien?
    • Gestructureerd snoeien werkt alleen op afbeeldingen
    • Gestructureerd snoeien verwijdert hele eenheden zoals neuronen of hoofden; ongestructureerd verwijdert individuele gewichten
    • Ongestructureerd snoeien vereist een herscholing vanaf nul
    • Er is geen praktisch verschil tussen hen
  3. Waarom slaagt ongestructureerd snoeien er vaak niet in om een model op gewone hardware te versnellen?
    • Er worden te veel lagen verwijderd
    • Het reduceert de nauwkeurigheid altijd tot nul
    • Matrices met een dun gewicht hebben speciale hardware of bibliotheken nodig om de nullen te benutten
    • Het verhoogt het aantal parameters
  4. Wat is het typische iteratieve snoeirecept?
    • Snoei alles in één keer en implementeer het vervolgens
    • Eerst kwantiseren en daarna nooit meer opnieuw trainen
    • Verwijder willekeurig lagen totdat de nauwkeurigheid afneemt
    • Train, snoei de minst belangrijke parameters, verfijn ze om te herstellen en herhaal
  5. Wat beweert de loterijhypothese?
    • Dichte netwerken bevatten verspreide subnetwerken die het volledige model kunnen evenaren als ze worden getraind vanuit de juiste initialisatie
    • Snoeien verbetert altijd de nauwkeurigheid
    • Willekeurig snoeien is altijd het beste
    • Grote modellen kunnen niet worden gecomprimeerd
  6. Welk eenvoudig criterium wordt vaak gebruikt om te beslissen welke gewichten moeten worden gesnoeid?
    • De alfabetische volgorde van laagnamen
    • De absolute grootte van de gewichten
    • De kleur van de activeringskaarten
    • Het aantal trainingsvoorbeelden
  7. When is pruning most likely to reduce inference latency on ordinary dense hardware?
    • When individual zeros are added but the dense kernel still computes them
    • When the model is renamed without changing its graph
    • When whole channels or other structures are removed to produce a smaller dense model
    • When a sparse checkpoint is stored in a larger file
  8. What should a team measure after pruning for a deployment target?
    • Only the number of zeros in a checkpoint
    • Only training accuracy before pruning
    • Whether the file extension changed
    • Task quality and latency or memory on the intended hardware