Gids-gekoppelde quiz · Middelmatig Niveau
Model Snoei Quiz
Controleert gestructureerde en ongestructureerde snoeiwerkzaamheden, beperkingen van sparse kernels, iteratief herstel, claims rond loten en implementatiemetingen.
Vraag 1 van 8
What does model pruning remove from a trained network?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- What does model pruning remove from a trained network?
- Het verwijderen van gewichten of structuren die weinig bijdragen aan de output
- Meer parameters toevoegen om de nauwkeurigheid te verbeteren
- Een model trainen voor meer tijdperken
- De invoerresolutie verhogen
- Wat onderscheidt gestructureerd snoeien van ongestructureerd snoeien?
- Gestructureerd snoeien werkt alleen op afbeeldingen
- Gestructureerd snoeien verwijdert hele eenheden zoals neuronen of hoofden; ongestructureerd verwijdert individuele gewichten
- Ongestructureerd snoeien vereist een herscholing vanaf nul
- Er is geen praktisch verschil tussen hen
- Waarom slaagt ongestructureerd snoeien er vaak niet in om een model op gewone hardware te versnellen?
- Er worden te veel lagen verwijderd
- Het reduceert de nauwkeurigheid altijd tot nul
- Matrices met een dun gewicht hebben speciale hardware of bibliotheken nodig om de nullen te benutten
- Het verhoogt het aantal parameters
- Wat is het typische iteratieve snoeirecept?
- Snoei alles in één keer en implementeer het vervolgens
- Eerst kwantiseren en daarna nooit meer opnieuw trainen
- Verwijder willekeurig lagen totdat de nauwkeurigheid afneemt
- Train, snoei de minst belangrijke parameters, verfijn ze om te herstellen en herhaal
- Wat beweert de loterijhypothese?
- Dichte netwerken bevatten verspreide subnetwerken die het volledige model kunnen evenaren als ze worden getraind vanuit de juiste initialisatie
- Snoeien verbetert altijd de nauwkeurigheid
- Willekeurig snoeien is altijd het beste
- Grote modellen kunnen niet worden gecomprimeerd
- Welk eenvoudig criterium wordt vaak gebruikt om te beslissen welke gewichten moeten worden gesnoeid?
- De alfabetische volgorde van laagnamen
- De absolute grootte van de gewichten
- De kleur van de activeringskaarten
- Het aantal trainingsvoorbeelden
- When is pruning most likely to reduce inference latency on ordinary dense hardware?
- When individual zeros are added but the dense kernel still computes them
- When the model is renamed without changing its graph
- When whole channels or other structures are removed to produce a smaller dense model
- When a sparse checkpoint is stored in a larger file
- What should a team measure after pruning for a deployment target?
- Only the number of zeros in a checkpoint
- Only training accuracy before pruning
- Whether the file extension changed
- Task quality and latency or memory on the intended hardware