Útmutatóhoz kapcsolódó kvíz · Közepes Szint
Modellmetszési kvíz
Checks structured and unstructured pruning, sparse-kernel limits, iterative recovery, lottery-ticket claims, and deployment measurements.
kérdés 1 -ból 8
Mit távolít el a modellmetszés a betanított hálózatból?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Mit távolít el a modellmetszés a betanított hálózatból?
- Olyan súlyok vagy szerkezetek eltávolítása, amelyek kis mértékben járulnak hozzá a kimenethez
- További paraméterek hozzáadása a pontosság javítása érdekében
- Modell képzése több korszakhoz
- A bemeneti felbontás növelése
- Mi különbözteti meg a strukturált metszést a strukturálatlan metszéstől?
- A strukturált metszés csak képeken működik
- A strukturált metszés egész egységeket, például neuronokat vagy fejeket távolít el; strukturálatlan eltávolítja az egyéni súlyokat
- A strukturálatlan metszés a semmiből való átképzést igényel
- Gyakorlati különbség nincs köztük
- A strukturálatlan metszés miért nem gyorsítja fel gyakran a modellt a hagyományos hardveren?
- Túl sok réteget töröl
- Mindig nullára csökkenti a pontosságot
- A ritka súlyú mátrixoknak speciális hardverre vagy könyvtárakra van szükségük a nullák kihasználásához
- Növeli a paraméterek számát
- Mi a tipikus iteratív metszésrecept?
- Vágjon le mindent egyszerre, majd helyezze üzembe
- Először kvantifikáld, aztán soha ne képezd újra
- Véletlenszerűen törölje a rétegeket, amíg a pontosság csökken
- Tanítsd, vágd le a legkevésbé fontos paramétereket, finomhangold a helyreállításhoz, és ismételd meg
- Mit állít a sorsjegy-hipotézis?
- A sűrű hálózatok ritka alhálózatokat tartalmaznak, amelyek megfelelnek a teljes modellnek, ha a megfelelő inicializálásból tanítják
- A metszés mindig javítja a pontosságot
- Mindig a véletlenszerű metszés a legjobb
- A nagy modellek nem tömöríthetők
- Milyen egyszerű kritériumot használnak általában annak eldöntésére, hogy melyik súlyt kell metszeni?
- A rétegnevek ábécé sorrendje
- A súlyok abszolút nagysága
- Az aktiválási térképek színe
- A képzési példák száma
- When is pruning most likely to reduce inference latency on ordinary dense hardware?
- When individual zeros are added but the dense kernel still computes them
- When the model is renamed without changing its graph
- When whole channels or other structures are removed to produce a smaller dense model
- When a sparse checkpoint is stored in a larger file
- What should a team measure after pruning for a deployment target?
- Only the number of zeros in a checkpoint
- Only training accuracy before pruning
- Whether the file extension changed
- Task quality and latency or memory on the intended hardware