Maswali ya Kupogoa na Kuangusha Tabaka kwa Muundo

Majibu na maelezo huonekana unapojibu maswali.

1. Kwa nini kupogoa kwa mpangilio hutoa kasi halisi wakati kupogoa bila mpangilio mara nyingi haifanyi?
   • Kupogoa kwa mpangilio huondoa vizuizi vilivyoshikamana ambavyo kwa hakika hupunguza tensor
   • Kupogoa bila mpangilio huongeza ukubwa wa mfano
   • Kupogoa kwa mpangilio huongeza tabaka zaidi
   • Kupogoa bila mpangilio hufanya kazi kwenye CPU pekee
2. 'Kushuka kwa tabaka' ni nini katika muktadha wa transfoma?
   • Kupunguza kiwango cha kujifunza kwa kila safu
   • Inafuta vizuizi vyote vya kibadilishaji kubadilisha ili kupunguza kina cha mfano
   • Kuongeza kushuka kwa kila safu
   • Kupanga upya tabaka nasibu
3. Ni ishara gani inayoonyesha kawaida kuwa safu ya kibadilishaji inaweza kuangushwa kwa usalama?
   • Safu ina vigezo vingi zaidi
   • Safu ni ya kwanza kwenye mtandao
   • Majimbo yaliyofichwa ya safu na matokeo yanafanana sana
   • Safu hutumia kumbukumbu zaidi
4. Ni hatua gani kwa kawaida hurejesha usahihi baada ya kupogoa kwa mpangilio?
   • Kuongeza ukubwa wa kundi pekee
   • Kuhesabu tena hadi biti 16
   • Kuongeza vichwa vya tahadhari zaidi
   • Mzunguko mfupi wa kurekebisha vizuri au kunereka kwa maarifa
5. Je, vichwa vya uangalizi wa mtu binafsi mara nyingi huwekwaje kwa kupogoa?
   • Kwa kuongezeka kwa hasara wakati kichwa kimefungwa (unyeti)
   • Kwa mpangilio wa alfabeti
   • Kwa nafasi yao katika msamiati
   • Kwa idadi ya ishara walizoziona
6. Je, ni matumizi gani makubwa ya vitendo ya kupogoa kwa mpangilio pamoja na kunereka?
   • Inazalisha data ya mafunzo kiotomatiki
   • Kupata familia ya mifano ndogo, yenye kasi zaidi kutoka kwa kituo kimoja kikubwa cha ukaguzi
   • Usimbaji wa uzani wa mfano
   • Kuongeza urefu wa dirisha la muktadha
7. Why can a smaller student recover some function of a pruned model during distillation?
   • It restores the deleted weights in place
   • It changes the test labels
   • It is trained to match useful outputs or behavior of the larger teacher
   • It removes the need for validation
8. If a transformer layer’s input and output have high cosine similarity, what does that suggest under the guide’s pruning heuristic?
   • The layer is guaranteed to be useless for every task
   • The model must add another layer
   • The output has no features
   • The layer changed the representation relatively little and may be a candidate for dropping