التقليم المنظم وإسقاط الطبقة

يؤدي التقليم المنظم إلى إزالة المكونات الكاملة للشبكة العصبية، مثل رؤوس الانتباه أو الخلايا العصبية أو الطبقات بأكملها، بحيث يعمل النموذج الأقل حجمًا بشكل أسرع على الأجهزة العادية. يعد إسقاط الطبقة هو الإصدار الأكثر عدوانية، حيث يتم حذف كتل المحولات الكاملة لتقليص العمق.

تؤدي إزالة الرؤوس الكاملة، أو الخلايا العصبية، أو الطبقات إلى تقليص أبعاد الموتر، وبالتالي فإن الأجهزة القياسية الكثيفة تقوم بعمل أقل، في حين لا يزال يتم حساب الأصفار المتناثرة.

يؤدي إسقاط الطبقة إلى إزالة كتل المحولات بأكملها، مما يؤدي إلى قطع عمق الشبكة، وهو الشكل الأكثر عدوانية للتقليم المنظم.

إذا كانت الطبقة بالكاد تغير التدفق المتبقي (تشابه كبير بين المدخلات والمخرجات)، فإنها لا تساهم إلا قليلاً وتكون مرشحة للإزالة.

يتيح الضبط الدقيق أو التقطير القصير للأوزان المتبقية إعادة امتصاص وظيفة الوحدات المشذّبة واستعادة معظم الجودة المفقودة.

يتم تقدير أهمية الرأس بمدى ارتفاع الخسارة عندما يتم إخفاؤه؛ يتم تقليم الرؤوس منخفضة الحساسية أولاً.