ما هو التقليم?

نمط انتباه حيث يهتم كل رمز مميز فقط بنافذة ذات حجم ثابت من الرموز المميزة القريبة لتقليل الحوسبة.

علاقة تجريبية توضح كيفية تحسن الأداء مع حجم النموذج أو البيانات أو الحساب.

نموذج أصغر تم تدريبه لتقليد سلوك نموذج أكبر مع استخدام قدر أقل من الحساب عند الاستدلال.

خوارزمية التدريب الأساسية التي تعمل على تحديث أوزان النماذج عن طريق نشر أخطاء التنبؤ للخلف عبر الشبكة.

موارد المعالجة المطلوبة لتدريب النماذج وتشغيلها، والتي يتم قياسها غالبًا بوحدات FLOPS أو ساعات GPU.

متجه يوضح المقدار الذي يجب أن تتغير به كل معلمة لتقليل الخسارة.