ما هو النموذج المقطر?

مقدار طاقة المعالجة المستهلكة أثناء إنتاج كل استجابة.

تدريب نموذج أصغر لتقليد مخرجات نموذج أكبر.

مرحلة وقت التشغيل حيث يقوم النموذج المدرب بإنشاء تنبؤات أو مخرجات.

إزالة أوزان النماذج أو الخلايا العصبية الأقل أهمية لتقليل الحجم والحساب.

حساب الاستدلال الإضافي المستخدم أثناء إنشاء الاستجابة لتحسين الجودة أو الاستدلال.

التسعير حيث تتسع التكاليف من خلال استدعاءات واجهة برمجة التطبيقات (API) أو الرموز المميزة أو وقت الاستدلال أو الحوسبة المستهلكة.