کیا ہے اندازہ?

ایک تعینات API انٹرفیس جو ماڈل کی درخواستیں وصول کرتا ہے اور پیداوار میں پیشین گوئیاں واپس کرتا ہے۔

ایک ورک فلو جہاں انسان AI آؤٹ پٹس کا جائزہ، رہنمائی، یا اوور رائیڈ کرتا ہے۔

ایک تربیت اور طرز عمل کی تشکیل کا نقطہ نظر جہاں ماڈل آؤٹ پٹس کو تحریری اصولوں کے ایک مقررہ سیٹ سے رہنمائی حاصل ہوتی ہے۔

ایک چھوٹا ماڈل جس کو کسی بڑے ماڈل کے رویے کی نقل کرنے کی تربیت دی گئی ہے جبکہ اندازہ میں کم کمپیوٹ کا استعمال کیا گیا ہے۔

قیمتوں کا تعین جہاں API کالز، ٹوکن، انفرنس ٹائم، یا استعمال شدہ کمپیوٹ کے ساتھ لاگت کی پیمائش ہوتی ہے۔

ایک انفرنس ایکسلریشن کا طریقہ جہاں ایک چھوٹا ڈرافٹ ماڈل ٹوکن تجویز کرتا ہے جس کی متوازی طور پر ایک بڑا ماڈل تصدیق کرتا ہے۔