কি অনুমান?

একটি স্থাপন করা API ইন্টারফেস যা মডেল অনুরোধ গ্রহণ করে এবং উৎপাদনে পূর্বাভাস প্রদান করে।

একটি কর্মপ্রবাহ যেখানে মানুষ AI আউটপুট পর্যালোচনা, গাইড বা ওভাররাইড করে।

একটি প্রশিক্ষণ এবং আচরণ-আকৃতির পদ্ধতি যেখানে মডেল আউটপুট লিখিত নীতিগুলির একটি নির্দিষ্ট সেট দ্বারা পরিচালিত হয়।

একটি ছোট মডেল অনুমানে কম গণনা ব্যবহার করার সময় একটি বড় মডেলের আচরণ অনুকরণ করতে প্রশিক্ষিত।

মূল্য নির্ধারণ যেখানে API কল, টোকেন, ইনফারেন্স টাইম, বা গ্রাস করা গণনা সহ খরচ স্কেল।

একটি অনুমান ত্বরণ পদ্ধতি যেখানে একটি ছোট খসড়া মডেল টোকেন প্রস্তাব করে যা একটি বড় মডেল সমান্তরালভাবে যাচাই করে।