এআই শব্দকোষের মেয়াদ

অনুমান কী?

সংজ্ঞা

রানটাইম ফেজ যেখানে একটি প্রশিক্ষিত মডেল ভবিষ্যদ্বাণী বা আউটপুট তৈরি করে।

ইনফারেন্স এন্ডপয়েন্টএকটি স্থাপন করা API ইন্টারফেস যা মডেল অনুরোধ গ্রহণ করে এবং উৎপাদনে পূর্বাভাস প্রদান করে।হিউম্যান-ইন-দ্য-লুপএকটি কর্মপ্রবাহ যেখানে মানুষ AI আউটপুট পর্যালোচনা, গাইড বা ওভাররাইড করে।সাংবিধানিক এআইএকটি প্রশিক্ষণ এবং আচরণ-আকৃতির পদ্ধতি যেখানে মডেল আউটপুট লিখিত নীতিগুলির একটি নির্দিষ্ট সেট দ্বারা পরিচালিত হয়।পাতিত মডেলএকটি ছোট মডেল অনুমানে কম গণনা ব্যবহার করার সময় একটি বড় মডেলের আচরণ অনুকরণ করতে প্রশিক্ষিত।ব্যবহার-ভিত্তিক বিলিংমূল্য নির্ধারণ যেখানে API কল, টোকেন, ইনফারেন্স টাইম, বা গ্রাস করা গণনা সহ খরচ স্কেল।অনুমানমূলক ডিকোডিংএকটি অনুমান ত্বরণ পদ্ধতি যেখানে একটি ছোট খসড়া মডেল টোকেন প্রস্তাব করে যা একটি বড় মডেল সমান্তরালভাবে যাচাই করে।

আমাদের বিনামূল্যের গাইডে আরও জানুন

আরও দেখুন