এআই শব্দকোষের মেয়াদ

ব্যবহার-ভিত্তিক বিলিং কী?

সংজ্ঞা

মূল্য নির্ধারণ যেখানে API কল, টোকেন, ইনফারেন্স টাইম, বা গ্রাস করা গণনা সহ খরচ স্কেল।

ইনফারেন্স-টাইম কম্পিউটপ্রতিটি প্রতিক্রিয়া তৈরি করার সময় প্রসেসিং পাওয়ারের পরিমাণ।টেস্ট-টাইম কম্পিউটগুণমান বা যুক্তি উন্নত করতে প্রতিক্রিয়া তৈরির সময় ব্যবহৃত অতিরিক্ত অনুমান গণনা।অনুমানমূলক ডিকোডিংএকটি অনুমান ত্বরণ পদ্ধতি যেখানে একটি ছোট খসড়া মডেল টোকেন প্রস্তাব করে যা একটি বড় মডেল সমান্তরালভাবে যাচাই করে।স্লাইডিং উইন্ডো মনোযোগএকটি মনোযোগের প্যাটার্ন যেখানে প্রতিটি টোকেন গণনা কমাতে কাছাকাছি টোকেনের একটি নির্দিষ্ট-আকারের উইন্ডোতে উপস্থিত থাকে।অনুমানরানটাইম ফেজ যেখানে একটি প্রশিক্ষিত মডেল ভবিষ্যদ্বাণী বা আউটপুট তৈরি করে।RAG (পুনরুদ্ধার-অগমেন্টেড জেনারেশন)একটি পদ্ধতি যা বাহ্যিক জ্ঞান পুনরুদ্ধার করে এবং অনুমান সময়ে প্রজন্মের মধ্যে এটি খাওয়ায়।

আমাদের বিনামূল্যের গাইডে আরও জানুন

আরও দেখুন