কি ব্যবহার-ভিত্তিক বিলিং?

প্রতিটি প্রতিক্রিয়া তৈরি করার সময় প্রসেসিং পাওয়ারের পরিমাণ।

গুণমান বা যুক্তি উন্নত করতে প্রতিক্রিয়া তৈরির সময় ব্যবহৃত অতিরিক্ত অনুমান গণনা।

একটি অনুমান ত্বরণ পদ্ধতি যেখানে একটি ছোট খসড়া মডেল টোকেন প্রস্তাব করে যা একটি বড় মডেল সমান্তরালভাবে যাচাই করে।

একটি মনোযোগের প্যাটার্ন যেখানে প্রতিটি টোকেন গণনা কমাতে কাছাকাছি টোকেনের একটি নির্দিষ্ট-আকারের উইন্ডোতে উপস্থিত থাকে।

রানটাইম ফেজ যেখানে একটি প্রশিক্ষিত মডেল ভবিষ্যদ্বাণী বা আউটপুট তৈরি করে।

একটি পদ্ধতি যা বাহ্যিক জ্ঞান পুনরুদ্ধার করে এবং অনুমান সময়ে প্রজন্মের মধ্যে এটি খাওয়ায়।