উপস্থিতি শাস্তি কী?

একটি ডিকোডিং সেটিং যা টোকেনগুলির সম্ভাব্যতা আনুপাতিকভাবে হ্রাস করে যে তারা এখনও পর্যন্ত কতবার উপস্থিত হয়েছে৷

একটি ডিকোডিং সেটিং যা টোকেনগুলির সম্ভাবনা কমিয়ে দেয় যা মডেলটি ইতিমধ্যে লুপগুলি কমাতে তৈরি করেছে৷

একটি ডিকোডিং কৌশল যা শুধুমাত্র k থেকে সম্ভবত পরবর্তী টোকেনগুলির নমুনা নেয়৷

একটি প্রজন্মের কৌশল যা বৈধ কাঠামো বা নীতি-সম্মত পছন্দগুলিতে আউটপুট টোকেনকে সীমাবদ্ধ করে।

একটি অনুমান ত্বরণ পদ্ধতি যেখানে একটি ছোট খসড়া মডেল টোকেন প্রস্তাব করে যা একটি বড় মডেল সমান্তরালভাবে যাচাই করে।

পূর্ববর্তী টোকেনগুলি থেকে সংরক্ষিত কী এবং মান টেনসর যা ট্রান্সফরমারগুলিকে অতীতের মনোযোগ পুনরায় গণনা না করেই নতুন টোকেন তৈরি করতে দেয়৷