কি পুনরাবৃত্তি শাস্তি?

একটি ডিকোডিং সেটিং যা টোকেনগুলির সম্ভাব্যতা আনুপাতিকভাবে হ্রাস করে যে তারা এখনও পর্যন্ত কতবার উপস্থিত হয়েছে৷

একটি ডিকোডিং সেটিং যা টোকেনগুলির সম্ভাব্যতা হ্রাস করে যা একেবারে উপস্থিত হয়েছে, নতুন বিষয়গুলিকে উত্সাহিত করে৷

একটি ডিকোডিং কৌশল যা শুধুমাত্র k থেকে সম্ভবত পরবর্তী টোকেনগুলির নমুনা নেয়৷

একটি প্রজন্মের কৌশল যা বৈধ কাঠামো বা নীতি-সম্মত পছন্দগুলিতে আউটপুট টোকেনকে সীমাবদ্ধ করে।

একটি অনুমান ত্বরণ পদ্ধতি যেখানে একটি ছোট খসড়া মডেল টোকেন প্রস্তাব করে যা একটি বড় মডেল সমান্তরালভাবে যাচাই করে।

একটি মনোযোগের প্যাটার্ন যেখানে প্রতিটি টোকেন গণনা কমাতে কাছাকাছি টোকেনের একটি নির্দিষ্ট-আকারের উইন্ডোতে উপস্থিত থাকে।