क्या है? पुनरावृत्ति दंड?

एक डिकोडिंग सेटिंग जो टोकन की संभावना को आनुपातिक रूप से कम कर देती है कि वे अब तक कितनी बार दिखाई दिए हैं।

एक डिकोडिंग सेटिंग जो टोकन के प्रकट होने की संभावना को कम करती है, नए विषयों को प्रोत्साहित करती है।

एक डिकोडिंग रणनीति जो केवल k के सबसे संभावित अगले टोकन से नमूने लेती है।

एक पीढ़ी की रणनीति जो आउटपुट टोकन को वैध संरचनाओं या नीति-अनुपालक विकल्पों तक सीमित करती है।

एक अनुमान त्वरण विधि जहां एक छोटा ड्राफ्ट मॉडल टोकन प्रस्तावित करता है जिसे एक बड़ा मॉडल समानांतर में सत्यापित करता है।

एक ध्यान पैटर्न जहां प्रत्येक टोकन गणना को कम करने के लिए केवल पास के टोकन की एक निश्चित आकार की विंडो पर ध्यान केंद्रित करता है।